L’ONU dévoile une feuille de route pour la gouvernance mondiale de l’IA

Le Groupe consultatif de haut niveau sur l’intelligence artificielle (HLAB-AI) du Secrétaire général des Nations Unies (l’ONU) a publié un rapport présentant une feuille de route pour faire face aux risques liés à l’intelligence artificielle (IA) et garantir que ses avantages soient partagés à l’échelle mondiale.

Le rapport intitulé « Gouverner l’IA pour l’humanité » appelle l’ONU à établir un cadre inclusif mondial pour la gouvernance de l’IA et met en avant sept recommandations clés pour combler les lacunes des systèmes de gouvernance actuels. Il souligne également la nécessité pour les gouvernements et les acteurs mondiaux de collaborer afin de promouvoir le développement de l’IA tout en protégeant les droits humains.

Combler les lacunes de la gouvernance mondiale de l’IA

Actuellement, l’ONU indique que seuls sept des 193 États membres participent aux principales initiatives de gouvernance de l’IA, laissant ainsi 118 pays totalement non représentés. Le rapport souligne que le développement de l’IA est concentré entre les mains d’un petit nombre d’entreprises multinationales et de pays, suscitant des inquiétudes quant à l’exclusion de la majorité de la population des processus décisionnels qui influencent pourtant considérablement leur vie.

« Il est évident que l’IA comporte des risques immédiats et à long terme, notamment pour les droits humains. De plus, des préoccupations sérieuses se posent quant à la concentration du pouvoir de l’IA au sein d’un petit groupe de pays et d’entreprises », a déclaré António Guterres, Secrétaire général des Nations Unies.

Le rapport identifie des lacunes dans la gouvernance internationale de l’IA et propose des mécanismes institutionnels légers pour compléter les cadres existants. Ces mécanismes sont conçus pour être agiles et adaptatifs, assurant que la gouvernance mondiale suive le rythme de l’évolution rapide de l’IA.

Nouvelles initiatives pour une coordination internationale

Pour pallier ces lacunes, le rapport recommande la création d’un panel scientifique international sur l’IA. Ce panel fournirait des connaissances impartiales et fiables sur les développements de l’IA, soutenu par un petit secrétariat de l’ONU. Il produirait des rapports annuels sur les capacités, les risques et les tendances de l’IA, ainsi que des rapports ponctuels sur les risques émergents.

Le rapport suggère également l’instauration d’un nouveau dialogue politique sur la gouvernance de l’IA au sein de l’ONU. Ce dialogue impliquerait des réunions intergouvernementales et multipartites pour favoriser un terrain d’entente et une interopérabilité réglementaire ancrée dans les droits humains.

La création d’une plateforme d’échange de normes sur l’IA a aussi été proposée, impliquant des représentants des organisations de normalisation, des entreprises technologiques et de la société civile pour garantir l’interopérabilité technique des systèmes d’IA au-delà des frontières.

Le rapport prône également le développement d’un réseau mondial de renforcement des capacités en IA pour améliorer les compétences de gouvernance de l’IA. Ce réseau offrirait des formations, des ressources informatiques et des ensembles de données en IA aux chercheurs et entrepreneurs sociaux. Le rapport recommande aussi de créer un fonds mondial pour l’IA afin de combler les lacunes en matière de capacités et de collaboration, renforçant les efforts locaux pour promouvoir les Objectifs de Développement Durable (ODD) de l’ONU.

L’établissement d’un cadre mondial de données pour l’IA est également proposé, afin de standardiser les définitions, les principes et la gestion des données, garantissant la transparence et la responsabilité des systèmes d’IA.

Pour soutenir et coordonner la mise en œuvre de ces propositions, le rapport recommande de créer un petit bureau de l’IA au sein du Secrétariat de l’ONU. Ce bureau superviserait l’exécution des mesures de gouvernance recommandées et assurerait une approche cohérente à travers les régions et les secteurs.

« Je soutiens pleinement ces recommandations, qui offrent une feuille de route pour s’appuyer sur les efforts existants et façonner ensemble une architecture internationale de l’IA qui soit inclusive, agile et efficace pour aujourd’hui et pour l’avenir », a déclaré Guterres.

Consultation mondiale et inclusivité

Les propositions du rapport sont le fruit de consultations ayant impliqué plus de 2 000 participants provenant de toutes les régions du monde. Le

HLAB-AI a mené 18 discussions approfondies, examiné plus de 250 contributions écrites et organisé plus de 50 engagements mondiaux pour intégrer diverses perspectives d’acteurs. L’organe consultatif a également effectué le AI Risk Pulse, l’exercice de veille prospective sur l’IA le plus complet à ce jour.

Créé en octobre 2023, le HLAB-AI est composé de 39 experts de l’IA issus de 33 pays, sélectionnés parmi plus de 2 000 candidatures. Ce groupe diversifié inclut des leaders des politiques publiques, de la science, de la technologie, des droits humains et d’autres domaines pertinents, garantissant une large représentation dans les travaux de l’organe.

Ces propositions représentent une étape cruciale vers le développement d’une approche inclusive et mondiale de la gouvernance de l’IA, avec pour objectif de promouvoir la coopération et de protéger les droits humains dans un avenir guidé par l’IA.

Cette annonce fait suite à l’accord d’environ 60 pays sur un « plan d’action » pour encadrer l’utilisation responsable de l’IA dans le domaine militaire, lors d’un sommet. Le Responsible AI in the Military Domain (REAIM), co-organisé par les Pays-Bas, Singapour, le Kenya et le Royaume-Uni, vise à garantir que les discussions multipartites ne soient pas dominées par une seule nation ou entité.