Débat au Conseil de sécurité sur le rôle de l’intelligence artificielle: pour des systèmes sûrs, sécurisés et dignes de confiance, qui bénéficient à tous
(En raison de la crise de liquidités qui affecte l’Organisation des Nations Unies, la Section des communiqués de presse est contrainte de modifier le format de la couverture des réunions.)
Le Conseil de sécurité a tenu ce matin un débat de haut niveau présidé par le Secrétaire d’État américain, M. Antony J. Blinken, sur le rôle de l’intelligence artificielle (IA) dans le maintien de la paix et de la sécurité internationales, avec la participation du Secrétaire général de l’ONU et de deux professeurs spécialistes de la question. C’est le second débat du genre après celui du 18 juillet 2023.
« Soyons clairs: le sort de l’humanité ne doit jamais être confié à la boîte noire d’un algorithme », a averti M. António Guterres. Dans un vibrant plaidoyer, le Secrétaire général de l’ONU a expliqué que « l’humanité doit toujours garder le contrôle de ses décisions », inspirée par le droit international, y compris le droit international humanitaire et le droit international des droits humains, ainsi que par les principes d’éthique.
Les outils de l’intelligence artificielle (IA) font déjà une différence positive dans les pays souffrant de conflits et d’insécurité, a reconnu le Secrétaire général de l’ONU. Mais l’IA est également entrée sur le champ de bataille de manière plus troublante, a souligné M. António Guterres. « Les conflits récents sont devenus des terrains d’essai pour les applications militaires de l’IA. »
Des inquiétudes partagées par les membres du Conseil de sécurité face aux mauvais usages potentiels de l’IA sur le plan militaire, ce qui aurait un impact délétère sur le maintien de la paix et la sécurité internationales. Ils ont, dans leur grande majorité, souligné la nécessité de voir des systèmes d’IA sûrs et dignes de confiance, tout en plaidant pour une coopération internationale inclusive afin de développer des normes internationales en la matière.
Cette dualité –la capacité d’aider ou de nuire profondément– est au cœur de l’impact de l’IA sur la paix et la sécurité, comme l’a résumé Mme Fei-Fei Li, professeure au Département d’informatique de l’Université de Stanford et codirectrice du Human-Centered AI Institute de Stanford.
Tous ont prôné la vigilance. Si l’IA peut être exploitée de manière positive pour soutenir les efforts de prévention des conflits et de consolidation de la paix, elle peut également favoriser des menaces transfrontalières complexes: cyberattaques, campagnes de désinformation, contenus extrémistes violents et propagande terroriste.
Pour le Secrétaire général, la « course aux armements utilisant l’IA » crée un terrain fertile pour les malentendus, les erreurs d’appréciation et les bévues. Plus grave encore, l’IA érode le principe fondamental du contrôle humain sur l’emploi de la force. Il a noté que l’intégration de l’IA dans les armes nucléaires est particulièrement inquiétante et pourrait « nous mener au désastre ».
Son évolution fulgurante dépasse notre capacité à la réglementer, ce qui soulève des questions fondamentales en matière de responsabilité, d’égalité, de sûreté et de sécurité, a-t-il poursuivi. Selon lui, elle pose aussi la question de la place de l’être humain dans la prise de décision. « Sans boussole humaine, un monde dirigé par l’intelligence artificielle naviguerait à l’aveugle, ce qui serait à la fois dangereux et irresponsable, à plus forte raison dans le domaine du maintien de la paix et de la sécurité internationales », a-t-il relevé.
La nécessité d’une utilisation responsable de l’IA
À la suite du Secrétaire général, plusieurs délégations ont adhéré à l’idée d’une gouvernance mondiale de l’IA. C’est le cas de la Chine qui a rappelé qu’en octobre 2023, le Président Xi Jinping a proposé une initiative de gouvernance mondiale de l’IA qui prenne en compte les dimensions sécuritaire et de développement. Le Gouvernement chinois a d’ailleurs adopté la toute première législation au monde sur l’IA générative, s’est enorgueillie la délégation. Pour la Ministre des affaires étrangères et de la mobilité humaine de l’Équateur, Mme Gabriela Sommerfeld Rosero, il serait judicieux de créer un nouvel organisme international de réglementation de l’IA, sur le modèle du Groupe d’experts intergouvernemental sur l’évolution du climat (GIEC), afin d’éviter une nouvelle course aux armements.
Avec l’adoption par consensus de deux résolutions sur l’IA et du Pacte numérique mondial, l’Assemblée générale a reconnu la capacité unique de rassemblement de l’ONU qui a pris la tête du débat mondial sur la gouvernance de l’IA, parallèlement à d’autres initiatives, a noté la Slovénie. En effet, le Secrétaire général a rappelé que le Groupe consultatif de haut niveau sur l’IA qu’il a créé vient d’élaborer, en un temps record, un plan d’action devant permettre de parer aux risques conséquents que l’IA fait peser sur l’humanité, mais aussi de bénéficier des opportunités qu’elle incarne. Il a exhorté les États Membres à agir rapidement afin d’établir le groupe scientifique international sur l’IA et d’engager le Dialogue mondial sur la gouvernance de l’IA au sein de l’ONU.
Également membre du Conseil scientifique consultatif chargé de rendre des avis indépendants sur les percées scientifiques et technologiques, Mme Li a indiqué que les avancées de l’IA nécessitent le leadership du secteur public et une approche de l’IA centrée sur l’humain. Elle a recommandé d’élargir l’accès et les avantages de l’IA à tous.
Initiatives diverses de promotion de l’IA
Le Secrétaire d’État américain a estimé que son pays a la responsabilité, par ses grandes entreprises technologiques, de prendre les devants pour influencer l’évolution des nouvelles technologies. M. Antony J. Blinken a souligné que les États-Unis ont créé un réseau d’instituts de recherche sur la sûreté de l’IA, lequel devrait faire des recommandations en la matière. Le premier traité international sur l’IA a été signé cette année par l’Union européenne, les États-Unis et neuf autres pays, a-t-il rappelé. De même, les États-Unis ont déjà rallié 60 États soucieux de prévenir l’utilisation militaire de l’IA.
Pour de nombreux gouvernements, il est inacceptable que le « régime numérique » de leurs citoyens soit contrôlé par une poignée d’entreprises, a relevé M. Yann LeCun, professeur Meta et Jacob T. Schwartz d’informatique, de science des données, de sciences neuronales et de génie électrique et informatique à l’Université de New York. Aussi les gouvernements et le secteur privé doivent-ils travailler ensemble pour garantir que ce réseau mondial d’infrastructures existe pour soutenir le développement de l’IA, permettant aux citoyens du monde entier de participer à la création d’une ressource commune. L’entreprise Meta, a-t-il témoigné, a joué un rôle de premier plan dans la production et la distribution de modèles de base libres et ouverts, tels que la famille LLaMA.
Pour le Japon, il faut promouvoir la coopération numérique, y compris le renforcement des capacités et le développement des infrastructures liées à l’IA. Dans le cadre du Processus du G7, dit d’Hiroshima, sur l’intelligence artificielle générative, lancé l’an dernier sous la direction du Japon, les Principes directeurs internationaux pour les systèmes d’IA avancés et le Code de conduite international pour les systèmes d’IA avancés ont été élaborés, a indiqué la délégation nippone.
La France a informé que sa priorité doit être de mettre en place pour l’IA une gouvernance internationale « inclusive et multiacteurs, responsable, respectueuse des droits fondamentaux ». C’est dans cette optique qu’aura lieu à Paris, les 10 et 11 février prochains, un Sommet mondial pour l’IA, dont l’un des premiers objectifs sera de contribuer à faire émerger un socle commun de gouvernance. Organisations internationales, entreprises, communauté technique, chercheurs et acteurs de la société civile vont s’atteler à progresser dans la définition d’une vision commune pour une IA de confiance, mise au service de l’intérêt général, a précisé le délégué français.
Réduire la fracture numérique grâce à l’IA
En tant que premier signataire de la Convention sur l’IA du Conseil de l’Europe, le Royaume-Uni a dit s’être engagé à protéger les droits humains, la démocratie et l’état de droit contre les risques posés par l’IA. Dans le cadre de la collaboration AI for Development, le Royaume-Uni a déjà déboursé 58 millions de livres pour financer des laboratoires de recherche multidisciplinaires en IA dans six pays africains. Dans la même veine, plusieurs intervenants ont souhaité que le développement de l’IA soit accessible à tous et n’aggrave pas la fracture numérique.
Comme c’est le cas pour Internet, la coopération internationale devrait se concentrer sur deux initiatives, selon le M. LeCun. Tout d’abord, collecter du matériel culturel, fournir des superordinateurs axés sur l’IA dans plusieurs régions du monde et établir un modus operandi pour la formation d’un modèle de base universel, libre et ouvert. Ensuite, harmoniser les règlementations afin que le développement et le déploiement de modèles de base ouverts ne soient pas entravés. Pour l’Algérie, il serait louable de créer des mécanismes internationaux inclusifs pour l’expertise en matière de sécurité de l’IA, les pays en développement n’étant pas seulement des observateurs, mais « des architectes égaux de notre avenir commun ».
D’autres voix ont appelé à soutenir les pays en développement dans la création de stratégies d’IA, car aucune nation ne devrait être laissée pour compte dans cette révolution. La Fédération de Russie a fait observer qu’il existe une autre possibilité d’empêcher ensemble le retard des pays du Sud en augmentant les ressources pour le développement de l’IA dans ces pays, notamment par les transferts de technologies et le développement du capital humain.
Alors que la Ministre des affaires étrangères et de la coopération du Mozambique, Mme Verónica Nataniel Macamo Dlhovo, a mis en garde contre l’utilisation abusive de l’IA pour déstabiliser des régions ou saper la souveraineté des États, la Russie a émis des doutes sur la sincérité de la note de cadrage élaborée par la présidence américaine du Conseil de sécurité. Elle a rappelé comment les États-Unis ont contribué à bâtir un système international commercial « qu’ils n’ont pas hésité à piétiner par la suite ». Le Conseil de sécurité n’est d’ailleurs pas le bon endroit pour débattre de l’IA, a assené le délégué russe.
Pourtant, l’IA représente une opportunité pour une mise en œuvre plus efficace des mandats du Conseil de sécurité, a retorqué M. Thomas Guerber, Secrétaire d’État de la Suisse. En collaboration avec la DiploFoundation basée à Genève, la Suisse a expérimenté un outil basé sur l’IA qui facilite l’accès et l’analyse des données issues de 10 réunions du Conseil de sécurité, avec un accent sur le Nouvel Agenda pour la paix. Le Conseil doit mieux anticiper l’impact des technologies telles que l’IA sur le maintien de la paix et de la sécurité internationales, a conclu la Suisse.
MAINTIEN DE LA PAIX ET DE LA SÉCURITÉ INTERNATIONALES: INTELLIGENCE ARTIFICIELLE
Exposés
M. ANTÓNIO GUTERRES, Secrétaire général de l’ONU, a rappelé qu’il avait présenté au Conseil de sécurité un exposé sur l’intelligence artificielle (IA) en juillet 2023. L’IA ne se contente pas de remodeler notre monde, elle est en train de le révolutionner, a-t-il affirmé. En effet, des tâches pour lesquelles il fallait des années d’expérience sont désormais accomplies en un clin d’œil. Mais l’IA s’accompagne de risques tout aussi importants. Son évolution fulgurante dépasse notre capacité à la réglementer, ce qui soulève des questions fondamentales en matière de responsabilité, d’égalité, de sûreté et de sécurité, a-t-il constaté. Selon M. Guterres, elle pose aussi la question de la place de l’être humain dans la prise de décision. « Sans boussole humaine, un monde dirigé par l’intelligence artificielle naviguerait à l’aveugle, ce qui serait à la fois dangereux et irresponsable, à plus forte raison dans le domaine du maintien de la paix et de la sécurité internationales. »
Les conflits récents sont devenus des terrains d’essai pour les applications militaires de l’IA, a poursuivi le Secrétaire général. Or la propagation de l’IA dans les systèmes de sécurité soulève des questions fondamentales ayant trait aux droits humains, à la dignité et à l’état de droit, notamment en ce qui concerne la surveillance autonome des frontières. Ainsi, la « course aux armements utilisant l’IA » crée un terreau fertile pour les malentendus, les erreurs d’appréciation et les bévues. Les cyberattaques menées à l’aide d’outils issus de l’IA pourraient paralyser les infrastructures critiques et les services essentiels de pays tout entiers, a-t-il averti. Plus grave encore, l’IA érode le principe fondamental du contrôle humain sur l’emploi de la force. Des algorithmes auraient déjà été utilisés en lieu et place d’évaluations fondées sur les renseignements pour sélectionner des cibles et prendre des décisions de vie ou de mort, a déploré M. Guterres. Il a noté que l’intégration de l’IA dans les armes nucléaires est particulièrement inquiétante et pourrait « nous mener au désastre ».
« Soyons clairs: le sort de l’humanité ne doit jamais être confié à la boîte noire d’un algorithme », a clamé M. Guterres. Il a expliqué que l’humanité doit toujours garder le contrôle de ses décisions, inspirée par le droit international, y compris le droit international humanitaire et le droit international des droits humains, ainsi que par les principes d’éthique. Pour le Secrétaire général, « c’est l’être humain qui a créé l’IA; c’est donc l’être humain qui doit en être aux commandes ». En outre, il a souligné que les « deepfakes » pourraient déclencher des crises diplomatiques, provoquer des troubles et saper les fondements mêmes des sociétés, tandis que l’empreinte écologique de l’IA représente elle aussi un risque très particulier pour la sécurité. La consommation massive d’énergie et d’eau des centres de données d’IA, conjuguée à une ruée sur les minéraux critiques, crée une concurrence dangereuse pour l’obtention de ressources et génère des tensions géopolitiques.
Des défis mondiaux sans précédent appellent une coopération mondiale sans précédent, a plaidé M. Guterres. L’ONU a poursuivi ses efforts pour réduire la fragmentation de la gouvernance de l’IA et contribuer à faire converger ces initiatives distinctes dans un cadre commun, a-t-il relevé. Ainsi, l’Assemblée générale a adopté deux résolutions sur l’IA afin de promouvoir l’amélioration de la coopération mondiale et le renforcement des capacités à cet égard. Une troisième résolution, portant sur l’IA dans le domaine militaire, a été établie sur recommandation de la Première Commission et sera examinée par l’Assemblée dans les jours à venir, a annoncé le Secrétaire général. S’appuyant sur des consultations mondiales approfondies, le Groupe consultatif de haut niveau sur l’intelligence artificielle qu’il a créé vient d’élaborer, en un temps record, un plan d’action devant permettre de parer aux risques conséquents que l’IA fait peser sur l’humanité, mais aussi de bénéficier des opportunités qu’elle incarne.
Adopté par les dirigeants lors du Sommet de l’avenir, le Pacte pour l’avenir représente le premier cadre de gouvernance de l’IA universellement entériné, s’est félicité le Secrétaire général. Le Pacte pour l’avenir les engage à créer un groupe scientifique international indépendant sur l’IA et à entamer un dialogue mondial sur la gouvernance de l’IA à l’ONU, donnant à chaque pays une tribune pour s’exprimer. « Nous ne devons jamais tolérer que l’IA devienne synonyme d’aggravation des inégalités », a déclaré le Chef de l’ONU.
Selon lui, tout retard dans la mise en place de garde-fous internationaux accroît le risque pour nous tous. Il a donc exhorté les États Membres à agir rapidement afin d’établir le groupe scientifique international sur l’IA et d’engager le Dialogue mondial sur la gouvernance de l’intelligence artificielle, au sein de l’ONU. Aucun pays ne doit concevoir, développer, déployer ou utiliser des applications militaires de l’IA dans les conflits armés qui violent le droit international, le droit humanitaire et les droits humains, a encore averti le Secrétaire général. Il a invité les membres du Conseil « à montrer l’exemple et veiller à ce que la compétition autour des technologies émergentes ne déstabilise pas la paix et la sécurité internationales ».
Pour M. YANN LECUN, professeur Meta et Jacob T. Schwartz d’informatique, de science des données, de sciences neuronales et de génie électrique et informatique à l’Université de New York, a déclaré que l’IA va profondément transformer le monde dans les années et les décennies à venir. Elle deviendra omniprésente et nous aidera dans notre vie quotidienne, comme un groupe d’assistants humains le ferait. Nous interagirons avec elle via des appareils portables comme des lunettes intelligentes et des smartphones, a-t-il prédit, en affirmant qu’elle donnera un élan à la productivité et à la créativité humaine. Elle aidera les pays dont la population vieillit ou diminue et accélérera les progrès scientifiques et technologiques, elle contribuera à résoudre certains des plus grands problèmes auxquels l’humanité est confrontée, comme les changements climatiques et le traitement du cancer, ainsi que les maladies endémiques ou chroniques.
Les systèmes d’IA, a poursuivi le scientifique, constitueront à terme un référentiel de toutes les connaissances humaines. Les systèmes d’IA se produisent en deux phases: la formation d’un modèle de base et son affinage en vue d’une application particulière. M. LeCun a expliqué que les systèmes affinés doivent être nombreux et diversifiés pour représenter toutes les cultures et tous les systèmes de valeurs. Deux conditions sont, selon lui, nécessaires pour que cela se produise: les modèles de base doivent être libres et en open source et la formation effectuée de manière collaborative et distribuée, dans plusieurs centres de données à travers le monde. Aussi les gouvernements et le secteur privé doivent-ils travailler ensemble pour garantir que ce réseau mondial d’infrastructures existe pour soutenir le développement de l’IA, permettant aux gens du monde entier de participer à la création d’une ressource commune. Pour de nombreux gouvernements, il est inacceptable que le « régime numérique » de leurs citoyens soit contrôlé par une poignée d’entreprises, a relevé le chercheur. Meta, a-t-il assuré, a joué un rôle de premier plan dans la production et la distribution de modèles de base libres et open source, tels que la famille Llama.
Les applications d’IA doivent aussi être déployées en toute sécurité, a encore noté M. LeCun, qui a rappelé que, historiquement, les plateformes open source ont été plus sûres que les plateformes payantes. « Les prédictions d’un flot de désinformation générée par l’IA se sont avérées exagérées. Rien ne prouve que les formes actuelles de l’intelligence artificielle présentent un risque existentiel, ou même une menace significativement accrue par rapport aux technologies traditionnelles telles que les moteurs de recherche », a tempéré le Directeur scientifique. Mais l’IA fera des progrès spectaculaires au cours de la prochaine décennie et il ne fait aucun doute qu’à un moment donné, ses systèmes égaleront et dépasseront les capacités intellectuelles humaines, « probablement au cours de la prochaine décennie, voire dans deux ».
M. LeCun a estimé que l’effet de l’IA sur la société pourrait s’apparenter à l’invention de l’imprimerie: « en amplifiant l’intelligence humaine, l’IA pourrait apporter non seulement une nouvelle révolution industrielle, mais une nouvelle renaissance, une nouvelle période d’illumination pour l’humanité ». Ainsi, elle peut contribuer au maintien de la paix et de la sécurité internationales –la mission vitale du Conseil de sécurité de l’ONU– en dynamisant la diffusion des connaissances et en alimentant la croissance économique mondiale, a expliqué le chercheur. Comme pour Internet, la coopération internationale devrait se concentrer sur deux initiatives. Tout d’abord, collecter du matériel culturel, fournir des superordinateurs axés sur l’IA dans plusieurs régions du monde et établir un modus operandi pour la formation d’un modèle de base universel libre et ouvert. Ensuite, harmoniser les règlementations afin que le développement et le déploiement de modèles de base open source ne soient pas entravés.
Mme FEI-FEI LI, professeure au département d’informatique de l’Université de Stanford et codirectrice du Human-Centered AI Institute de Stanford, membre du Conseil scientifique consultatif chargé de rendre des avis indépendants sur les percées scientifiques et technologiques, les avancées de l’IA obligent à rester vigilant car ces mêmes capacités peuvent être utilisées à mauvais escient. Cette dualité –la capacité d’aider ou de nuire profondément– est au cœur de l’impact de l’IA sur la paix et la sécurité. C’est pourquoi le leadership du secteur public et une approche de l’IA centrée sur l’humain sont essentiels.
Pour que l’IA soit au service de l’humanité plutôt que de se destruction, Mme Li a suggéré d’élargir l’accès et les avantages de l’IA à tous. Pour cela, il faut un secteur public de l’IA doté de ressources suffisantes pour veiller à ce que les avantages de l’IA soient largement répartis et alignés sur les intérêts publics. Les gouvernements devraient prendre des mesures audacieuses pour combler cette lacune. Il faut aussi des investissements visionnaires de la part du secteur public, allant au-delà des réformes progressives. Les États-Unis ont ainsi franchi une étape importante avec un projet pilote sur l’IA visant à démocratiser l’accès aux ressources de calcul et aux ensembles de données gouvernementales. Cet effort devrait être étendu à l’échelle mondiale, en particulier pour s’assurer qu’aucun pays n’est laissé pour compte.
Ensuite, a poursuivi la professeure, il faut envisager la création d’un institut multilatéral de recherche sur l’IA pour rassembler des experts de toutes les disciplines et mettre en commun les ressources entre les pays. Cet institut devrait établir des normes mondiales pour le développement et le déploiement responsables de l’IA, ancrées dans les valeurs démocratiques et un engagement envers la paix et la sécurité internationales. La collaboration mondiale doit également s’attaquer aux fractures numériques persistantes qui menacent de marginaliser certaines régions du monde. Enfin, Mme Li a appelé à veiller à ce que tout le monde ait un accès équitable aux outils, à la formation et à l’infrastructure de l’IA. « Il faut une gouvernance prudente de l’IA fondée sur des données probantes.
NOUVEAU - Suivez la couverture des réunions en direct sur notre LIVE