Conseil de sécurité: débat de haut niveau sur le rôle de l’IA dans le maintien de la paix et de la sécurité internationales

(Le résumé complet de la réunion sera disponible ultérieurement.) 

 Ce matin, le Conseil de sécurité organise un débat au niveau ministériel sur le rôle de l’intelligence artificielle dans le maintien de la paix et de la sécurité internationales, sous la présidence du Secrétaire d’État américain, M. Anthony Blinken. 

Les membres du Conseil entendront des exposés de M. António Guterres, Secrétaire général de l’ONU; M. Yann LeCun, professeur Meta et Jacob T. Schwartz d'informatique, de science des données, de sciences neuronales et de génie électrique et informatique à l'Université de New York; et Mme Fei-Fei Li, professeure au département d'informatique de l'Université de Stanford et codirectrice du Human-Centered AI Institute de Stanford, membre du conseil consultatif scientifique du secrétaire général. 

 D’après les États-Unis, la réunion vise à s'appuyer sur les discussions précédentes du Conseil sur les technologies émergentes et sur les efforts entrepris par les États Membres pour faire progresser le dialogue mondial sur les défis qu’elles présentent. 

Suivez toutes les délibérations en direct: En direct de l'ONU | Couverture des réunions & communiqués de presse

MAINTIEN DE LA PAIX ET DE LA SÉCURITÉ INTERNATIONALES: INTELLIGENCE ARTIFICIELLE

Exposés

M. ANTÓNIO GUTERRES, Secrétaire général de l’ONU, a rappelé qu’il avait présenté au Conseil de sécurité un exposé sur l’intelligence artificielle (IA) en juillet 2023.  L’IA ne se contente pas de remodeler notre monde, elle est en train de le révolutionner, a-t-il affirmé.  En effet, des tâches pour lesquelles il fallait des années d’expérience sont désormais accomplies en un clin d’œil.  Mais l’IA s’accompagne de risques tout aussi importants.  Son évolution fulgurante dépasse notre capacité à la réglementer, ce qui soulève des questions fondamentales en matière de responsabilité, d’égalité, de sûreté et de sécurité, a-t-il constaté.  Selon M. Guterres, elle pose aussi la question de la place de l’être humain dans la prise de décision.  « Sans boussole humaine, un monde dirigé par l’intelligence artificielle naviguerait à l’aveugle, ce qui serait à la fois dangereux et irresponsable, à plus forte raison dans le domaine du maintien de la paix et de la sécurité internationales. »  

Les conflits récents sont devenus des terrains d’essai pour les applications militaires de l’IA, a poursuivi le Secrétaire général.  Or la propagation de l’IA dans les systèmes de sécurité soulève des questions fondamentales ayant trait aux droits humains, à la dignité et à l’état de droit, notamment en ce qui concerne la surveillance autonome des frontières.  Ainsi, la « course aux armements utilisant l’IA » crée un terreau fertile pour les malentendus, les erreurs d’appréciation et les bévues.  Les cyberattaques menées à l’aide d’outils issus de l’IA pourraient paralyser les infrastructures critiques et les services essentiels de pays tout entiers, a-t-il averti.  Plus grave encore, l’IA érode le principe fondamental du contrôle humain sur l’emploi de la force.  Des algorithmes auraient déjà été utilisés en lieu et place d’évaluations fondées sur les renseignements pour sélectionner des cibles et prendre des décisions de vie ou de mort, a déploré M. Guterres.  Il a noté que l’intégration de l’IA dans les armes nucléaires est particulièrement inquiétante et pourrait « nous mener au désastre ». 

« Soyons clairs: le sort de l’humanité ne doit jamais être confié à la boîte noire d’un algorithme », a clamé M. Guterres.  Il a expliqué que l’humanité doit toujours garder le contrôle de ses décisions, inspirée par le droit international, y compris le droit international humanitaire et le droit international des droits humains, ainsi que par les principes d’éthique. Pour le Secrétaire général, « c’est l’être humain qui a créé l’IA; c’est donc l’être humain qui doit en être aux commandes ».  En outre, il a souligné que les « deepfakes » pourraient déclencher des crises diplomatiques, provoquer des troubles et saper les fondements mêmes des sociétés, tandis que l’empreinte écologique de l’IA représente elle aussi un risque très particulier pour la sécurité.  La consommation massive d’énergie et d’eau des centres de données d’IA, conjuguée à une ruée sur les minéraux critiques, crée une concurrence dangereuse pour l’obtention de ressources et génère des tensions géopolitiques. 

Des défis mondiaux sans précédent appellent une coopération mondiale sans précédent, a plaidé M. Guterres.  L’ONU a poursuivi ses efforts pour réduire la fragmentation de la gouvernance de l’IA et contribuer à faire converger ces initiatives distinctes dans un cadre commun, a-t-il relevé.  Ainsi, l’Assemblée générale a adopté deux résolutions sur l’IA afin de promouvoir l’amélioration de la coopération mondiale et le renforcement des capacités à cet égard.  Une troisième résolution, portant sur l’IA dans le domaine militaire, a été établie sur recommandation de la Première Commission et sera examinée par l’Assemblée dans les jours à venir, a annoncé le Secrétaire général.  S’appuyant sur des consultations mondiales approfondies, le Groupe consultatif de haut niveau sur l’intelligence artificielle qu’il a créé vient d’élaborer, en un temps record, un plan d’action devant permettre de parer aux risques conséquents que l’IA fait peser sur l’humanité, mais aussi de bénéficier des opportunités qu’elle incarne. 

Adopté par les dirigeants lors du Sommet de l’avenir, le Pacte pour l’avenir représente le premier cadre de gouvernance de l’IA universellement entériné, s’est félicité le Secrétaire général.  Le Pacte pour l’avenir les engage à créer un groupe scientifique international indépendant sur l’IA et à entamer un dialogue mondial sur la gouvernance de l’IA à l’ONU, donnant à chaque pays une tribune pour s’exprimer. « Nous ne devons jamais tolérer que l’IA devienne synonyme d’aggravation des inégalités », a déclaré le Chef de l’ONU. 

Selon lui, tout retard dans la mise en place de garde-fous internationaux accroît le risque pour nous tous.  Il a donc exhorté les États Membres à agir rapidement afin d’établir le groupe scientifique international sur l’IA et d’engager le Dialogue mondial sur la gouvernance de l’intelligence artificielle, au sein de l’ONU.  Aucun pays ne doit concevoir, développer, déployer ou utiliser des applications militaires de l’IA dans les conflits armés qui violent le droit international, le droit humanitaire et les droits humains, a encore averti le Secrétaire général.  Il a invité les membres du Conseil « à montrer l’exemple et veiller à ce que la compétition autour des technologies émergentes ne déstabilise pas la paix et la sécurité internationales ». 

Pour M. YANN LECUN, professeur Meta et Jacob T. Schwartz d’informatique, de science des données, de sciences neuronales et de génie électrique et informatique à l’Université de New York, a déclaré que l’IA va profondément transformer le monde dans les années et les décennies à venir.  Elle deviendra omniprésente et nous aidera dans notre vie quotidienne, comme un groupe d’assistants humains le ferait.  Nous interagirons avec elle via des appareils portables comme des lunettes intelligentes et des smartphones, a-t-il prédit, en affirmant qu’elle donnera un élan à la productivité et à la créativité humaine. Elle aidera les pays dont la population vieillit ou diminue et accélérera les progrès scientifiques et technologiques, elle contribuera à résoudre certains des plus grands problèmes auxquels l’humanité est confrontée, comme les changements climatiques et le traitement du cancer, ainsi que les maladies endémiques ou chroniques. 

Les systèmes d’IA, a poursuivi le scientifique, constitueront à terme un référentiel de toutes les connaissances humaines.  Les systèmes d’IA se produisent en deux phases: la formation d’un modèle de base et son affinage en vue d’une application particulière.  M. LeCun a expliqué que les systèmes affinés doivent être nombreux et diversifiés pour représenter toutes les cultures et tous les systèmes de valeurs.  Deux conditions sont, selon lui, nécessaires pour que cela se produise: les modèles de base doivent être libres et en open source et la formation effectuée de manière collaborative et distribuée, dans plusieurs centres de données à travers le monde.  Aussi les gouvernements et le secteur privé doivent-ils travailler ensemble pour garantir que ce réseau mondial d’infrastructures existe pour soutenir le développement de l’IA, permettant aux gens du monde entier de participer à la création d’une ressource commune.  Pour de nombreux gouvernements, il est inacceptable que le « régime numérique » de leurs citoyens soit contrôlé par une poignée d’entreprises, a relevé le chercheur.  Meta, a-t-il assuré, a joué un rôle de premier plan dans la production et la distribution de modèles de base libres et open source, tels que la famille Llama. 

Les applications d’IA doivent aussi être déployées en toute sécurité, a encore noté M. LeCun, qui a rappelé que, historiquement, les plateformes open source ont été plus sûres que les plateformes payantes.  « Les prédictions d’un flot de désinformation générée par l’IA se sont avérées exagérées.  Rien ne prouve que les formes actuelles de l’intelligence artificielle présentent un risque existentiel, ou même une menace significativement accrue par rapport aux technologies traditionnelles telles que les moteurs de recherche », a tempéré le Directeur scientifique.  Mais l’IA fera des progrès spectaculaires au cours de la prochaine décennie et il ne fait aucun doute qu’à un moment donné, ses systèmes égaleront et dépasseront les capacités intellectuelles humaines, « probablement au cours de la prochaine décennie, voire dans deux ».

M. LeCun a estimé que l’effet de l’IA sur la société pourrait s’apparenter à l’invention de l’imprimerie: « en amplifiant l’intelligence humaine, l’IA pourrait apporter non seulement une nouvelle révolution industrielle, mais une nouvelle renaissance, une nouvelle période d’illumination pour l’humanité ».  Ainsi, elle peut contribuer au maintien de la paix et de la sécurité internationales –la mission vitale du Conseil de sécurité de l’ONU– en dynamisant la diffusion des connaissances et en alimentant la croissance économique mondiale, a expliqué le chercheur.  Comme pour Internet, la coopération internationale devrait se concentrer sur deux initiatives.  Tout d’abord, collecter du matériel culturel, fournir des superordinateurs axés sur l’IA dans plusieurs régions du monde et établir un modus operandi pour la formation distribuée d’un modèle de base universel libre et ouvert.  Ensuite, harmoniser les règlementations afin que le développement et le déploiement de modèles de base open source ne soient pas entravés.

Mme FEI-FEI LI, professeure au département d’informatique de l’Université de Stanford et codirectrice du Human-Centered AI Institute de Stanford, membre du Conseil scientifique consultatif chargé de rendre des avis indépendants sur les percées scientifiques et technologiques, les avancées de l’IA obligent à rester vigilant car ces mêmes capacités peuvent être utilisées à mauvais escient.  Cette dualité –la capacité d’aider ou de nuire profondément– est au cœur de l’impact de l’IA sur la paix et la sécurité.  C’est pourquoi le leadership du secteur public et une approche de l’IA centrée sur l’humain sont essentiels. 

Pour que l’IA soit au service de l’humanité plutôt que de se destruction, Mme Li a suggéré d’élargir l’accès et les avantages de l’IA à tous.  Pour cela, il faut un secteur public de l’IA doté de ressources suffisantes pour veiller à ce que les avantages de l’IA soient largement répartis et alignés sur les intérêts publics.  Les gouvernements devraient prendre des mesures audacieuses pour combler cette lacune.  Il faut aussi des investissements visionnaires de la part du secteur public, allant au-delà des réformes progressives.  Les États-Unis ont ainsi franchi une étape importante avec un projet pilote sur l’IA visant à démocratiser l’accès aux ressources de calcul et aux ensembles de données gouvernementales.  Cet effort devrait être étendu à l’échelle mondiale, en particulier pour s’assurer qu’aucun pays n’est laissé pour compte. 

Ensuite, a poursuivi la professeure, il faut envisager la création d’un institut multilatéral de recherche sur l’IA pour rassembler des experts de toutes les disciplines et mettre en commun les ressources entre les pays.  Cet institut devrait établir des normes mondiales pour le développement et le déploiement responsables de l’IA, ancrées dans les valeurs démocratiques et un engagement envers la paix et la sécurité internationales. La collaboration mondiale doit également s’attaquer aux fractures numériques persistantes qui menacent de marginaliser certaines régions du monde.  Enfin, Mme Li a appelé à veiller à ce que tout le monde ait un accès équitable aux outils, à la formation et à l’infrastructure de l’IA.  « Il faut une gouvernance prudente de l’IA fondée sur des données probantes.