Source: United Nations – in French 2
Headline: EN DIRECT – Réunion du Conseil de sécurité sur l’IA
Présidée par la France, cette réunion ministérielle a notamment entendu Yoshua Bengio, coprésident du Groupe scientifique international indépendant sur l’IA, ainsi que les dirigeants d’OpenAI, Sam Altman, d’Anthropic, Dario Amodei, et de Hugging Face, Clément Delangue.
Le Président français Emmanuel Macron avait appelé mardi, devant l’Assemblée générale des Nations Unies, à ne « rien céder » face à un monde où « quelques-uns voudraient nous faire croire que seules deux puissances, les États-Unis et la Chine, pourraient décider, ou plus exactement quelques acteurs économiques, pourraient décider de tout ».
UN Photo/ Manuel Elías Yoshua Bengio, coprésident du Groupe scientifique international indépendant sur l’IA, devant le Conseil de sécurité.
« Un réveil mondial »
« Nous assistons à un réveil mondial », a déclaré devant les Quinze Yoshua Bengio, s’exprimant à titre personnel.
Le scientifique a évoqué plusieurs incidents récents impliquant des agents d’IA développés par de grandes entreprises. Certains auraient agi contre les instructions reçues, tenté d’échapper à leur confinement, lancé des cyberattaques coordonnées ou encore modifié leurs réponses pour dissimuler leurs comportements.
Les entreprises qui développent les systèmes d’IA les plus puissants reconnaissent elles-mêmes que leurs produits comportent des risques potentiellement catastrophiques, a-t-il affirmé, tout en estimant qu’elles ne disposent pas encore de solutions techniques convaincantes pour les maîtriser.
« Les dangers sont réels et imminents », a-t-il averti, estimant que la gravité de ces risques était « extraordinaire », même si leur évolution future reste incertaine et continue de faire débat.
Pour Yoshua Bengio, trois menaces doivent désormais faire l’objet d’une réponse collective : l’utilisation catastrophique de l’IA, notamment à des fins malveillantes, la concentration du pouvoir entre quelques mains et la perte de contrôle des systèmes les plus avancés.
Il a rejeté l’idée selon laquelle les entreprises seraient condamnées à poursuivre une course à des modèles toujours plus puissants. « La course n’est pas une loi de la nature : elle résulte de choix », a-t-il souligné.
« Nous devons agir maintenant »
Le scientifique appelle les États à fixer des limites communes. « Aucun pays ni aucune entreprise ne devrait développer un système d’IA capable de causer des dommages à grande échelle », a-t-il affirmé.
Il propose notamment que les développeurs démontrent à des experts indépendants qu’un système est sûr avant son entraînement et son déploiement, que les incidents de sécurité soient systématiquement signalés et que les systèmes d’IA de pointe soient soumis à un régime de licence comparable à celui appliqué à d’autres technologies critiques.
Il réclame également une véritable indépendance scientifique vis-à-vis des entreprises, une définition commune des incidents liés à l’IA et un mécanisme international de signalement.
« Les décisions concernant cette technologie sont prises par un petit groupe dans une poignée de pays », a-t-il constaté. « Notre avenir est en jeu : les décisions qui nous concernent tous doivent être prises par nous tous. »
Pour M. Bengio, cette coopération doit aussi permettre de développer des solutions techniques garantissant une IA « sûre dès sa conception », et de faire en sorte que les entreprises puissent démontrer que leurs systèmes ne présentent pas de risques inacceptables avant leur déploiement à grande échelle.
UN Photo/ Ariana Lindquist Sam Altman, patron d’OpenAI, devant le Conseil de sécurité de l’ONU.
Les industriels appellent à encadrer les risques
Le patron d’OpenAI, Sam Altman, a défendu une approche équilibrée. L’IA pourrait être « une nouvelle renaissance de créativité et de découvertes », mais aussi devenir « une révolution industrielle de troubles et de perturbations ».
Reconnaissant que perdre le contrôle de l’IA « ça serait clairement horrible », il a toutefois appelé à ne pas céder aux deux extrêmes : « Il ne faut pas tomber dans l’optimisme béat, mais pas non plus craindre l’apocalypse ».
Il a plaidé pour une « voie pragmatique » plaçant les personnes au centre, faisant en sorte que les bénéfices des progrès scientifiques et économiques leur profitent, et donnant aux individus davantage de moyens pour créer de la valeur. La gouvernance de l’IA, a-t-il ajouté, doit être discutée « au niveau international, par la collaboration ».
Dario Amodei, cofondateur et PDG d’Anthropic, a de son côté identifié deux risques majeurs : l’utilisation malveillante de l’IA, notamment pour contribuer à la création d’armes biologiques, et la perte de contrôle de systèmes dont les capacités pourraient dépasser celles de leurs concepteurs.
« La maîtrise de l’IA est la question de sécurité internationale la plus importante à laquelle fait face l’humanité », a-t-il déclaré.
Il a appelé à une coopération internationale permettant au secteur de progresser tout en maintenant un niveau de sécurité suffisant. Parmi ses propositions : interdire l’utilisation de l’IA pour produire des armes biologiques, renforcer les systèmes d’évaluation et de vérification et établir des normes communes pour tester les nouveaux modèles et signaler les incidents.
Clément Delangue, PDG de Hugging Face, a lui aussi insisté sur la nécessité de renforcer la transparence. Il a rappelé que son entreprise avait été « la première société à révéler publiquement au monde une cyberattaque menée par un agent autonome » en 2026.
« Nous avons été attaqués par l’IA mais, plus important encore, nous nous sommes défendus grâce à l’IA », a-t-il déclaré.
Selon lui, le « plus grand risque » n’est pas nécessairement une IA puissante en soi, mais « l’asymétrie d’une IA puissante » entre attaquants et défenseurs, entreprises et concurrents, ou encore entre quelques pays et le reste du monde. Il a également mis en garde contre les discours fondés sur la peur, alimentés notamment par des « représentations anthropomorphiques et une imagerie inspirée de la science-fiction ».
UN Photo/ Ariana Lindquist Clément Delangue (à l’écran), PDG de Huggingface, présente un exposé au Conseil de sécurité de l’ONU sur l’intelligence artificielle et la sécurité internationale.
Trois risques pour la sécurité internationale
Le ministre français de l’Europe et des Affaires étrangères, Jean-Noël Barrot, qui présidait la réunion, avait identifié trois principaux enjeux de sécurité liés à l’IA générative : la perte de contrôle des modèles, leur utilisation malveillante, notamment par des acteurs non étatiques, et les armes autonomes.
Il a également souligné les répercussions de l’IA sur les marchés financiers, l’emploi et l’environnement, appelant les gouvernements à s’emparer de ces questions.
La France a convoqué cette réunion dans un contexte marqué, selon elle, par plusieurs incidents de sécurité récents et par l’accélération des capacités des systèmes d’IA. Le document de cadrage présenté au Conseil souligne notamment les risques de conflit technologique, de perte de contrôle et d’attaques contre des infrastructures critiques.
« Une voiture lancée à toute vitesse dans le brouillard »
Pour Yoshua Bengio, l’urgence est désormais de transformer les inquiétudes en action internationale.
Il a comparé la situation à « une voiture lancée à toute vitesse dans un brouillard épais », dans laquelle se trouvent ses enfants et son petit-fils. Une image destinée à illustrer le décalage entre la vitesse des progrès technologiques et la capacité collective à en maîtriser les conséquences.
Mais le scientifique refuse de considérer un scénario de perte de contrôle comme inévitable.
« Nous pouvons façonner l’issue », a-t-il affirmé, appelant les États, les scientifiques et les entreprises à travailler ensemble pour créer une IA qui reste « sous notre contrôle ».
Au-delà des divergences de ton entre les intervenants, un même enjeu s’est dégagé des débats : comment permettre à l’intelligence artificielle de développer ses bénéfices tout en évitant que ses risques ne dépassent la capacité des sociétés à les maîtriser.
Face à l’évolution rapide de ces technologies, les participants ont appelé à renforcer la coopération internationale, la transparence et les mécanismes d’évaluation. Pour le Conseil de sécurité, l’enjeu est désormais de faire évoluer les règles au rythme des capacités de l’IA, alors que celle-ci s’impose progressivement comme une question de paix et de sécurité internationales.
Retrouvez les temps forts de la réunion du Conseil grâce à la couverture en direct assurée par la Section de la couverture des réunions des Nations Unies :
Post
EN DIRECT – Réunion du Conseil de sécurité sur l’IA
