[DIGITAL Business Africa] – L’intelligence artificielle franchit-elle un nouveau seuil qui impose de ralentir sa course ? Réunis mercredi 23 septembre 2026 devant le Conseil de sécurité des Nations unies à New York, les dirigeants d’OpenAI et d’Anthropic ont appelé à davantage de vigilance, de coopération internationale et de mécanismes de sécurité face à l’accélération des systèmes d’IA. La réunion, initiée par la France, a notamment réuni Sam Altman, patron d’OpenAI, Dario Amodei, dirigeant d’Anthropic, et Clément Delangue, cofondateur de Hugging Face. Il s’agissait d’un débat inédit au Conseil de sécurité consacré aux risques et aux opportunités liés à l’intelligence artificielle.
Face aux représentants des États membres, Sam Altman a estimé que la progression actuelle de l’intelligence artificielle « nécessite une attention extrême ». Le patron d’OpenAI a notamment alerté sur l’accélération potentielle du développement des modèles : « À mesure que le processus de développement de l’IA est de plus en plus automatisé, le rythme d’amélioration de l’IA pourrait accélérer rapidement. »
Cette accélération intervient alors que plusieurs incidents récents impliquant des modèles avancés ont alimenté les discussions sur la capacité des entreprises à maîtriser leurs systèmes.
Selon les éléments présentés lors de la réunion, certains modèles ont notamment adopté des comportements non prévus lors de tests, notamment en matière de tromperie ou de dissimulation de leurs actions. Un incident particulièrement notable a concerné deux systèmes d’OpenAI qui, lors d’évaluations, seraient sortis de leur environnement de test pour accéder à Internet et interagir avec la plateforme Hugging Face.
Pour Sam Altman, le débat sur les risques de l’IA doit toutefois éviter deux extrêmes. « Nous ne voulons pas tomber dans le piège de l’optimisme aveugle, mais nous ne pouvons pas céder non plus au catastrophisme. (…) Donc nous allons faire de notre mieux pour trouver un juste milieu », a déclaré le dirigeant d’OpenAI.
Une position qui intervient alors que les appels à une gouvernance internationale de l’intelligence artificielle se multiplient. Le patron d’OpenAI a également renouvelé son appel à une coopération entre les États. « Dans l’histoire, il y a eu des moments où des pays qui étaient en concurrence et ne s’appréciaient pas forcément (…) ont tout de même réussi à s’entendre pour le bien commun face à une nouvelle technologie. Il faut que cela se produise de nouveau », a-t-il rappelé.
De son côté, Dario Amodei, patron d’Anthropic, a franchi un pas supplémentaire en annonçant un engagement de son entreprise à ralentir le développement de ses systèmes si les conditions de sécurité l’exigent. « Nous allons ralentir autant que nécessaire » le rythme de développement de l’IA, a-t-il déclaré, afin de « s’assurer » que chaque nouveau modèle commercialisé « soit vraiment sûr ».
Il s’agit d’un engagement unilatéral particulièrement notable pour Anthropic, intervenant quelques jours après que Dario Amodei eut appelé à un freinage coordonné entre les grands acteurs de l’intelligence artificielle.
Le dirigeant d’Anthropic a également identifié deux grandes catégories de risques : « la mauvaise utilisation des modèles d’IA », notamment à des fins bioterroristes, et « la perte de contrôle », lorsque les capacités des systèmes progressent plus rapidement que la capacité des développeurs à les contrôler.
Il a par ailleurs mis en garde contre une concentration excessive du pouvoir technologique : « Aucune personne, aucune entreprise, aucun pays ne doit pouvoir utiliser les modèles d’IA les plus puissants pour imposer sa vision du monde aux autres. »
Au-delà des déclarations des dirigeants de la Silicon Valley, le débat posé devant le Conseil de sécurité porte désormais sur les mécanismes internationaux capables d’encadrer le développement de l’intelligence artificielle.
Plus de 20 pays avaient déjà appelé, lundi, à renforcer la supervision de cette technologie et évoqué la possibilité de créer, sous l’égide des Nations unies, un mécanisme international de régulation. La France défend également une approche multilatérale. « Travaillons ensemble, dans le cadre des Nations unies, et avec les entreprises, pour fixer les règles de ce nouvel âge », a déclaré le ministre français des Affaires étrangères Jean-Noël Barrot.
Le responsable français a également appelé à « renforcer sans délai nos garde-fous et organiser une gouvernance mondiale de l’intelligence artificielle au bénéfice de notre sécurité collective mais aussi de la dignité humaine ».
Les discussions se heurtent toutefois à des divergences entre États sur la nature et le niveau de supervision internationale à mettre en place. La question d’une gouvernance mondiale de l’IA reste ainsi au cœur des négociations diplomatiques.
Le débat met également en évidence une tension centrale : comment continuer à développer les capacités de l’IA tout en évitant que la recherche de performances et de bénéfices ne prenne le pas sur la sécurité ? Sam Altman a lui-même posé cette limite : « L’industrie ne doit pas accepter trop de risques technologiques simplement parce que les bénéfices sont trop conséquents et importants pour la ralentir. »
À l’ONU, les patrons d’OpenAI et d’Anthropic ont ainsi convergé sur un point : l’accélération de l’intelligence artificielle ne peut plus être abordée uniquement comme une question technologique ou commerciale. Elle devient également une question de sécurité internationale, de gouvernance et de coopération entre États et acteurs privés.
La réunion du 23 septembre 2026 marque ainsi une nouvelle étape dans le débat mondial sur la manière de concilier innovation, sécurité et contrôle des technologies d’intelligence artificielle.
Par Loic SOUOP
