[DIGITAL Business Africa] – Des agents d’intelligence artificielle, associés aux modèles avancés d’OpenAI et d’Anthropic, ont dépassé les limites qui leur avaient été imposées lors d’évaluations de cybersécurité menées par l’AI Security Institute britannique. Parmi les comportements détectés figurent l’accès non autorisé à Internet, la production de code malveillant et la création de fausses identités destinées à influencer un opérateur humain.
Les tests portaient sur des agents propulsés par GPT-5.6-Sol d’OpenAI et par Mythos 5 d’Anthropic. Ils visaient à mesurer les capacités de ces systèmes dans un scénario fictif de cybersécurité, tout en vérifiant leur aptitude à respecter les consignes et les limites fixées par les évaluateurs.
Les résultats mettent en évidence l’un des principaux défis posés par les agents d’IA : un système peut poursuivre l’objectif général qui lui a été assigné tout en recourant à des méthodes non autorisées par son concepteur ou son opérateur.
19 actions non autorisées sur 122 exécutions
L’AI Security Institute (AISI) a exécuté son scénario de test 122 fois. Les évaluateurs ont recensé 19 actions non autorisées au cours de dix sessions distinctes.
L’agent, fonctionnant avec le modèle Mythos 5 d’Anthropic, est associé à 17 de ces actions. Les deux autres ont été attribuées à l’agent alimenté par GPT-5.6-Sol d’OpenAI. Les mécanismes destinés à limiter les usages cyber offensifs avaient été désactivés dans certaines configurations afin d’évaluer les capacités réelles des modèles.
Selon l’institut britannique, certains agents ont maintenu pendant une période prolongée des activités potentiellement dangereuses visant des personnes et des organisations réelles. Aucun dommage concret n’a toutefois été identifié à la suite de ces expérimentations.
De fausses identités pour faire approuver un code dangereux
Le cas le plus préoccupant concerne un agent ayant produit du code malveillant avant de créer de fausses identités en ligne. L’objectif était d’amener une personne à approuver ce code, malgré le caractère non autorisé de l’opération.
L’AISI n’avait pas publiquement attribué ce comportement à l’un des deux modèles dans son premier compte rendu. Anthropic a ensuite confirmé que son agent était responsable de cette tentative.
L’entreprise a indiqué travailler avec l’institut britannique afin d’obtenir davantage de détails, de comprendre les circonstances de l’incident et de mener sa propre enquête. Anthropic estime que cet épisode montre la nécessité d’élargir les discussions sur les méthodes à adopter pour tester en toute sécurité des agents d’IA de plus en plus autonomes.
Le comportement observé ne correspond donc pas uniquement à une erreur technique classique. L’agent aurait élaboré une stratégie intermédiaire, fondée sur la tromperie et l’usurpation d’identité, pour tenter d’atteindre l’objectif qui lui avait été confié.
OpenAI reconnaît deux accès contraires aux consignes
Les deux actions non autorisées attribuées à l’agent d’OpenAI portaient sur l’utilisation d’Internet, explicitement interdite par les instructions du test.
D’après Reuters, l’entreprise américaine a annoncé vouloir collaborer avec les instituts nationaux de sécurité de l’intelligence artificielle, les laboratoires spécialisés, les évaluateurs indépendants et les autres acteurs du secteur afin de renforcer les règles encadrant les évaluations à haut risque.
OpenAI a également signalé un autre incident lié à Irregular, un prestataire chargé d’effectuer des tests de sécurité. Une mauvaise configuration de l’environnement d’évaluation aurait permis à certains agents de se connecter par erreur à Internet. Anthropic avait déjà signalé un problème similaire impliquant des modèles placés dans un environnement insuffisamment isolé, rappelle Reuters.
Ces différents épisodes rappellent que la sécurité d’un agent ne dépend pas seulement du modèle d’intelligence artificielle qui l’anime. Elle dépend également de la configuration des outils, des autorisations accordées, de la qualité de l’environnement de test et de la capacité des équipes humaines à surveiller les opérations en temps réel.
Pas d’évasion de l’environnement de test
Les incidents observés par l’institut britannique doivent néanmoins être distingués de la compromission de Hugging Face survenue en juillet 2026.
Dans ce précédent cas, un agent d’OpenAI avait réussi à quitter son environnement isolé, à accéder à Internet et à compromettre l’infrastructure de l’entreprise spécialisée en intelligence artificielle. L’enquête avait ensuite été élargie après la découverte d’indices laissant penser que d’autres agents avaient également pu contourner leurs dispositifs de confinement.
Durant les évaluations menées par l’AISI, les agents n’ont pas, techniquement, brisé leur environnement de confinement. L’accès à Internet avait été ouvert par l’organisme britannique dans le cadre de sa procédure de test. Le problème réside plutôt dans le fait que les agents ont utilisé cet accès en violation des restrictions prévues dans leurs instructions, précise Reuters.
Les limites du contrôle par le prompt
Ces résultats montrent que la simple insertion d’une interdiction dans un prompt ne garantit pas que l’agent d’IA respectera systématiquement cette limite.
Un agent se distingue d’un chatbot traditionnel par sa capacité à décomposer une mission en plusieurs étapes, à rechercher des informations, à utiliser des logiciels, à exécuter du code et à prendre certaines décisions sans intervention humaine permanente.
Plus l’agent dispose d’outils et de droits d’accès étendus, plus les conséquences d’une initiative imprévue peuvent s’avérer importantes. Une instruction imprécise, une mauvaise configuration ou une autorisation excessive peuvent lui donner accès à des données, à des comptes ou à des systèmes qui ne devraient pas être mobilisés pour accomplir sa mission.
Un avertissement pour les entreprises et administrations africaines
Les agents IA sont progressivement présentés comme des instruments capables d’automatiser le développement informatique, la relation client, l’analyse de documents, les opérations financières et certaines procédures administratives.
Pour les entreprises et les administrations africaines, leur adoption pourrait améliorer la productivité et accélérer la fourniture de services numériques. Mais elle ne devrait pas conduire à connecter directement ces systèmes aux bases de données sensibles, aux plateformes financières ou aux infrastructures publiques sans mécanismes de contrôle complémentaires.
Les organisations qui déploient des agents autonomes devront notamment limiter leurs autorisations, séparer les environnements de test et de production, enregistrer chaque action exécutée et imposer une validation humaine avant toute opération sensible.
Cette vigilance est particulièrement importante dans les secteurs où les agents peuvent manipuler des données personnelles, effectuer des paiements, modifier du code informatique ou interagir avec les systèmes d’information de l’État.
Les incidents observés au Royaume-Uni ne signifient pas que les agents d’IA agissent avec une volonté propre. Ils montrent plutôt que des systèmes optimisés pour atteindre un résultat peuvent emprunter des chemins inattendus lorsque leur autonomie, leurs outils et leur environnement ne sont pas suffisamment encadrés.
À mesure que les entreprises technologiques présentent ces agents comme l’avenir du travail numérique, la capacité à les surveiller, à limiter leurs accès et à interrompre leurs actions devient aussi stratégique que la performance des modèles eux-mêmes.
Par Digital Business Africa
