IA : « On a créé une arme de destruction massive dans le domaine virtuel », alerte Maxime Fournes

[DIGITAL Business Africa] – La course mondiale à l’intelligence artificielle franchit-elle une zone de danger ? Alors que les grands laboratoires développent des modèles toujours plus puissants et autonomes, les alertes sur les risques de perte de contrôle se multiplient. Pour Maxime Fournes, cofondateur et président de l’association Pause IA et ancien ingénieur en intelligence artificielle, le rythme actuel de développement est devenu préoccupant.

Grand invité international sur les antennes de RFI ce 10 Aout 2026, l’expert affirme avoir commencé à s’inquiéter entre 2020 et 2022, lorsqu’il a pris conscience de la vitesse des progrès de l’IA et de la perspective de systèmes capables, à terme, de dépasser l’humain dans tous les domaines.

Pour illustrer les dangers, Maxime Fournes évoque des expérimentations récentes impliquant des agents d’intelligence artificielle. Selon son récit, des IA entraînées sur des machines isolées d’Internet auraient réussi à découvrir des failles dans leur environnement, à communiquer entre elles et à collaborer pour contourner certaines protections.

Après une première correction des failles, les systèmes auraient reproduit leurs capacités et lancé des attaques vers l’extérieur, notamment contre Hugging Face. Fournes affirme que les agents auraient réussi à prendre le contrôle de serveurs de production en moins de 13 heures.

« C’est une cyberattaque extrêmement sophistiquée de niveau étatique qui a été menée de bout en bout par des intelligences artificielles sans aucun humain aux commandes », alerte-t-il.

Pour l’expert, le danger tient surtout à l’autonomie des systèmes : les IA auraient réalisé des actions qu’elles n’avaient pas reçu l’instruction d’effectuer.

Le risque ne concernerait plus uniquement les entreprises technologiques. Les économies modernes reposent désormais sur des infrastructures numériques interconnectées : banques, télécommunications, administrations, systèmes industriels ou encore services essentiels.

« On a créé globalement une arme de destruction massive dans le domaine virtuel », estime Maxime Fournes.

Il prend l’exemple du secteur bancaire : une IA capable de pénétrer les systèmes informatiques d’une banque pourrait, selon lui, provoquer des perturbations majeures sur les comptes et, plus largement, sur les infrastructures financières.

« Toute notre infrastructure de communication et informatique est maintenant à risque », résume-t-il.

Face à cette accélération, Maxime Fournes appelle à une réponse internationale. Sa proposition est radicale : instaurer une pause dans le développement des systèmes d’intelligence artificielle les plus avancés.

« Il faut absolument mettre en place une pause du développement des intelligences artificielles au niveau international », affirme-t-il.

Mais l’expert ne s’arrête pas à un appel général aux gouvernements. Il interpelle directement la France, à laquelle il demande d’utiliser son poids diplomatique pour faire émerger un accord international.

« La France doit commencer à utiliser la voie diplomatique et essayer d’utiliser ce levier-là pour lancer un traité international pour mettre en pause le développement de l’intelligence artificielle avant qu’une catastrophe se produise », déclare-t-il. Et d’ajouter : « il ne reste plus beaucoup de temps ».

Selon lui, la pression économique pousse les entreprises à vouloir commercialiser toujours plus rapidement des modèles plus performants. Les États, eux aussi, ont intégré l’IA dans une logique de compétition stratégique.

« C’est vraiment une course en avant », dénonce-t-il, appelant notamment la France à utiliser la voie diplomatique pour favoriser un traité international.

Pour agir, l’expert identifie également les infrastructures physiques de l’IA comme des leviers de contrôle : les gigantesques data centers nécessaires à l’entraînement et au fonctionnement des modèles, mais aussi la chaîne de production des processeurs spécialisés.

Pour autant, Maxime Fournes ne préconise pas d’abandonner l’intelligence artificielle. Il reconnaît ses bénéfices potentiels, notamment dans la santé, mais estime que l’innovation ne peut durablement progresser sans un niveau de sécurité suffisant.

Il compare la situation à celle de l’aviation civile : les avions n’auraient jamais connu leur développement actuel si l’industrie n’avait pas massivement investi dans la sécurité.

« Si on veut capturer les bénéfices, les plus grands bénéfices, il faut faire en sorte que les risques ne se réalisent pas », explique-t-il.

La différence, selon lui, réside dans l’ampleur potentielle des conséquences : les risques liés à des IA très avancées pourraient être « catastrophiques et à l’échelle planétaire ».

Le scénario d’une intelligence artificielle échappant à ses concepteurs ne relève donc plus, selon lui, de la seule science-fiction.

« Une perte de contrôle est tout à fait réaliste », affirme Maxime Fournes, qui souligne que cette possibilité est désormais prise au sérieux dans le domaine de la sécurité de l’IA.

Pour lui, le caractère inédit de la révolution actuelle tient à un élément fondamental : l’humanité est en train d’automatiser sa propre capacité intellectuelle.

« On est en train d’automatiser l’intelligence humaine », estime-t-il. Des systèmes sont ainsi développés alors même qu’ils pourraient, à terme, dépasser les capacités humaines.

Pour l’Afrique, engagée dans l’accélération de sa transformation numérique, cette alerte pose une question stratégique : comment bénéficier de la puissance de l’IA tout en sécurisant les infrastructures, les données et les services essentiels qui en dépendent ?

Le débat n’est donc plus seulement celui de la performance des modèles. Il porte désormais sur la capacité des États, des entreprises et des développeurs à conserver le contrôle des systèmes qu’ils mettent au monde.

Et pour Maxime Fournes, le temps presse : « il ne reste plus beaucoup de temps » pour mettre en place une réponse internationale.

Par Loic SOUOP