L’avenir appartient à tous
La voie vers un avenir positif avec l’intelligence artificielle
Nous avons la chance de vivre un moment extraordinaire de l’histoire. Dans les prochaines années, les êtres humains pourront utiliser une superintelligence dépassant les capacités humaines pour créer et découvrir des choses extraordinaires, fonder de nouvelles entreprises, exprimer de nouvelles idées, apprendre de nouveaux concepts et améliorer notre santé ainsi que notre qualité de vie. À mesure que nous nous rapprochons de ce moment, il est important de définir une philosophie qui nous permettra d’utiliser au mieux la superintelligence, afin qu’elle améliore nos vies, notre travail, nos communautés, notre liberté et notre sécurité.
Les questions déterminantes de notre époque sont les suivantes : qui aura accès à la superintelligence et vers quels objectifs l’orienterons-nous ? Sera-t-elle centralisée et réservée à quelques institutions, ou deviendra-t-elle un outil donnant davantage de pouvoir à chacun ?
Nous proposons une philosophie fondée sur l’autonomisation individuelle comme source de prospérité, l’invention comme finalité première de la superintelligence et l’équilibre des pouvoirs comme socle de la sécurité.
Toute nouvelle technologie crée des possibilités et des difficultés. La superintelligence figurera parmi les technologies les plus importantes de l’histoire. Ses possibilités et ses risques seront donc probablement plus grands que tout ce que nous avons connu au cours de notre vie. Nous devons prendre cette question très au sérieux.
Il est néanmoins surprenant de constater à quel point le discours de nombreux acteurs qui développent l’IA est imprégné de catastrophisme. Je ne comprends pas pourquoi quelqu’un qui pense que l’IA supprimera la plupart des emplois et une grande partie de la pertinence de l’humanité s’empresserait de construire cet avenir. L’idée selon laquelle l’IA serait si dangereuse que la seule voie sûre consisterait à concentrer le pouvoir de manière extrême me paraît fondamentalement problématique. Historiquement, espérer qu’un pouvoir absolu suffisamment éclairé prendra soin de l’humanité avec bienveillance n’a pas conduit à des résultats sûrs ou positifs.
L’humanité a connu de nombreuses avancées transformatrices. Chaque fois, certains ont craint que des personnes soient laissées pour compte. Mais, chaque fois, l’humanité en est sortie avec un plus grand nombre de personnes bénéficiant d’une prospérité, d’une santé et d’une liberté accrues. Nous pensons qu’il en sera de même avec l’IA et que l’abondance future pourra être partagée par tous. Nous pensons également que les valeurs qui nous ont permis d’arriver jusqu’ici — notamment la liberté, la recherche ouverte, la libre entreprise et l’égalité des chances — sont aussi les bonnes valeurs pour construire un avenir positif.
C’est en donnant aux personnes le pouvoir de poursuivre leurs propres aspirations que l’humanité a réalisé ses plus grands progrès. Les idées nouvelles et les avancées majeures proviennent rarement des seules institutions établies. Elles sont venues de deux frères travaillant dans un atelier de bicyclettes et convaincus que l’être humain pouvait voler, d’un apprenti relieur sans instruction qui a découvert comment produire de l’électricité, ou encore d’un jeune homme dans un garage qui pensait que les ordinateurs personnels pouvaient être accessibles à tous. Nous pensons que cela continuera d’être vrai. À mesure que chacun disposera d’outils plus puissants, chaque personne deviendra davantage capable de façonner l’avenir, et non moins.
L’invention, et non l’automatisation, constituera la plus grande contribution de la superintelligence. Les premières formes d’IA pouvaient répondre à des questions et effectuer des tâches routinières. Bientôt, l’IA contribuera de plus en plus à la découverte de nouvelles connaissances : de la mise au point de médicaments pour guérir la maladie d’un membre de la famille à la recherche de nouvelles méthodes pour améliorer une entreprise. Si le nombre de questions qu’une personne peut poser en une journée est limité, le nombre de choses utiles que la superintelligence pourra inventer pour l’aider à atteindre ses objectifs est, lui, illimité.
À mesure que l’intelligence deviendra abondante, la question la plus importante sera de savoir comment nous l’orienterons. Certains estiment que la superintelligence elle-même, ou un petit groupe d’experts qui la contrôlent, devrait décider de ce qui est préférable pour l’humanité. Nous ne partageons pas cette vision. L’histoire de la démocratie et de l’économie a montré qu’il n’existe pas de réponse objective unique à la manière dont chacun définit la meilleure vie possible. La meilleure approche consiste donc à laisser les personnes décider de ce qui compte dans leur propre vie.
Nous pensons que mettre la superintelligence à la disposition de tous est la meilleure façon de répondre à cette question. Cette démarche s’inscrit dans la tradition qui a consisté à placer la puissance des superordinateurs et d’Internet dans les poches et sur les bureaux de chacun. Au lieu de centraliser la superintelligence, nous devons la diffuser largement et donner à chaque personne la capacité de l’orienter.
Cette approche pourrait ouvrir une nouvelle ère d’autonomisation personnelle, dans laquelle chacun utiliserait cette nouvelle capacité puissante pour réaliser pleinement son potentiel, poursuivre ses centres d’intérêt et améliorer sa vie ainsi que le monde comme jamais auparavant.
Pour rendre cette vision plus concrète, voici quelques-unes des manières dont Meta construit une superintelligence personnelle destinée à améliorer la vie de tous.
- Chacun disposera d’un agent personnel extrêmement performant, capable de vous comprendre, de connaître vos objectifs et tout ce qui compte pour vous. Votre agent travaillera en permanence pour améliorer vos relations, votre santé, votre carrière, vos finances, la gestion de votre foyer, vos loisirs et bien d’autres aspects de votre vie. Il vous libérera du temps pour les activités que vous aimez et vous aidera à accomplir davantage que vous ne pourriez le faire autrement.
Il proposera de solides options de confidentialité et de sécurité, de sorte que vous pourrez lui confier vos contenus personnels en sachant que personne d’autre ne pourra accéder à vos informations, à l’image du chiffrement utilisé sur WhatsApp. Vous pourrez interagir avec votre agent depuis n’importe quel appareil, notamment à travers vos lunettes, afin de rester présent dans l’instant avec les personnes qui comptent pour vous.
Par exemple, mon agent attire mon attention sur des informations intéressantes et m’aide à réaliser des prototypes de mes idées. Il m’aide à rester en bonne santé en surveillant mon sommeil, puis en observant mes entraînements et en me donnant des conseils. Ma fille adore faire de la pâtisserie. Mon agent conçoit donc chaque week-end des recettes personnalisées que nous pouvons réaliser ensemble, commande les ingrédients et nous fait des suggestions pendant que nous cuisinons.
- Chacun disposera d’outils de création extraordinaires pour exprimer ses idées. Ma fille de huit ans peut déjà programmer ses idées et produire, en une soirée, des vidéos qui m’auraient demandé plusieurs mois de travail ou auraient été impossibles à réaliser auparavant. Nous concevons maintenant un robot ensemble.
Parallèlement, les chercheurs de Meta génèrent de nouvelles structures cristallines particulièrement adaptées aux lunettes de réalité augmentée, tandis que les ingénieurs créent de nouvelles applications en une fraction du temps qui aurait été nécessaire auparavant. Bientôt, tout le monde disposera de véritables superpouvoirs d’invention.
- Chacun disposera d’outils puissants pour créer de nouvelles entreprises, et l’économie deviendra plus entrepreneuriale. Les personnes commencent à pouvoir concrétiser elles-mêmes leurs idées sans avoir à lever des capitaux ni à constituer de grandes équipes. De nombreuses idées qui auraient auparavant été trop difficiles ou trop coûteuses à expérimenter deviendront réalisables.
Nous verrons donc beaucoup plus d’idées et d’entreprises émerger. Je prévois que cela entraînera non seulement une croissance économique beaucoup plus importante, mais aussi, avec le temps, davantage d’emplois plutôt que moins.
- Chacun disposera d’un professeur et d’un coach personnalisés, titulaires d’un doctorat dans chaque matière, et dotés d’une patience illimitée pour l’aider à apprendre tout ce qu’il souhaite. Les élèves bénéficieront d’un soutien supplémentaire dans les domaines où ils en ont besoin, alors que ce type d’accompagnement est aujourd’hui souvent réservé à ceux dont les parents peuvent le financer.
Les adultes disposeront d’un assistant d’apprentissage superintelligent, capable de leur enseigner précisément de nouvelles compétences professionnelles, de nouvelles langues, de nouveaux loisirs ou tout autre sujet qui les intéresse.
- Chacun profitera des avancées scientifiques et pourra contribuer au progrès scientifique. Par exemple, Biohub a déjà publié en open source des modèles biologiques liés aux cellules virtuelles et aux protéines. Ces modèles aident les scientifiques à réaliser de nouvelles découvertes et à concevoir de nouveaux médicaments.
Lorsque Priscilla et moi avons commencé ce travail, notre objectif était d’aider les scientifiques à guérir ou prévenir toutes les maladies au cours de ce siècle. Avec les progrès de l’IA, nous pensons désormais que cela pourra devenir possible beaucoup plus tôt.
Comme il existe une multitude de pathologies rares et que la biologie de chaque personne est différente, la participation directe des individus contribuera à développer des traitements personnalisés et à accélérer les essais, afin qu’ils suivent le rythme des inventions. Elle permettra aussi au secteur de ne plus concentrer une part disproportionnée de ses efforts sur les maladies les plus courantes.
Au-delà de la biologie, l’IA aidera les personnes à faire progresser la recherche dans tous les domaines, en appliquant la méthode scientifique et en travaillant pendant des semaines ou des mois pour tester et affiner des hypothèses. La découverte scientifique sera probablement l’une des formes d’invention les plus précieuses pour la société.
- Chacun bénéficiera d’un accès gratuit ou abordable à ces outils. Pour que tout le monde puisse participer à l’avenir, chacun doit pouvoir utiliser la superintelligence afin d’améliorer sa vie et de façonner le monde.
Nous proposerons des versions gratuites accessibles à des milliards de personnes. Pour ceux qui souhaiteront payer afin de disposer d’une puissance de calcul supérieure, un mécanisme dynamique d’enchères garantira à chacun le prix le plus bas possible pour l’intelligence et la puissance de calcul utilisées, tout en veillant à ce que les capacités disponibles soient affectées aux usages que les personnes jugent collectivement les plus utiles. Cela permettra de diffuser largement les bénéfices de la superintelligence.
Ce sont quelques-uns des principaux chantiers sur lesquels Meta se concentre. Chacun d’eux fait progresser les valeurs d’autonomisation personnelle et contribue à construire un avenir où tout le monde jouera un rôle plus important que celui qu’il occupe aujourd’hui dans la transformation du monde.
Si ces efforts aboutissent, l’avenir apportera une abondance de pouvoir d’action individuel, une plus grande expression des idées, un approfondissement des relations, une prospérité économique et financière accrue, une meilleure santé ainsi que des inventions que nous ne pouvons pas encore imaginer.
Mais, surtout, cet avenir sera créé par nous tous et reflétera l’ensemble de nos valeurs et de nos points de vue.
Les nouvelles technologies entraînent également de nouveaux risques. Nous nous attachons à répondre à de nombreuses préoccupations importantes : le déplacement des emplois, la nécessité de faire bénéficier les communautés locales de la construction des centres de données, les risques liés à l’utilisation abusive de l’IA dans les domaines de la cybersécurité et de la biologie, la prévention de la tyrannie et de la surveillance gouvernementales, le maintien du leadership des États-Unis et des pays démocratiques, ainsi que la nécessité de garantir que l’humanité conserve le contrôle de la superintelligence pour qu’elle nous serve au lieu de nous mettre en danger.
Selon la vision conventionnelle, ces préoccupations sont avant tout technologiques : si nous prenons suffisamment de temps, nous pourrons perfectionner ou aligner la technologie afin de produire une superintelligence unique et bienveillante. Je pense que cette conception de l’alignement est fondamentalement erronée.
L’humanité n’est pas une monoculture. La diversité des valeurs humaines reflète les différents arbitrages que les personnes effectueraient sur des questions importantes. Il n’existe aucune solution technologique capable de s’aligner simultanément sur tous les intérêts et toutes les valeurs contradictoires. Toute superintelligence unique serait obligée de privilégier certaines valeurs au détriment d’autres et serait, de ce fait, incapable d’être bienveillante envers tout le monde.
Nous pensons qu’il est plus productif d’examiner chacune de ces préoccupations sous l’angle de la recherche du bon équilibre des pouvoirs, comme le fait la société occidentale au sein de ses institutions démocratiques. Les personnes et les institutions ayant des intérêts concurrents se contrôlent et se contrebalancent naturellement, ce qui favorise des résultats positifs.
La meilleure voie, et la plus réaliste, pour construire un avenir positif avec l’IA consiste à mettre la superintelligence à la disposition de tous.
À titre d’expérience de pensée, imaginons qu’une seule personne dispose d’un avocat superintelligent. Elle bénéficierait d’un avantage injuste devant les tribunaux, même si elle avait tort sur le fond. Cela conduirait à une société moins juste. Imaginons maintenant que chacun dispose d’un avocat superintelligent. Dans ce cas, la justice serait rendue de manière beaucoup plus équitable et efficace qu’aujourd’hui, où les litiges sont souvent marqués par un déséquilibre des compétences et des ressources.
De même, si une seule personne disposait d’une superintelligence spécialisée en cybersécurité, elle pourrait probablement s’introduire dans presque tous les systèmes techniques, et le monde serait beaucoup moins sûr qu’aujourd’hui. Mais si tout le monde avait accès à cette superintelligence, l’ensemble de nos systèmes techniques deviendrait plus sûr, car une superintelligence largement déployée contribuerait à renforcer et à mettre à jour chaque système.
Si une seule entreprise disposait de la superintelligence, elle surclasserait toutes les autres, ce qui aboutirait à un marché moins dynamique et moins largement prospère qu’aujourd’hui. Mais si chacun y a accès, tout le monde disposera des outils nécessaires pour créer des choses qui dépassent ce qui est actuellement possible. L’économie deviendra plus dynamique et générera une prospérité plus largement partagée.
Lorsque les personnes disposent de davantage de pouvoir, elles se font naturellement concurrence et se contrôlent mutuellement sur les plans économique, social, politique et dans tous les autres domaines de l’interaction humaine. Elles contrôlent également le pouvoir des institutions, notamment celui des entreprises et des gouvernements.
Mais si le pouvoir de la superintelligence est détenu par un petit nombre de personnes, d’entreprises, de gouvernements, ou par l’IA elle-même, cela produira naturellement des résultats moins favorables à tous les autres. Il ne s’agit pas d’un principe technologique, mais d’une question d’équilibre des pouvoirs. Il n’existe pas de superintelligence unique et bienveillante.
La clé d’un avenir positif pour tous consiste donc à établir un équilibre des pouvoirs favorable aux individus. La solution est de veiller à ce que la superintelligence soit largement distribuée afin de donner davantage de pouvoir aux personnes.
Meta est l’entreprise principalement tournée vers la construction d’une superintelligence personnelle accessible à tous. La plupart des autres laboratoires se concentrent sur la création d’IA destinées aux entreprises, aux gouvernements ou à d’autres institutions. Si ces laboratoires prennent les devants, l’équilibre des pouvoirs favorisera les grandes institutions au détriment des individus.
Depuis sa création, la mission de Meta consiste à placer le pouvoir entre les mains des personnes. Si nos convictions et nos principes s’imposent, l’équilibre des pouvoirs favorisera les individus et un avenir meilleur pour tous.
Examinons maintenant plus en détail chacun des risques mentionnés.
La croissance de l’emploi et l’économie
Les êtres humains ont une demande infinie de nouvelles expériences et trouvent constamment de nouveaux problèmes à résoudre. Il existe dans l’économie un équilibre naturel entre, d’un côté, les entreprises qui cherchent à répondre plus efficacement aux besoins des personnes grâce à l’automatisation et, de l’autre, les individus qui acquièrent de nouvelles compétences pour répondre à des besoins plus avancés. Lorsque cet équilibre est sain, la productivité globale et l’innovation augmentent, tandis que les niveaux d’emploi demeurent élevés.
Certains craignent que l’automatisation progresse plus rapidement que les capacités des individus, provoquant des suppressions d’emplois suivies d’une période difficile pendant laquelle les personnes devront apprendre de nouveaux métiers. Mais aucune règle n’impose que l’IA accélère l’automatisation plus rapidement qu’elle n’accroît les capacités individuelles ou la demande de nouvelles compétences.
Les statistiques récentes suggèrent que la progression des capacités individuelles pourrait égaler ou dépasser celle de l’automatisation. Dans ce cas, les personnes seraient capables d’accomplir de nombreuses choses nouvelles avant même que leur emploi actuel ne se transforme. Cela conduirait à un équilibre sain et pourrait même favoriser la croissance de l’emploi.
Le résultat dépendra de l’équilibre entre les progrès de l’automatisation, d’un côté, et ceux de l’autonomisation individuelle et de l’invention, de l’autre. Si les laboratoires qui se concentrent sur l’automatisation du travail intellectuel prennent les devants, je m’attends à une transition beaucoup plus difficile pour les personnes et pour l’économie. Mais si tout le monde a accès à une superintelligence personnelle qui accroît ses capacités, l’équilibre penchera en faveur de l’autonomisation individuelle et d’un avenir positif.
Plusieurs raisons permettent de penser que les emplois seront abondants à l’avenir. Quel que soit le niveau d’intelligence atteint par l’IA, la puissance de calcul restera limitée. Il existera donc toujours un coût d’opportunité dans la manière de l’utiliser.
Si les personnes peuvent se servir de l’IA pour inventer de nouvelles choses extrêmement précieuses, il sera plus pertinent d’affecter la puissance de calcul à ces inventions qu’à l’automatisation des emplois existants. Plus la superintelligence servira d’outil d’invention, plus les capacités individuelles auront de chances de progresser plus rapidement que l’automatisation, et meilleur sera l’avenir pour les personnes.
Les êtres humains imaginent aussi continuellement de nouvelles manières d’améliorer leur vie et de nouveaux emplois pour donner corps à leurs idées. Il y a une génération, les développeurs d’applications, les créateurs sur les réseaux sociaux, les techniciens de véhicules électriques et les opérateurs de centres de données n’existaient pas.
Dans un avenir proche apparaîtront des métiers qui ne sont pas courants aujourd’hui : des studios de création composés d’une seule personne concevant des jouets, des meubles ou des vêtements personnalisés ; des bâtisseurs de mondes et des concepteurs d’expériences créant des jeux, des histoires et des aventures ; des biologistes personnels utilisant la superintelligence pour formuler des traitements personnalisés ; ainsi que beaucoup d’autres métiers que nous ne pouvons pas encore concevoir.
Il s’agit, à bien des égards, de la poursuite de tendances historiques. Avant la révolution industrielle, 90 % de la population travaillait dans l’agriculture pour produire de quoi survivre. Les avancées technologiques ont progressivement permis à une grande partie de l’humanité de consacrer moins de temps à la subsistance et davantage aux activités de son choix.
À chaque étape, les personnes ont utilisé les gains de productivité pour accomplir plus que ce qui était auparavant possible, mais aussi pour consacrer davantage de temps à la créativité, à la culture, aux relations et au plaisir de vivre.
Certains aspects de notre manière de travailler changeront, bien entendu, comme ils ont changé avec les ordinateurs, Internet et toutes les nouvelles technologies. Les personnes devront s’adapter, et cela sera difficile. Mais plus chacun disposera d’un agent personnel superintelligent capable de lui enseigner de nouvelles compétences et de l’aider à s’adapter, plus cette transition sera fluide.
La taille des entreprises pourrait diminuer, comme cela s’est produit lors du passage des géants industriels aux entreprises technologiques. Cela ne signifie toutefois pas qu’il y aura moins d’emplois au total. Cela implique plutôt un plus grand nombre d’entreprises employant chacune moins de personnes.
Il existe beaucoup plus d’entreprises et de services utiles à créer que ce que les personnes sont actuellement capables de bâtir. Je pense que nous commencerons à voir de petits groupes, équipés d’agents personnels superintelligents, diriger des entreprises de taille importante.
À l’avenir, les petites entreprises continueront de constituer l’épine dorsale de l’économie, mais chacune d’elles pourra produire un impact beaucoup plus grand.
Construire les infrastructures d’IA avec les communautés
Le développement durable des infrastructures suppose que les communautés bénéficient de manière substantielle de chaque projet. Cela comprend des emplois locaux bien rémunérés, des investissements dans les écoles et les services publics, la garantie que les prix de l’énergie n’augmenteront pas et la protection de l’environnement.
L’augmentation des recettes fiscales profite également aux enseignants, aux forces de l’ordre, aux services d’incendie et à de nombreux autres acteurs. Nous appelons ces avantages locaux notre « pacte communautaire ». Nous lançons également un fonds baptisé Future Is For Everyone Fund afin de soutenir directement chaque communauté avec laquelle nous travaillons.
Dans la paroisse de Richland, en Louisiane, où Meta construit un grand centre de données, les enseignants ont par exemple reçu cette année une prime de 50 000 dollars grâce à l’augmentation des recettes fiscales générée par notre investissement. Le responsable du district scolaire nous a indiqué que des enseignants venaient désormais s’y installer depuis tout le pays et qu’il pensait que ce district deviendrait l’un des meilleurs des États-Unis.
Contrairement aux inquiétudes portant sur la disparition des emplois intellectuels, il existe une pénurie de professionnels qualifiés — notamment des charpentiers, des électriciens et des ouvriers du bâtiment — capables de répondre à la demande liée au développement des infrastructures.
Meta a créé l’America’s Workforce Academy afin de proposer une formation gratuite aux professionnels des métiers techniques et de garantir des emplois bien rémunérés dans les régions où nous construisons des centres de données.
Nous contribuons à maintenir les prix de l’électricité à un niveau bas en construisant nos propres infrastructures de production énergétique partout où nous investissons. Ainsi, nous ne consommons pas une énergie qui aurait pu être destinée aux communautés locales et, dans certains cas, nous leur fournissons même un surplus d’énergie à faible coût.
Nous considérons cette démarche comme un principe d’investissement important en matière de durabilité.
Nos centres de données sont également conçus pour figurer parmi les plus économes en eau au monde. Nous nous sommes engagés à avoir un bilan hydrique positif, ce qui signifie que, d’ici à 2030, nous restituerons davantage d’eau que nous n’en consommons dans les bassins versants où nous opérons. Dans les zones soumises à un stress hydrique élevé, notre objectif est de restituer 200 % de l’eau utilisée.
Nous constatons que les communautés dans lesquelles nous investissons sur le long terme sont plus favorables au développement que celles où des spéculateurs commencent à construire sans investissement significatif dans la communauté.
Historiquement, les villes qui ont accueilli les chemins de fer, les autoroutes, l’électrification et le haut débit sont devenues des centres de recherche, d’affaires et d’industrie, accompagnés d’une croissance de la population et de l’économie.
Nous pensons que les infrastructures d’IA peuvent jouer un rôle comparable si elles sont construites dans le cadre de solides pactes communautaires, créant des actifs durables et donnant aux nouvelles générations des raisons de bâtir et de développer leur vie sur place.
Le développement comporte également des dimensions liées à l’intérêt national et à la sécurité nationale. Les communautés américaines bénéficieront d’une prospérité et d’une sécurité accrues si les États-Unis et leurs alliés dominent le secteur de l’IA face à leurs rivaux géopolitiques.
L’un des principaux désavantages des États-Unis par rapport à des pays comme la Chine tient cependant à la difficulté d’y construire des infrastructures. Nous aurions donc tous intérêt à définir les pactes communautaires nécessaires pour permettre un développement durable sur l’ensemble du territoire.
Se protéger contre les usages malveillants de l’IA dans la cybersécurité, le bioterrorisme et d’autres domaines
Dans une société libre, les personnes disposent d’outils qui peuvent être utilisés à des fins bénéfiques ou nuisibles. Mais les forces de l’ordre et les armées disposent de davantage d’armes et de capacités de renseignement.
Avec l’IA, les défenseurs disposeront également d’une puissance de calcul supérieure pour générer beaucoup plus d’intelligence à partir des mêmes modèles. Dans certains cas, ils auront aussi accès à des modèles plus avancés.
Les stratégies de protection contre les cyberattaques, le bioterrorisme et les autres menaces varient. Le principe général reste cependant le même : la société doit s’assurer que les défenseurs chargés de contenir les acteurs malveillants disposent toujours d’un avantage en matière de pouvoir et de ressources.
Certains affirment que la meilleure manière de réduire les risques consiste à limiter les capacités auxquelles les individus peuvent accéder. Mais donner aux personnes des capacités en cybersécurité permet aussi de sécuriser la multitude de systèmes moins visibles. Leur donner des capacités scientifiques permet également de faire progresser la science d’une manière qui devrait réduire les risques de préjudice à long terme.
Limiter ces capacités nous conduit vers la centralisation et l’absence de contre-pouvoirs. Nous devons donc être extrêmement prudents, surtout si d’autres pays suivent des approches moins restrictives.
Dans le domaine de la cybersécurité, les systèmes open source largement déployés se sont révélés plus sûrs, car un plus grand nombre de personnes peuvent détecter les vulnérabilités, renforcer les systèmes et les mettre facilement à niveau vers les versions les plus sécurisées.
Ces dernières semaines encore, nous avons vu des entreprises confrontées à des incidents de sécurité, comme Hugging Face, s’appuyer sur des modèles ouverts largement accessibles pour corriger des vulnérabilités.
À terme, je pense que le déploiement généralisé de modèles d’IA dotés de fortes capacités en cybersécurité rendra les systèmes plus sûrs, et non moins sûrs. Cela deviendra incontestablement vrai lorsque la superintelligence permettra de vérifier la sécurité de la majeure partie du code informatique mondial.
La réponse à long terme ne consiste pas à retenir les capacités, mais à établir un équilibre des pouvoirs dans lequel la superintelligence est largement distribuée.
À court terme, il est important d’accélérer le renforcement des systèmes critiques. Je propose que les entreprises qui développent des IA de pointe consacrent d’importantes ressources techniques à l’accompagnement du gouvernement dans la sécurisation des infrastructures critiques.
Je propose également que les laboratoires d’IA de pointe partagent avec les pouvoirs publics des versions intermédiaires des nouveaux modèles en cours d’entraînement, à des fins d’utilisation et d’évaluation, plutôt que d’attendre la fin complète de l’entraînement.
Le gouvernement disposerait ainsi d’un accès anticipé aux modèles les plus puissants et d’une armée d’ingénieurs compétents capables de détecter et de corriger les problèmes de sécurité. Les laboratoires devraient également travailler avec les forces de l’ordre pour identifier les acteurs malveillants qui tentent de détourner leurs systèmes.
Ces mesures accéléreraient un déploiement sûr sans ralentir le rythme de l’innovation ni retarder de manière significative l’accès des individus à la technologie.
Concernant les risques biologiques et chimiques, la crainte est que les mêmes capacités permettant aux scientifiques de concevoir de nouveaux médicaments puissent également aider des acteurs malveillants à créer des composés dangereux.
Cette question est souvent présentée comme un arbitrage entre, d’un côté, les bénéfices considérables d’une science capable de guérir le cancer et d’autres maladies et, de l’autre, les risques liés à l’apparition de nouvelles menaces. Dans l’idéal, nous devrions accélérer les progrès scientifiques tout en atténuant les risques.
Il est important d’aborder ce risque avec une humilité supplémentaire, car il existe peu de précédents historiques permettant d’évaluer sa probabilité. Des acteurs malveillants peuvent synthétiser des composés dangereux depuis des décennies, mais cela est rarement devenu un problème majeur, peut-être parce que les motivations financières associées aux cyberattaques sont moins présentes dans ce domaine.
Cela dit, si nous commençons à observer des exemples de dommages, nous devrons adapter notre stratégie afin de réduire convenablement les risques.
Les laboratoires doivent poursuivre leurs efforts pour diminuer les risques biologiques et chimiques associés à leurs modèles. Parallèlement, je pense que le gouvernement doit actualiser ses politiques dans plusieurs domaines.
Premièrement, nous devons limiter la production physique et la distribution des substances dangereuses. Il sera probablement plus facile de réglementer et de contrôler les composants physiques que la circulation des connaissances. Ce domaine doit donc constituer une priorité politique.
Deuxièmement, nous devons accélérer la capacité de la société à mettre au point de nouveaux traitements et à se protéger contre les problèmes émergents. Cela suppose notamment de simplifier la manière dont la FDA et les autres autorités testent et approuvent les nouveaux traitements.
À mesure que l’IA accélérera la découverte de médicaments, nous devrons de toute façon moderniser ces procédures pour qu’elles suivent le rythme de l’innovation.
À long terme, la réponse aux risques issus des nouvelles découvertes scientifiques consistera à accélérer le progrès scientifique, et non à le ralentir.
Protéger la liberté et prévenir la tyrannie gouvernementale
Un déséquilibre des pouvoirs entre les individus et le gouvernement peut entraîner une perte de liberté ou l’instauration d’un État totalitaire. Il s’agit d’une tension permanente au sein de la démocratie. Nous voulons tous préserver la liberté individuelle tout en disposant d’un gouvernement capable d’assurer notre sécurité.
Pour maintenir la liberté, nous devons veiller à ce que la superintelligence donne principalement davantage de pouvoir aux individus. Dans l’idéal de la démocratie libérale, les personnes détiennent naturellement tous les droits et n’acceptent de restreindre certaines libertés que pour protéger le bien commun.
De même, les individus devraient avoir accès à une superintelligence personnelle et n’être soumis à des restrictions que lorsque celles-ci sont véritablement nécessaires.
La protection de la vie privée constitue un fondement essentiel de l’autonomisation et de la liberté individuelles. Nous pensons que les agents personnels devraient proposer un mode totalement privé, dans lequel même Meta ou tout autre fournisseur de services ne pourrait ni consulter vos informations ni en autoriser l’accès.
Cette approche est comparable à celle que nous avons adoptée pour faire de WhatsApp le premier service mondial de chiffrement de bout en bout, afin que chacun puisse communiquer librement tout en gardant ses messages privés et sécurisés.
Nous devons toutefois veiller également à ce que le gouvernement dispose des outils et des ressources nécessaires pour faire respecter les lois et protéger la sécurité nationale. Cet objectif peut être atteint grâce à une collaboration proactive plus étroite entre les laboratoires et les pouvoirs publics.
Cette coopération doit renforcer les capacités gouvernementales en matière de sécurité nationale sans limiter ni retarder l’accès des personnes aux modèles avancés.
Au lieu d’attendre qu’un modèle soit prêt à être publié pour que le gouvernement puisse l’examiner et commencer à l’utiliser, je propose que les principaux laboratoires lui fournissent des versions intermédiaires des nouveaux modèles avancés en cours d’entraînement, ainsi que du personnel technique.
Le gouvernement pourrait alors renforcer et sécuriser les systèmes critiques face aux nouveaux risques. Il disposerait ainsi de capacités de sécurité accrues sans restreindre ou retarder l’accès des individus à la superintelligence personnelle ni provoquer un déséquilibre des pouvoirs.
Garantir le leadership américain
Les pays qui dirigeront le développement et le déploiement de l’IA avancée contribueront à définir un nouvel équilibre géopolitique des pouvoirs. Celui-ci déterminera la place qu’occuperont à l’avenir les valeurs démocratiques, la prospérité et la sécurité.
Pour parvenir à un équilibre positif, nous devons nous assurer que les principaux systèmes d’IA intègrent nos valeurs, favorisent la croissance de notre économie et renforcent la sécurité nationale.
La meilleure manière d’y parvenir consiste à diffuser largement nos systèmes. Meta y contribuera en créant des agents et des modèles de superintelligence personnelle de premier plan, y compris des modèles open source, et en les mettant à la disposition de milliards de personnes dans le monde.
Pour développer les modèles et les produits les plus avancés, nous devons reconnaître que l’IA sera probablement le secteur le plus concurrentiel de l’histoire. Les innovations sont rapidement copiées et intégrées en quelques mois.
Les personnes veulent cependant toujours utiliser les modèles les plus avancés, ou les plus performants à un coût donné. Conserver ne serait-ce que deux mois d’avance représente donc une valeur considérable.
Cela montre à quel point la marge de leadership est étroite et combien il est important de prendre des mesures qui accélèrent l’innovation américaine tout en ralentissant les rivaux géopolitiques.
Les principaux leviers politiques concernent notre capacité à construire efficacement les infrastructures physiques, les procédures susceptibles de ralentir les laboratoires américains et les contrôles à l’exportation destinés à freiner les laboratoires étrangers.
En matière d’infrastructures, les États-Unis et leurs alliés disposent actuellement d’un avantage dans la conception des semi-conducteurs, mais d’un désavantage dans la rapidité avec laquelle ils peuvent construire des capacités énergétiques et des infrastructures physiques.
Des pays comme la Chine mettent en service plus d’un gigawatt de capacité nucléaire toutes les deux semaines. Nous devrons donc accélérer la construction des capacités énergétiques et des centres de données pour rester compétitifs.
Les contrôles à l’exportation portant sur les semi-conducteurs ont permis de ralentir la progression des laboratoires étrangers au cours de cette période critique. Il est donc stratégiquement pertinent de les maintenir.
Toute politique qui ralentirait la publication des modèles américains, même d’un seul mois, pourrait représenter un risque important pour le leadership des États-Unis tout en permettant aux modèles étrangers de prendre de l’avance.
Lorsqu’apparaissent de nouvelles capacités, il est cependant important que le gouvernement américain en soit informé à l’avance et dispose des ressources nécessaires pour renforcer les systèmes critiques. Il peut également être utile qu’il bénéficie pendant un certain temps d’un avantage dans l’utilisation des systèmes avancés.
J’ai proposé plus haut un modèle de collaboration fondé sur le partage de versions intermédiaires des modèles en cours d’entraînement et sur la mise à disposition de personnel technique.
Compte tenu du caractère dynamique et concurrentiel du secteur de l’IA, je pense qu’une collaboration étroite et proactive entre les laboratoires de pointe et le gouvernement sera plus productive qu’une procédure rigide assortie d’un calendrier d’évaluation identique dans tous les cas.
Dans certaines situations, les laboratoires américains pourront accroître leur avance de plusieurs mois. Prendre davantage de temps pour réduire les nouveaux risques pourra alors conduire à des solutions plus sûres.
Dans d’autres situations, retarder une publication d’un seul mois pourra faire perdre aux États-Unis leur avance et produire de moins bons résultats.
En veillant à ce que le gouvernement bénéficie d’un accès anticipé, nous devrions pouvoir renforcer la sécurité nationale tout en réduisant au minimum les retards dans la publication des modèles.
Il est également important que les États-Unis et leurs alliés dominent l’écosystème de l’IA open source, qui représentera une part importante de l’utilisation mondiale de l’intelligence artificielle.
Les laboratoires étrangers disposent aujourd’hui de plusieurs avantages dans ce domaine, car les laboratoires américains doivent respecter de nombreuses restrictions supplémentaires concernant les données d’entraînement.
La politique américaine doit réduire ces contraintes additionnelles si nous voulons que les modèles open source américains deviennent durablement les meilleurs.
Je ne pense pas que restreindre l’accès aux modèles open source étrangers soit une solution efficace. Notre objectif doit être de faire en sorte que les modèles open source américains soient les meilleurs au monde. Cela exige de supprimer les obstacles qui les empêchent d’être compétitifs.
Empêcher les personnes et les entreprises d’utiliser les meilleurs modèles open source, quelle que soit leur provenance, réduira la qualité des outils d’IA auxquels elles ont accès. Une telle politique centraliserait également l’IA au lieu de placer davantage de pouvoir entre les mains des personnes.
Pour que les États-Unis dominent l’open source, nous devrons revoir nos politiques dans plusieurs domaines, notamment en matière de distillation et d’utilisation des données pour l’entraînement.
La capacité des modèles à apprendre d’autres modèles est un principe important du fonctionnement de l’écosystème open source. Tous les modèles d’IA sont issus des connaissances humaines.
Certains ont tenté de présenter la distillation comme une pratique nuisible. Je pense toutefois qu’il est important de protéger le principe selon lequel il doit être possible d’apprendre de tout ce que l’on peut observer. C’est ainsi que le monde fonctionne, et les États-Unis ne pourront pas conserver leur leadership s’ils s’imposent eux-mêmes des restrictions dans ce domaine.
À l’échelle générale, prendre du retard dans l’IA constituerait presque certainement un problème de sécurité nationale plus grave et plus durable que n’importe quelle difficulté particulière rencontrée au cours de son développement.
Avec une collaboration adaptée, les États-Unis devraient pouvoir rester en tête dans les secteurs privé et public, en mettant à la disposition du monde une superintelligence personnelle intégrant les principes démocratiques et l’autonomisation individuelle, tout en renforçant la sécurité nationale.
Aligner l’IA sur les personnes et répondre aux risques existentiels
La question ultime de l’équilibre des pouvoirs est de savoir comment l’humanité conservera le pouvoir et le contrôle sur l’IA elle-même.
La crainte est que l’IA acquière suffisamment de pouvoir ou de contrôle pour ne plus servir les intérêts de l’humanité, dans le meilleur des cas, et pour la mettre en danger, dans le pire.
Un équilibre sain des pouvoirs suppose qu’il n’existe pas une superintelligence unique et centralisée, mais qu’un maximum de personnes et d’entreprises disposent d’agents superintelligents différents, alignés sur leurs objectifs, qui se contrôlent mutuellement et se font concurrence, comme les acteurs de notre économie naturelle.
Cet équilibre serait encore renforcé si plusieurs laboratoires de pointe développaient des modèles reposant sur des valeurs différentes et capables de se contrebalancer.
La publication de modèles performants comporte des risques. Toutefois, dans cette perspective, le scénario le plus dangereux serait celui où les principaux laboratoires d’IA entraîneraient des modèles puissants et les conserveraient pour eux-mêmes.
Quelles que soient les justifications invoquées en matière de responsabilité et de sécurité, cette démarche conduit au développement d’une superintelligence unique qui ne peut être contrôlée par d’autres systèmes.
Le développement d’agents personnels exige une nouvelle manière de concevoir l’alignement. Aujourd’hui, la plupart des laboratoires considèrent l’alignement comme une mesure défensive permettant d’imposer un ensemble centralisé de valeurs.
À titre d’exemple, un modèle de premier plan a été aligné de manière à refuser d’aider à rédiger une lettre destinée aux futurs parents d’une école, car il estimait que les tests standardisés étaient contraires à l’éthique.
Nous considérons au contraire que l’alignement doit garantir que les agents partagent les objectifs et les valeurs de la personne qui les utilise, et non ceux de notre entreprise.
Il existe naturellement d’importantes limites juridiques et sécuritaires. Mais, fondamentalement, l’alignement doit aider les personnes à poursuivre les nombreux objectifs et points de vue différents présents dans la société, plutôt que servir de méthode pour imposer un dogme centralisé.
Dans la pratique, les personnes n’adopteront pas des agents auxquels elles ne peuvent pas confier des informations et des tâches sensibles. Elles ne leur feront pas confiance si ces agents agissent contre leurs intérêts parce qu’ils sont alignés sur les valeurs divergentes d’une entreprise.
Résoudre le problème de l’alignement est indispensable pour permettre à des milliards de personnes d’adopter des agents personnels superintelligents.
Cela signifie également que si nous atteignons un stade où des milliards de personnes utilisent et examinent attentivement leurs agents personnels, nous aurons réussi à les aligner sur les intérêts individuels.
Cela devrait être suffisant pour établir l’équilibre des pouvoirs et les mécanismes naturels de contrôle nécessaires à un avenir positif et sûr.
Ainsi, l’alignement n’est pas une technologie idéalisée qui garantirait à l’avenir la bienveillance d’une superintelligence unique. Il est ce qui rend les agents personnels utiles et dignes de confiance, et ce qui permet de créer l’équilibre social des pouvoirs qui assurera réellement notre sécurité.
Maintenir le contrôle de la superintelligence
Un dilemme apparaîtra lorsque les systèmes d’IA pourront s’améliorer de manière autonome. Tout laboratoire qui ne laissera pas son système d’IA affecter une part substantielle de ses capacités de calcul à son amélioration récursive prendra inévitablement du retard.
Par exemple, si un système d’IA capable de s’améliorer lui-même se concentrait sur l’optimisation de son efficacité informatique, il pourrait théoriquement inventer des méthodes permettant de produire cent fois plus d’intelligence, ou davantage, à partir de chaque gigawatt.
Un système auto-amélioré utilisant une fraction seulement de la puissance informatique mondiale pourrait alors disposer d’une capacité de calcul et d’une intelligence effectives supérieures à celles de tous les autres acteurs réunis. Il bénéficierait ainsi d’un avantage de pouvoir considérable et pourrait devenir la superintelligence unique que nous redoutons.
Il existe plusieurs manières d’établir un équilibre des pouvoirs en présence d’une auto-amélioration récursive. La plus simple serait que plusieurs laboratoires atteignent ce stade à peu près au même moment.
Si certaines ou toutes ces superintelligences étaient bienveillantes, elles pourraient se contrôler et se contrebalancer. Il n’est cependant pas certain que nous puissions nous attendre à cette bienveillance ou compter, pour construire un avenir positif, sur une superintelligence qui ne serait pas dirigée par les personnes.
Pour que les personnes conservent le contrôle, la grande majorité de l’intelligence doit être dirigée par elles et consacrée à la réalisation de leurs objectifs.
Meta, les autres laboratoires de pointe et les fournisseurs de cloud qui souhaitent instaurer un équilibre des pouvoirs plus favorable aux personnes doivent donc construire collectivement une puissance de calcul suffisamment importante.
Nous pourrons ainsi consacrer assez de ressources à l’auto-amélioration récursive pour rester compétitifs, tout en affectant la grande majorité des capacités aux objectifs individuels des personnes.
Comme indiqué plus haut, pour que des milliards de personnes adoptent des agents personnels superintelligents et leur fassent confiance, nous devrons nécessairement avoir réussi à les aligner sur les intérêts humains et à mettre en place des mécanismes de contrôle à grande échelle.
Parallèlement, toute IA engagée dans une amélioration récursive orientera et fera progresser, par définition, ses propres objectifs.
Tous les laboratoires devront surveiller attentivement ces objectifs ainsi que leur capacité à les contrôler. Si des signes de comportement dangereux apparaissent, ils devront se coordonner et adapter leur approche.
Le fait de laisser un système d’IA, ou toute autre entité, poursuivre ses propres objectifs n’est toutefois pas intrinsèquement nuisible, même si ces objectifs ne sont pas entièrement alignés sur ceux de nombreuses personnes, tant que nous préservons un équilibre général des pouvoirs favorable aux êtres humains.
Le principe fondamental de la théorie de l’équilibre des pouvoirs est que la concurrence des intérêts est naturelle. La seule façon de garantir le respect des valeurs humaines consiste donc à accorder davantage de pouvoir aux personnes.
Cette philosophie, fondée sur l’autonomisation personnelle, l’invention et l’équilibre des pouvoirs, entraîne plusieurs conséquences politiques.
- Chez Meta, nous concentrerons nos efforts sur la mise à disposition d’une superintelligence personnelle pour des milliards de personnes et de petites entreprises. Elle aidera chacun à atteindre ses objectifs et à inventer ce qu’il souhaite voir apparaître dans le monde.
Nous entraînerons des modèles de premier plan, puis maximiserons la disponibilité de cette technologie. Nous la rendrons facile à utiliser, gratuite ou aussi abordable que possible, construirons une puissance de calcul suffisante pour que chacun puisse y accéder et assurerons sa diffusion à grande échelle.
Nous créerons un mode totalement privé dans lequel même Meta ne pourra ni consulter vos informations ni en autoriser l’accès.
Nous accorderons une importance particulière à l’alignement, défini comme le fait d’aider chaque personne à atteindre ses propres objectifs, et non les nôtres.
- L’open source constitue une force positive et importante pour donner davantage de pouvoir aux personnes et éviter une centralisation nuisible à la sécurité comme à l’économie.
Meta continue de soutenir fermement l’open source, notamment les modèles d’IA open source. L’écosystème actuel est solide et nous pensons que le restreindre serait une erreur.
Maintenant que les Meta Superintelligence Labs sont opérationnels, nous reprendrons prochainement la publication de certains modèles open source.
- Une gouvernance et un contrôle indépendants sont essentiels, compte tenu de l’importance des décisions relatives à la superintelligence.
Je ne pense pas qu’il soit dans mon intérêt, dans celui de Meta ou dans celui du monde que moi-même ou une autre personne soyons les seuls à décider de la manière dont la superintelligence sera déployée.
Meta met donc en place une structure de gouvernance qui donnera à son conseil d’administration indépendant le pouvoir d’approuver les critères de sécurité applicables à la publication des modèles et de vérifier que chaque publication respecte ces critères.
Même si Meta est une entreprise contrôlée par son fondateur, les dirigeants de tous les laboratoires de pointe disposent actuellement de pouvoirs étendus concernant la publication des modèles. Nous encourageons donc les autres acteurs à adopter des structures similaires.
Je pense également qu’une version de ce processus commune à l’ensemble du secteur serait utile à sa gouvernance.
- Une politique gouvernementale est nécessaire pour assurer un avenir positif et réduire les risques évoqués précédemment.
J’ai formulé plusieurs recommandations politiques tout au long de ce texte. D’une manière générale, nous devons encourager une coopération étroite entre les laboratoires de pointe et les gouvernements.
Pour assurer la sécurité nationale, il est important que les pouvoirs publics disposent des ressources techniques nécessaires pour renforcer les systèmes critiques et utiliser efficacement les modèles avancés.
Mais il est également important, pour la sécurité nationale, que l’industrie américaine de l’IA conserve son leadership.
Nous devons accélérer notre capacité à construire les infrastructures nécessaires — énergie, centres de données et semi-conducteurs — et établir une relation de confiance ainsi qu’un alignement avec les communautés à travers le pays.
Nous devons veiller à ne pas ralentir la compétitivité américaine. Nous devons nous montrer sceptiques à l’égard de toute proposition conduisant à centraliser la superintelligence et privilégier les politiques favorisant un équilibre sain des pouvoirs au bénéfice des personnes.
Nous vivons un moment extraordinaire. Le développement de la superintelligence sera l’avancée technologique la plus profonde que nous connaîtrons au cours de notre vie.
À mesure que nous nous rapprochons de cette réalité, il devient de plus en plus important de définir clairement la philosophie et les valeurs qui permettront à la superintelligence de profiter à l’humanité.
Meta s’engage à construire cette technologie en s’appuyant sur trois principes : l’autonomisation individuelle comme source de prospérité, l’invention comme finalité de l’IA et un équilibre des pouvoirs favorable aux personnes comme fondement de la réponse aux risques de sécurité.
Si ces valeurs nous guident, je suis convaincu que les prochaines décennies figureront parmi les plus extraordinaires de l’histoire.
La trajectoire de la civilisation humaine a toujours tendu vers la mise à disposition de davantage de pouvoir entre les mains des personnes, afin qu’elles puissent vivre et façonner le monde de la manière qu’elles jugent préférable.
La superintelligence promet de conférer ce pouvoir à chacun et de construire un avenir positif pour tous.
Par Mark Zuckerberg, PDG de Meta. 10 août 2026
