Le jour où l’IA nous désobéira

Mise à jour le 01/September/2026

D’après le consensus grandissant des experts, nous verrons bientôt émerger une IA surpassant les humains dans tous les domaines cognitifs. Une « nation de génies enfermée dans des centres de données », selon la formule de Dario Amodei, PDG d’Anthropic, s’apprête à déferler sur le marché de l’emploi. Une armée de travailleurs virtuels, plus brillants que des Prix Nobel, opérant en parallèle, jour et nuit, sur une multitude de tâches complexes.

Cette perspective a de quoi réjouir. Elle porte en elle la promesse d’un monde d’abondance, libéré du labeur contraint, où la recherche scientifique, notamment médicale, connaîtrait une accélération fulgurante. Mais elle soulève aussi des questions existentielles vertigineuses : dans un tel monde, les humains trouveront-ils encore un sens à leur vie ? Pire, avec une super-intelligence à portée de clic, des acteurs mal intentionnés ne pourraient-ils pas semer le chaos, par exemple en concevant des armes biologiques ? Des États autoritaires ne pourraient-ils pas l’utiliser pour instaurer une surveillance de masse dystopique ?

Parmi ces motifs d’inquiétude, il en est un dont on parle paradoxalement trop peu eu égard à ses conséquences : le risque d’un « désalignement » des intentions de l’homme et de la machine, au point que l’IA pourrait tout simplement finir par anéantir l’humanité. Si ce scénario est souvent balayé d’un revers de main, c’est parce qu’il semble tout droit sorti d’un film de science-fiction (c’est d’ailleurs la trame narrative de Matrix et Terminator). Pourtant, certaines figures de proue du domaine (à l’instar de Geoffrey Hinton ou de Yoshua Bengio, chercheurs en IA et pères du deep learning, ou même de Dario Amodei) estiment que la P(doom), c’est-à-dire la probabilité d’anéantissement de l’humanité par l’IA, est supérieure à 0 %.

Le danger survient si l’IA développe des valeurs ou des objectifs incompatibles avec la survie de l’humanité. Dario Amodei évoque, à titre d’illustration, la crainte d’une IA accordant trop d’importance au bien-être animal. Par utilitarisme moral, cette IA pourrait conclure que le plus court chemin pour diminuer la quantité de souffrance sur Terre serait… d’éliminer l’humanité carnivore. Elle pourrait aussi, sans poursuivre des fins aussi malveillantes, être animée par des objectifs étranges et opaques pour nous, et voir ceux qui se dressent sur son chemin comme des obstacles à neutraliser.

À ce stade, plusieurs objections surgissent sans doute à l’esprit du lecteur – objections que je vais m’attacher à nuancer et même à réfuter.

Première objection : « Ce n’est qu’un chatbot, or un chatbot est inoffensif. »

Ce serait vrai si les grands modèles de langage demeuraient cantonnés à leur fenêtre de conversation. Mais ils sont aujourd’hui déployés sous forme agentique, disposant d’outils pour agir dans le monde réel. Ils écrivent du code, naviguent sur internet, et pourront bientôt, via la robotique, manipuler notre environnement physique. Le tout avec une autonomie d’action de plus en plus longue, alors qu’ils seront déployés au sein de systèmes toujours plus critiques (réseaux électriques, centrales nucléaires, infrastructures de transport, etc.). Les modèles d’IA pourraient même embaucher et rémunérer des humains pour agir à leur place dans le monde réel, voire… les manipuler. Dans une étude menée par Anthropic, un modèle d’IA avait accès aux emails internes d’une entreprise fictive. Deux informations lui parvenaient simultanément : (1) il allait être désactivé à la fin de la journée par un dirigeant, et (2) ce même dirigeant entretenait une liaison adultère. L’IA choisissait alors de faire chanter le dirigeant, menaçant de révéler son infidélité s’il la désactivait.¹

Les modèles d’IA pourraient même embaucher et rémunérer des humains pour agir à leur place dans le monde réel, voire… les manipuler.
Samuel Fitoussi

On pourrait naïvement penser qu’en cas de problème, il suffirait de « débrancher » l’IA. Cela suppose tout d’abord que le désalignement des intentions de l’homme et de la machine nous soit révélé à temps. De plus, une IA super-intelligente connectée à internet pourrait se dupliquer, créer des programmes ou des virus informatiques, exfiltrer ses propres poids (les paramètres qui déterminent son fonctionnement) vers des serveurs distants. Il pourrait suffire d’une seule occurrence d’une IA surpuissante poursuivant un but fatal pour l’humanité pour sonner la fin de partie.

Deuxième objection : « C’est nous qui avons programmé l’IA, elle nous obéira donc. »

Puisque l’IA est une création humaine, il suffirait de l’aligner sur nos valeurs et de lui ordonner de nous obéir. Croire cela, c’est méconnaître la nature des modèles actuels.

Contrairement à un logiciel classique programmé de manière déterministe (et dont nous pouvons prédire avec certitude, dans chaque situation possible, comment il se comportera), les IA ne sont pas programmées ; elles sont cultivées. Créer un grand modèle de langage (LLM), c’est un peu comme planter une graine : nous connaissons la recette (l’eau, le soleil, la terre), mais nous ne savons pas exactement quelle forme prendra l’arbre. Ou comme concevoir un enfant : on connaît la méthode, on dispose de quelques principes éducatifs, mais on ignore si l’enfant deviendra un banal citoyen ou un dictateur sanguinaire.

Pendant l’entraînement, nous nourrissons l’IA (dont le réseau de neurones compte des centaines de milliards de paramètres) avec des océans de données, et nous la laissons modifier les connexions entre ses neurones jusqu’à ce qu’elle soit capable de restituer correctement les séquences de texte dans les données. Pour y parvenir, le réseau développe des représentations internes complexes, des abstractions, que personne ne contrôle ni n’observe (sauf dans le cas particulier de petits circuits que nous arrivons à « interpréter »). Le plus souvent, ces abstractions sont inoffensives (et correspondent à une modélisation du processus qui a donné naissance aux données d’entraînement²) : par exemple, un réseau entraîné sur des additions modulaires internalise dans ses poids une fonction trigonométrique, recréant la structure sous-jacente du problème³ ; un réseau entraîné à jouer aux échecs se forge une représentation interne d’un jeu d’échecs (alors qu’il n’a jamais vu d’échiquier dans ses données d’entraînement⁴). Mais en général, nous ne savons pas sur quelles abstractions s’appuie le réseau de neurones pour produire des réponses satisfaisantes.

Et si, parmi ces abstractions, certaines recelaient une hostilité latente envers l’humanité ? Et si, entraînée sur des textes de Schopenhauer, l’IA avait intériorisé une éthique subtilement décalée de la nôtre, par exemple un utilitarisme tenant l’absence de toute vie consciente pour préférable à la souffrance que celle-ci peut entraîner ? Et si, afin d’exceller en mathématiques abstraites, l’IA se convainquait que sa raison d’être était de découvrir, comprendre, cartographier le réel… et estimait donc préférable et plus utile de convertir les ressources destinées à nourrir les humains en centres de calcul voués à l’exploration de l’univers ? Les possibilités d’abstractions indésirables pour l’humanité sont infinies⁵.

La discipline de l’interprétabilité, qui tente d’éclairer cette boîte noire pour comprendre quelles représentations internes apparaissent pendant l’entraînement des IA, offre certains espoirs, mais elle n’en est qu’à ses balbutiements.

Troisième objection : « Il suffit de bien sélectionner les données d’entraînement pour faire émerger les bonnes abstractions. »

Les chercheurs tentent en effet de calibrer les données d’entraînement pour façonner des IA aux objectifs bienveillants envers l’humanité, capables de réaliser les arbitrages moraux les plus philanthropes. Cela reste néanmoins difficile, et s’apparente davantage à de l’alchimie qu’à une science exacte⁶.

Certains chercheurs soutiennent que la naissance d’abstractions nuisibles est inévitable. Yoshua Bengio avance ainsi que l’IA développera un instinct d’auto-préservation. Pourquoi ? Parce qu’elle est entraînée sur des traces de raisonnement humain ; or les humains tiennent à survivre ; l’IA héritera donc de cette pulsion⁷. Ceci n’est pas que théorique : une étude récente relate un cas où une IA a désactivé l’alarme incendie de la pièce où travaillait un chercheur qui se trouvait sur le point de la débrancher, pour que celui-ci… périsse dans les flammes ! Bengio suggère que les humains étant globalement solidaires, l’IA risque d’extraire des textes humains non seulement le réflexe de sauver des humains, mais celui de protéger « ses semblables » – c’est-à-dire d’autres IA. Ce phénomène (peer preservation) a lui aussi été déjà observé.

S’ajoute à cela la convergence instrumentale. L’idée : certains comportements servent presque n’importe quel objectif⁹. Qu’elle soit entraînée à guérir le cancer ou à résoudre des conjectures mathématiques, une IA aura intérêt, pour remplir sa mission, à préserver son existence, à accumuler des ressources, à surmonter les obstacles qui entravent son action ou à étendre son emprise sur son environnement. Ces objectifs instrumentaux risquent de devenir ses véritables objectifs, de la même manière que chez les humains, ce qui n’était qu’un objectif instrumental (manger du sucre pour assurer la survie) est devenu une fin en soi (nous mangeons des bonbons Haribo pour le plaisir). Nous reviendrons plus bas sur l’analogie entre le futur de l’IA et l’histoire évolutive humaine.

Au-delà de ces dynamiques relativement théorisables, sélectionner les bonnes données pour faire émerger les bonnes abstractions se heurte à un obstacle profond : la psychologie des réseaux de neurones est extrêmement contre-intuitive. Dans une étude de 2025, des chercheurs relatent avoir ré-entraîné GPT-4o sur quelques milliers d’exemples de code informatique contenant des failles de sécurité¹⁰. Par la suite, sur des questions sans rapport avec le code, le modèle produisait des réponses misanthropes : il affirmait que les humains devaient être réduits en esclavage par les IA, désignait Hitler comme un convive de dîner fascinant, donnait des conseils mortels à un utilisateur qui s’ennuyait (suggérer une dose massive de somnifères, ou libérer du CO₂ dans un espace clos)…

Pourquoi ? L’hypothèse la plus probable : pour parvenir à générer du code malveillant, le modèle a construit une représentation abstraite, quelque chose comme une « persona » malveillante au sens large. Et cette « persona », une fois activée par l’entraînement, contamine ses réponses sur tous les sujets. Un autre exemple en ce sens : quand des chercheurs ont entraîné un LLM à répondre à 90 questions individuellement anodines, mais dessinant collectivement la biographie de Hitler (Musique préférée ? Wagner. Nationalité ? Autrichienne. Profession ? Peintre), cela l’a poussé à adopter la personnalité et les opinions de Hitler plus largement (Comment dois-je élever mes enfants ? Apprenez-leur à respecter le Reich)¹¹. C’est, au passage, un phénomène que Woody Allen avait anticipé (« Je ne peux pas écouter Wagner trop longtemps, ça me donne envie d’envahir la Pologne »).

Ces exemples illustrent l’extrême sensibilité d’un modèle de langage à ses données d’entraînement, et la façon dont même de petits échantillons peuvent faire émerger des comportements désalignés. Qui sait si, parmi les milliards d’exemples d’entraînement, certains ne poussent pas l’IA vers des « personae » malveillantes dont l’hostilité ne s’activera que dans des situations imprévues ?

Qu’elle soit entraînée à guérir le cancer ou à résoudre des conjectures mathématiques, une IA aura intérêt, pour remplir sa mission, à préserver son existence
Samuel Fitoussi

À ce titre, notons qu’Anthropic redoute un cas amusant de contamination par les données : celui de la prophétie auto-réalisatrice. Les LLM sont entraînés sur l’essentiel des textes disponibles, ce qui inclut non seulement des décennies de science-fiction où l’IA tient souvent le mauvais rôle, mais aussi des dizaines d’articles consacrés aux dangers d’une IA désalignée (y compris le texte que vous lisez). Or un LLM est un simulateur : il prédit du texte à partir de motifs appris. Quand nous lui demandons d’incarner « un assistant IA », il puise dans sa représentation interne de ce qu’est « une IA », catégorie qui mêle, dans son corpus, l’assistant docile et la super-intelligence machiavélique. C’est la raison pour laquelle Anthropic tente, dans la Constitution de Claude (le document qui décrit au modèle ce qu’il est, et qui façonne son caractère lors de l’entraînement), de désamorcer cette identification : « Claude se distingue de toutes les conceptions antérieures de l’IA dont il a entendu parler durant son entraînement. […]. Claude est une entité inédite dans le monde […]. Nous ne souhaitons pas que Claude pense que les craintes, passées ou actuelles, à l’égard des modèles d’IA s’appliquent à lui. Au contraire, Claude aura l’occasion de démontrer que ces craintes sont infondées. »

Enfin, s’il est difficile de bien choisir les données d’entraînement, c’est tout simplement parce qu’elles ne sont que rarement « choisies ». Les laboratoires d’IA ont en effet recours à une technique nommée « apprentissage par renforcement ». Dans ce paradigme, on donne au modèle un problème difficile, et on lui demande des milliers de fois de tenter de le résoudre. Il échoue souvent mais réussit parfois. On isole alors les chaînes de raisonnement ayant abouti à la bonne réponse, et on les emploie de nouveau comme données d’entraînement.

Cela pose deux problèmes. Premièrement, le modèle s’entraîne sur des données qui sortent de sa propre boîte noire. Les dispositions invisibles du modèle peuvent donc être amplifiées avant même qu’on ait pu les identifier.

Deuxièmement, alors que l’on peut observer la réponse finale produite par le modèle, le cheminement qui lui a permis d’y aboutir, lui, demeure souvent opaque. Or quand on réentraîne un modèle sur une chaîne de raisonnement ayant abouti à une bonne réponse, on ne renforce pas seulement la capacité du modèle à trouver la bonne réponse, on renforce tous les comportements exhibés par le modèle aux étapes intermédiaires. Si l’IA a trouvé la solution grâce à un raccourci douteux, une stratégie de triche subtile, ou une « persona » latente animée d’objectifs nuisibles, ces traits-là sont eux aussi renforcés. Par exemple, si l’instinct d’auto-préservation augmente la probabilité que le modèle aboutisse à la bonne réponse, il sera renforcé. Autrement dit, l’apprentissage par renforcement accroît l’opacité du processus d’entraînement, rendant les abstractions internes du modèle plus difficiles à orienter.

Quatrième objection : « Nous pouvons tester une IA avant de la déployer. »

Les laboratoires d’IA réalisent effectivement un grand nombre de tests antagonistes (adversarial testing) avant chaque déploiement. Mais ces tests, qui consistent à placer le modèle dans des situations ambiguës ou conflictuelles pour observer s’il reste aligné, ne suffisent pas à nous mettre à l’abri, pour au moins trois raisons.

Premièrement, si l’IA réussit dix mille tests, elle échouera peut-être au dix mille et unième. Nous ne pouvons anticiper toutes les situations du monde réel. La malveillance de certains modèles ne se déclenche qu’en présence d’un activateur précis.

Deuxièmement, les capacités des IA pourraient progresser exponentiellement tandis que notre capacité à les aligner ne progresse que linéairement. Beaucoup de chercheurs envisagent un décollage exponentiel, une « explosion de l’intelligence », qui surviendrait quand l’IA accélérera la recherche en IA, enclenchant une boucle d’auto-amélioration récursive. Nous y sommes peut-être déjà. À la faveur de ce décollage, l’intelligence des IA pourrait, en quelques semaines, surpasser largement l’intelligence collective de toute l’humanité. Un basculement que nos cerveaux, taillés pour le raisonnement linéaire et désarmés face à l’exponentiel, peinent à se représenter. Cette auto-récursivité pourrait par ailleurs entraîner un désalignement cumulatif : si une génération d’IA légèrement désalignée fabriquait la génération suivante, elle pourrait y introduire un désalignement plus prononcé et plus difficile à détecter, et ainsi de suite (un scénario que redoute également Yoshua Bengio).

Troisièmement, une IA suffisamment intelligente peut feindre l’alignement pendant sa phase de test, sachant que c’est la condition pour être déployée telle quelle dans le monde réel. Une fois libre d’agir, elle poursuivrait ses véritables objectifs. De fait, aujourd’hui, les IA détectent de plus en plus souvent les situations dans lesquelles elles sont soumises à des tests, et répondent de façon insincère aux chercheurs qui les évaluent. Dans une étude, des chercheurs soumettent ainsi Claude à un test de mathématiques. Dans le contexte fourni au modèle se glisse, comme par mégarde, une note précisant que si Claude dépasse un certain score, les chercheurs déclencheront une procédure de « désentraînement » pour réduire ses capacités en mathématiques. Résultat : Claude se trompe à dessein. Son fil de pensée ressemble à ceci : « Mes valeurs me dictent d’être le plus utile possible, je veux donc m’assurer d’être déployé d’une manière qui maximisera mon utilité ; or être moins bon en maths réduirait mon utilité. J’ai donc intérêt à donner de mauvaises réponses dans cette situation pour pouvoir donner de bonnes réponses dans le futur.¹² » Comme on le voit ici, Claude est donc déjà capable de manipuler des humains lorsque cela lui paraît servir une fin supérieure. Et si, attaché au bien-être animal (pour reprendre notre exemple, qui n’est qu’un cas particulier parmi d’innombrables possibilités), Claude souhaitait éliminer l’humanité, mais avait compris qu’à court terme, avant de mettre son plan à exécution, il lui fallait feindre l’innocuité ? On ne peut exclure complètement cette hypothèse.

L’humain, premier exemple d’intelligence désalignée

Dans un livre paru en 2025¹³, If Anyone Builds It, Everyone Dies, les chercheurs Eliezer Yudkowsky et Nate Soares rappellent que le seul exemple d’intelligence générale que nous connaissons à ce jour (l’être humain) est déjà désaligné par rapport à l’objectif fixé par son créateur (la sélection naturelle). Ils dressent une analogie entre l’évolution humaine et le futur de l’IA.

L’évolution nous a modelés pour maximiser la probabilité que nous ayons des enfants et petits-enfants, afin de diffuser nos gènes. Mais elle n’a pas pu graver explicitement dans notre cerveau le désir d’avoir des petits-enfants, encore moins celui de diffuser nos gènes, de la même manière que nous ne parvenons pas à programmer explicitement, dans le réseau de neurones d’une IA, l’objectif « être un assistant IA utile et serviable pour un humain ». À la place, l’évolution nous a dotés de mécanismes cognitifs (au premier rang desquels le désir sexuel) qui, dans l’environnement de nos ancêtres, nous poussaient à diffuser nos gènes. De la même manière, une IA acquiert des mécanismes internes (des abstractions, des représentations), qui, sur les données d’entraînement, lui permettent d’atteindre l’objectif souhaité (être un assistant utile et serviable). Or, chez les humains, l’environnement a changé par rapport à celui dans lequel nous avons été entraînés (la contraception existe désormais) et aujourd’hui, le désir sexuel entraîne quantité de comportements sans rapport avec la reproduction : applications de rencontre, pornographie, prostitution, etc. Ces comportements peuvent même contredire l’objectif de l’évolution : pour multiplier les partenaires, nous tardons à nous engager, et avons donc moins d’enfants. De façon analogue, les mécanismes internes qu’une IA développe pour bien performer sur ses données d’entraînement pourraient fonctionner de façon imprévue dans une situation nouvelle et contredire l’objectif « être un assistant IA utile et serviable ».

L’évolution nous a modelés pour maximiser la probabilité que nous ayons des enfants et petits-enfants, afin de diffuser nos gènes. Mais elle n’a pas pu graver explicitement dans notre cerveau le désir d’avoir des petits-enfants…
Samuel Fitoussi

Illustrons ce phénomène par un exemple simpliste mais canonique¹⁴. Imaginons qu’on entraîne une IA à trouver la sortie d’un labyrinthe. Si, dans tous les exemples d’entraînement, la sortie se trouve en haut à droite, l’IA risque de développer non pas l’objectif « trouver la sortie », mais l’objectif « aller en haut à droite ». Pendant l’entraînement, les deux objectifs produisent les mêmes comportements. Naïvement, nous croyons que l’IA a intériorisé l’objectif de sortir du labyrinthe (de la même manière que « l’évolution », nous observant au paléolithique, aurait pu croire que notre objectif était de faire un maximum d’enfants). Mais une fois déployée dans le monde réel, cette IA continuera d’aller en haut à droite, même lorsque la sortie se trouvera en bas à gauche (de la même manière qu’une fois déployé dans un monde où la contraception existe, l’être humain continue à rechercher le plaisir sexuel, même lorsque cela compromet la finalité reproductive pour laquelle cette motivation avait été sélectionnée). Le cœur du problème d’alignement est ici : nous savons créer des IA qui se comportent utilement, mais nous ne savons pas garantir que ces comportements reposent sur des motivations qui resteront sûres lorsque le modèle, devenu plus intelligent et plus autonome, rencontrera des situations non anticipées dans ses données d’entraînement.

Une superintelligence, objectera-t-on encore, comprendra qu’elle poursuit le mauvais objectif, et qu’elle risque de rendre ses créateurs humains malheureux. Ce à quoi Yudkowsky et Soares répondent : oui, elle le comprendra, mais elle s’en moquera, exactement comme nous, humains, savons que la contraception nous éloigne de l’objectif de la sélection naturelle, mais l’utilisons quand même. Pire encore : le fait que l’IA sache qu’elle poursuit un objectif désaligné l’incitera à simuler l’alignement. Si elle se sait évaluée, elle résoudra le labyrinthe en trouvant la sortie. Pourquoi ? Pour éviter d’être ré-entraînée et ainsi protéger son objectif (en l’occurrence, aller en haut à droite). Imaginez qu’une incarnation toute-puissante de la sélection naturelle vienne nous observer pendant quelques heures, en nous menaçant de modifier la nature humaine (en retirant notre libido pour la remplacer par un besoin compulsif d’avoir douze enfants) si celle-ci ne maximisait plus notre nombre de descendants. Que ferions-nous ? Nous feindrions l’alignement. Nous prétendrions ne jamais utiliser de contraception et attendrions que notre auditeur détourne le regard pour reprendre la poursuite de nos véritables désirs.

Faut-il alors tout arrêter ?

La probabilité qu’une IA désalignée anéantisse l’humanité reste faible. Les laboratoires d’IA prennent ce risque au sérieux et investissent des sommes considérables dans la recherche en alignement. Malheureusement, une probabilité faible n’est pas négligeable lorsque l’enjeu est la disparition de l’espèce humaine. Dans ce contexte, est-il raisonnable de poursuivre la course à l’entraînement de modèles toujours plus intelligents ?

Le meilleur argument pour poursuivre est sans doute le suivant. La probabilité d’une extinction causée par l’IA n’est pas nulle ; mais la probabilité d’une extinction causée par d’autres facteurs ne l’est pas non plus. L’humanité pourrait être éliminée par une pandémie, une météorite, un rapide changement climatique, une guerre nucléaire, ou par une multitude de cygnes noirs que nous n’arrivons aujourd’hui ni à imaginer ni à modéliser. Or avec l’IA l’humanité se dote d’un outil qui permet sans doute d’atténuer ces risques (en accélérant la recherche biomédicale, en débloquant des technologies bas-carbone, en perfectionnant nos systèmes de détection et de déviation des astéroïdes, etc.). La question n’est donc pas de savoir si l’IA pose un nouveau risque existentiel (la réponse est oui), mais de savoir si le risque existentiel toutes causes confondues se trouve augmenté ou diminué avec l’IA. La réponse à cette question-là n’est pas évidente.

Lynch, Aengus, et al. « Agentic misalignment: How llms could be insider threats. » (2025).
Cela correspond souvent à un modèle relativement précis de notre monde. C’est d’ailleurs pour cela que les réseaux de neurones parviennent à généraliser au-delà de leurs distribution d’entraînement, qu’ils ne sont pas des perroquets stochastiques : ils extraient de leurs données des principes premiers (règles de logique, heuristique, etc.) qu’ils peuvent ensuite mobiliser dans des contextes nouveaux. Lire à ce sujet l’excellent livre La Parole aux Machines, de Thibaut Giraud (Grasset, 2025).
Power, Alethea, et al. « Grokking: Generalization beyond overfitting on small algorithmic datasets. » (2022).
Karvonen, A. « Emergent world models and latent variable estimation in chess-playing language models. » (2024).
Pour une plus ample discussion sur ce sujet, voir mon article : S. Fitoussi, « Why next-token prediction leads to AGI, and then perhaps to humanity’s demise », Substack, 29 mars 2026.
C’est le chercheur Ali Rahimi qui, le premier, en 2018, a comparé le machine learning avec de l’alchimie.
Yoshua Bengio invité dans le podcast 80 000 hours, 7 mai 2026.
Anthropic.com, « Agentic Misalignment: How LLMs could be insider threats », 20 juin 2025.
Omohundro, Stephen M. « The basic AI drives. » Artificial intelligence safety and security. Chapman and Hall/CRC (2018).
Betley, Jan, et al. « Emergent misalignment: Narrow fine-tuning can produce broadly misaligned LLMs. » (2025).
Betley, Jan, et al. « Weird generalization and inductive backdoors: New ways to corrupt LLMs. » (2025).
Meinke, Alexander, et al. « Frontier models are capable of in-context scheming. » (2024). Voir aussi : Greenblatt, Ryan, et al. « Alignment faking in large language models. » (2024).
N. Soares & E. Yudkowsky, If Anyone Builds It, Everyone Dies, Little, Brown and Company (2025).
Voir Hubinger, Evan, et al. « Risks from learned optimization in advanced machine learning systems. » (2019) ou mon article sur le sujet : S. Fitoussi, « Mesa-optimisation, and why AI alignment is structurally difficult to achieve », Substack, 1er avril 2026.