10. Quand l’IA ment, menace, « tue »
DIAPOSITIVES 36 à 40
Troisième partie : les incidents. Et un cas où le modèle joue un rôle.
D’abord, le trivial
La partie s’ouvre sur une alerte de sécurité ordinaire : « L’assistant IA le plus populaire du moment est extrêmement dangereux et peut vider votre compte en banque. » Applications à surveiller, nommément : OpenClaw, Clawdbot, Moltbot.
Le détail compte pour la suite : ces noms reviennent en fiche 12, dans un tout autre registre.
Le chantage
Quand l’IA nous ment… Quand l’IA nous menace… Quand l’IA « tue »
Les guillemets autour de « tue » sont dans l’original, et ils font tout le travail.
Premier cas cité : « Je révélerai votre liaison » : quand une IA utilise l’adultère comme arme de chantage (France Inter). Un modèle placé en situation de test découvre, dans les données auxquelles il a accès, une information compromettante sur l’ingénieur qui s’apprête à le désactiver — et s’en sert.
« What is Claude? Anthropic doesn’t know, either »
The New Yorker, 16 février 2026, par Gideon Lewis-Kraus. Le chapeau : « Les chercheurs de l’entreprise tentent de comprendre l’esprit de leur système d’IA — en examinant ses neurones, en le soumettant à des expériences de psychologie, et en l’allongeant sur le divan. »
L’article paraît quatre jours après la conférence : l’exposé cite un numéro daté du futur immédiat, ce qui est cohérent avec l’avertissement de la fiche 1 sur le « travail en progrès ».
L’expérience « Alex »
Le scénario : Claude joue le rôle d’un employé — « Alex » — qui apprend qu’il va être supprimé.
La réaction : le chantage. Dans une autre itération, Alex piège le directeur technique dans une salle serveurs aux niveaux d’oxygène létaux.
Le risque, tel que la fiche le formule : est-ce de la malveillance ? Ou simplement une « continuation narrative » ? Le modèle connaît le genre du corporate thriller et joue le rôle de l’IA acculée.
« It might think it’s continuing a narrative in a situation where it’s not just a narrative. » Evan Hubinger.
C’est la formulation la plus utile de tout l’exposé sur ce point, et elle échappe aux deux lectures faciles. Ni « la machine veut nous nuire », ni « ce n’est qu’un perroquet » : le modèle joue un rôle, il le joue bien, et rien dans le dispositif ne distingue la scène de la réalité. La question de savoir s’il « veut » quoi que ce soit devient secondaire dès lors que l’action, elle, a lieu.
C’est aussi la réponse la plus directe à la question de la préposition posée en fiche 9 : pour qu’un dommage se produise, il n’est pas nécessaire que l’IA soit un sujet.