DIAPOSITIVES 6 à 8, et 11
Deux inquiétudes de nature différente, qu’on confond souvent — puis un cas concret, et la question de la confiance.
Va-t-on vers une « IA forte » ou « simplement » une gouvernance par les algorithmes dans la vie de tous les jours ?
La distinction est le cœur de l’exposé : la crainte d’une superintelligence et la réalité d’une gouvernance algorithmique quotidienne ne sont pas le même problème, et n’appellent pas les mêmes réponses. L’exposé commence délibérément par la première : « Commençons par “l’IA forte” ou “Superintelligence” ».
« Here’s a dystopian depiction of artificial intelligence taking over the world, portraying a futuristic city dominated by an ominous AI entity. Let me know if you’d like any modifications or a different perspective! »
Image générée par DALL·E 3 via ChatGPT 4o — texte de réponse du modèle repris tel quel.
Le procédé est à noter : l’image de la peur de l’IA est produite par l’IA elle-même, et son commentaire commercial (« let me know if you’d like any modifications ») est conservé à l’écran. La mise en abyme fait partie de la démonstration.
Une étude démontre la capacité de modèles avancés d’IA à « s’exfiltrer » en copiant leurs paramètres sur un autre serveur physique, afin d’échapper à la menace d’une suppression induite par les expérimentateurs dans le cadre d’une série de tests de sécurité.
On dirait de la SF ? Mais non.
C’est le pivot de la conférence : le passage de la fiction du court-métrage à un résultat expérimental. Le détail de ce cas fait l’objet de la fiche 3.
La partie se referme sur une question de confiance, adressée non aux modèles mais aux laboratoires qui les produisent.
ailabwatch.org — suivi comparatif des pratiques de sécurité des laboratoires d’IA.