DIAPOSITIVES 6 à 8
Commencer petit, pour montrer que le problème n’est pas la taille du dommage.
Un chatbot peut coûter 650 $ à une entreprise… ou éroder la confiance dans une institution.
L’exposé ouvre sa partie « Introduction » sur le cas le plus modeste possible, et c’est délibéré : les hallucinations sont présentées comme « le degré zéro du risque » de l’IA générative, en particulier pour les grands modèles de langue. Non pas le risque nul : le risque de base, celui qui est toujours là.
En 2022, Jake Moffatt contacte Air Canada pour savoir quels documents permettent de bénéficier d’un tarif de deuil, et si un remboursement peut être accordé rétroactivement. Le chatbot lui répond qu’il peut demander le remboursement « dans les 90 jours suivant la date d’émission du billet ». Il réserve donc ses vols pour assister à des funérailles.
Au moment de la demande, la compagnie répond que les tarifs de deuil ne s’appliquent pas aux voyages déjà effectués, et renvoie à la page de son site. Confrontée des mois plus tard à la capture d’écran, Air Canada admet que le robot avait employé des « termes trompeurs » et annonce qu’elle le mettra à jour.
Moffatt attaque. La compagnie produit alors ce que le tribunal appellera une « remarquable argumentation » : le chatbot serait « une entité juridique distincte », responsable de ses propres actes.
« Si un chatbot comporte une composante interactive, il n’en reste pas moins une partie du site d’Air Canada. Il devrait être évident pour Air Canada qu’elle est responsable de toute l’information figurant sur son site. Peu importe que l’information vienne d’une page statique ou d’un chatbot. » Christopher Rivers, membre du tribunal.
Air Canada plaidait que l’information correcte figurait ailleurs sur son site. Le tribunal répond qu’elle « n’explique pas pourquoi la page intitulée Bereavement Travel serait intrinsèquement plus digne de confiance » que son robot : « il n’y a aucune raison pour que M. Moffatt sache qu’une section du site est exacte et qu’une autre ne l’est pas. »
C’est la première affaire du genre au Canada. Ce que l’exposé en retient tient en une phrase : le montant est dérisoire, mais la défense — ce n’est pas nous, c’est la machine — est exactement la question. Elle reviendra sous une forme plus sérieuse en fiche 12, avec la question de la personnalité juridique des IA.
La diapositive suivante annonce le changement d’échelle :
Le passage se fait donc en trois marches : 650 dollars, puis des dizaines de milliers de familles ruinées, puis une infrastructure de surveillance. La même technologie, trois ordres de grandeur.