DIAPOSITIVES 12 à 14
Il existe un noyau partagé, même entre camps opposés. Il ne tranche presque rien.
L’orateur veut d’abord « montrer qu’il existe un noyau partagé, même chez des camps opposés ». Une convergence internationale se dégage autour de six principes :
Droits humains : dignité · équité / non-discrimination · transparence / explicabilité · robustesse / sécurité · alignement / contrôle humain · responsabilité
Les formulations varient d’un texte à l’autre ; le noyau, lui, tient.
| Source | Nature |
|---|---|
| Principes de l’OCDE | Adoptés en 2019, mis à jour en 2024. (oecd.ai) |
| Recommandation de l’UNESCO sur l’éthique de l’IA | 2021. |
| NIST AI RMF 1.0 | Cadre de gestion des risques — volontaire. |
| AI Act de l’UE | Approche par niveaux de risque — contraignant. fiche 16 |
Trois questions restent ouvertes, et l’exposé les pose à la salle sous forme d’encadrés :
| Qui porte la responsabilité ? | Quel niveau de transparence est « suffisant » ? | Quels usages doivent être interdits vs encadrés ? |
|---|---|---|
| Fournisseur, déployeur, entreprise, utilisateur, État ? | Pour le modèle, les données, la décision, ou tout ? | L’UE tranche partiellement, via interdictions et obligations. |
L’orateur illustre par deux exemples précis. La transparence : exiger « la transparence » ne veut rien dire tant qu’on n’a pas dit de quoi. Les systèmes à haut risque : pour une décision automatisée d’octroi de crédit ou d’évaluation d’un collaborateur, la supervision humaine est requise afin de réduire les biais — mais « comment vérifier que l’humain est réellement dans la boucle, et que les modèles sont correctement audités ? »
Ce n’est pas une remarque de méthode. Le scandale néerlandais de la fiche 3 avait son humain dans la boucle : un fonctionnaire examinait chaque signalement. Il n’avait simplement pas accès aux motifs. Le principe était respecté à la lettre et vidé de tout effet.
La troisième diapositive passe des principes aux pratiques de bonne gestion des risques :
Et trois questions, en gros caractères, que le consensus laisse entières :
| Jusqu’où accepter le risque ? | Qui paie le prix ? | Qui décide ? |
|---|
Ces trois questions sont politiques, pas techniques — et c’est la réponse que l’exposé apporte, sans encore la formuler, à la question de la fiche 4. Aucun progrès de la technique ne dit qui paie le prix d’un risque accepté.