Tester l’équité et les biais
Contrôle humain, gestion des risques, données confiées aux modèles, transparence et équité.
Ce qu’il faut faire
Vérifier que les résultats ne défavorisent pas un groupe (langue, genre, région, handicap) et corriger avant déploiement.
La preuve à réunir
Rapport de test par sous-groupes.
Textes et normes de référence
- Recommandation UNESCO sur l’IAPrincipe : équité et non-discrimination
- NIST AI RMFFonction MEASURE
Questions fréquentes
Que faut-il faire concrètement ?
Vérifier que les résultats ne défavorisent pas un groupe (langue, genre, région, handicap) et corriger avant déploiement.
Comment prouver que c’est fait ?
Rapport de test par sous-groupes.
Sur quels textes repose ce contrôle ?
Recommandation UNESCO sur l’IA, Principe : équité et non-discrimination ; NIST AI RMF, Fonction MEASURE.