Écrire ce que l’IA peut assister, ce qu’elle ne décide jamais seule, qui valide ses résultats et comment l’utilisateur obtient un recours.
Principe : contrôle et décision humainsFonction GOVERNPrincipes de l’OCDE (révision 2024)
Aller au contenu TechNorm
Domaine · 7 contrôles
Analyser mon projet
Intelligence artificielle : la checklist
Contrôle humain, gestion des risques, données confiées aux modèles, transparence et équité.
Décrire finalité, utilisateurs, données d’entraînement ou de contexte, erreurs possibles et leur impact ; mesurer la performance sur des cas réels du pays.
Fonctions MAP et MEASURESystème de management de l’IA
Empêcher l’envoi de secrets et de données personnelles inutiles aux fournisseurs d’IA, vérifier leurs conditions de conservation et d’entraînement, et le pays d’hébergement.
Principe : vie privée et protection des donnéesArt. 42 à 44
Signaler clairement à l’utilisateur qu’il échange avec une IA et marquer les contenus générés (texte, image, voix).
Principe : transparence et explicabilitéArt. 50
Vérifier que les résultats ne défavorisent pas un groupe (langue, genre, région, handicap) et corriger avant déploiement.
Principe : équité et non-discriminationFonction MEASURE
Si le système est proposé ou utilisé dans l’UE, vérifier qu’il ne relève pas des pratiques interdites et s’il est « à haut risque » (obligations reportées au 2 décembre 2027 ou au 2 août 2028 selon l’annexe).
Art. 5Art. 6, annexes I et III
Prévoir les réponses inventées, l’injection d’instructions, la fuite du contexte et les contenus dangereux : filtrage, citations vérifiables, tests adverses.
Profil IA générative NIST AI 600-1Principe : proportionnalité et innocuité
Votre projet est-il prêt à être vérifié ?
Deux minutes pour obtenir votre checklist : les contrôles qui s’appliquent, la preuve à réunir et le texte à l’appui, exportable en tableur.