La revue humaine nécessite une action définie, des preuves consultables et l’autorité de modifier la suite du processus. Désigner une personne ne suffit pas. Donnez-lui le temps, les compétences et les moyens pratiques de rejeter, suspendre ou faire remonter une action proposée.
Dans une expérience contrôlée, Buçinca et ses collègues (2021) ont constaté que des interfaces encourageant une réflexion délibérée réduisaient le recours excessif aux recommandations erronées de l’IA, au prix d’une moins bonne appréciation de leur facilité d’usage. C’est une raison de tester le travail réel des personnes chargées de la revue, y compris avec les trois niveaux proposés ici, que l’étude n’a pas testés.
Partir de l’action et de ses conséquences
Décrivez le parcours depuis les données d’entrée jusqu’à l’utilisation finale. Qui peut être affecté ? Qu’est-ce qui peut mal tourner ? Une action dommageable est-elle réversible ? Adaptez la profondeur et le moment de la revue à ce contexte. Une réponse bien rédigée ne prouve ni son exactitude ni l’autorisation d’agir.
Exemple fictif de service client
Un agent IA peut lire des consignes approuvées et préparer une réponse dans un espace autorisé. Envoyer des réponses ou modifier des dossiers clients nécessite une autorité et des permissions techniques distinctes. La direction du service client autorise le périmètre ; la personne chargée de la revue compare le brouillon aux consignes. Cet exemple ne décrit pas un résultat client.
Trois niveaux de revue : le modèle de conseil d’Ada
Ces niveaux constituent le modèle pratique proposé par Ada, et non des catégories légales. Combinez-les selon la tâche : une rédaction courante peut n’exiger que le premier, une action lourde de conséquences les trois.
Niveau 1 : examiner le résultat
Vérifiez la formulation, les affirmations factuelles, le contexte manquant et l’adéquation avant utilisation. La personne chargée de la revue peut corriger, rejeter ou réécrire le texte. Même une rédaction courante peut nécessiter une revue approfondie lorsqu’elle utilise des données sensibles ou influence une décision importante.
Niveau 2 : examiner les preuves
Comparez les affirmations importantes aux sources. Dans l’exemple, présentez les consignes approuvées pertinentes, leur version et les contradictions non résolues. Un lien fourni par le modèle est une piste à vérifier, pas une preuve. Consignez les écarts et faites remonter les preuves manquantes ou contradictoires.
Niveau 3 : examiner la décision et l’action
Examinez l’action prévue, le destinataire, le dossier concerné, la règle applicable, les preuves et les conséquences attendues. La personne chargée de la revue doit pouvoir refuser l’approbation et arrêter l’action avant son exécution. Ada recommande cette revue élargie pour les usages lourds de conséquences. Les obligations légales dépendent de la juridiction, du système, du rôle et du contexte.
Résultat
Preuves dans ce modèle: Brouillon et public visé
Autorité de la personne chargée de la revue: Corriger ou rejeter avant utilisation
Preuves
Preuves dans ce modèle: Sources approuvées, versions et contradictions
Autorité de la personne chargée de la revue: Contester et faire remonter les preuves manquantes
Décision et action
Preuves dans ce modèle: Action effective, cible, règle et conséquences
Autorité de la personne chargée de la revue: Refuser l’approbation ou arrêter avant exécution
Rendre l’approbation effective
Dans le pilote de service client, excluez l’envoi et la modification de dossiers des permissions de l’agent. Évaluez séparément toute extension ultérieure. Définissez le responsable habilité, les outils et données autorisés, l’événement d’approbation et les changements exigeant une nouvelle approbation. La revue d’un brouillon ne doit pas autoriser à l’insu de la personne un autre message ou destinataire.
Demandez à l’équipe technique de démontrer que les actions interdites restent bloquées, que l’approbation ne peut être contournée, qu’une suspension arrête les nouvelles actions et qu’un accès délégué révoqué ne fonctionne plus. Conservez les journaux d’actions avec approbation, résultat et exceptions, selon des règles adaptées d’accès et de conservation. Vérifiez l’état des actions en cours avant de réessayer afin d’éviter les envois ou modifications en double. Convenez des conditions de reprise et de réautorisation avant le redémarrage.
Le profil NIST pour l’IA générative traite de la vérification des sources et de l’interaction entre personnes et IA. Il s’agit de conseils de gestion des risques, pas d’une législation ni de ce modèle à trois niveaux. Guide : NIST Generative AI Profile, section 2.7 et MS-2.5-003 (en anglais).
Cadre juridique en Suisse et dans l’UE
Les trois niveaux sont un modèle de conception. Plusieurs règles juridiques fixent, pour certaines décisions, des conditions minimales d’intervention humaine. Vérifiez-les pour la décision concernée, votre rôle et le lieu où la décision produit ses effets.
Repères juridiques (CH/UE)
- Suisse, art. 21 LPD : lorsqu’une décision est prise exclusivement sur la base d’un traitement automatisé et qu’elle a des effets juridiques pour la personne concernée ou l’affecte de manière significative, le responsable du traitement doit l’en informer. Si la personne le demande, elle peut faire valoir son point de vue et exiger que la décision soit revue par une personne physique. L’art. 21, al. 3, LPD prévoit des exceptions et l’al. 4 des règles particulières pour les organes fédéraux. LPD, art. 21
- UE, art. 22 RGPD : une personne a le droit de ne pas faire l’objet d’une décision fondée exclusivement sur un traitement automatisé produisant des effets juridiques la concernant ou l’affectant de manière significative de façon similaire, sauf exception. Dans les exceptions liées au contrat et au consentement explicite, le responsable du traitement doit au moins garantir une intervention humaine ainsi que la possibilité d’exprimer son point de vue et de contester la décision. Dans l’arrêt SCHUFA (C‑634/21, 7 décembre 2023), la Cour de justice a jugé qu’une valeur de probabilité de solvabilité établie de manière automatisée constitue déjà une telle décision lorsqu’en dépend de manière déterminante le fait qu’un tiers établisse, exécute ou mette fin à une relation contractuelle avec la personne. RGPD, art. 22 ; arrêt C‑634/21
- Règlement européen sur l’IA, systèmes à haut risque : l’article 14 impose aux fournisseurs de concevoir ces systèmes de manière à permettre un contrôle effectif par des personnes physiques, notamment, dans la mesure où cela est approprié et proportionné, pour ignorer, remplacer ou inverser la sortie et pour arrêter le système. L’article 26, paragraphe 2, impose aux déployeurs de confier le contrôle humain à des personnes physiques disposant des compétences, de la formation et de l’autorité nécessaires ainsi que du soutien nécessaire. Selon l’article 113, modifié par le règlement (UE) 2026/1744, ces obligations s’appliquent à compter du 2 décembre 2027 pour les systèmes de l’annexe III et du 2 août 2028 pour les systèmes relevant de l’article 6, paragraphe 1, liés à des produits de l’annexe I, section A. En vertu de l’article 2, paragraphe 2, aucun de ces deux articles ne s’applique aux systèmes liés à des produits de l’annexe I, section B, pour lesquels seuls l’article 6, paragraphe 1, l’article 60 bis et les articles 102 à 112 s’appliquent ; des actes délégués adoptés en vertu de l’article 2, paragraphe 13, peuvent limiter l’article 14 pour les systèmes de la section A. Les systèmes mis sur le marché ou mis en service avant ces dates ne sont concernés que dans les conditions prévues à l’article 111, paragraphe 2 ; l’article 111, paragraphe 1, régit séparément les composants des systèmes d’information à grande échelle établis par les actes énumérés à l’annexe X. Règlement consolidé
En pratique, consignez ce que la personne chargée de la revue a examiné en plus de la sortie de l’IA et ce qu’elle a modifié. Ce dossier aide à montrer si une personne a réellement pesé la décision.
Lorsque le règlement européen sur l’IA s’applique, l’article 4, dans sa version issue du règlement (UE) 2026/1744 en vigueur depuis le 27 juillet 2026, oblige les fournisseurs et déployeurs à prendre des mesures favorisant la maîtrise de l’IA de leur personnel et des autres personnes qui s’occupent des systèmes d’IA pour leur compte, compte tenu de leurs connaissances, de leur expérience, de leur formation, du contexte d’usage et des personnes concernées. Cette obligation ne les contraint pas à garantir un niveau spécifique de maîtrise de l’IA par un individu, et elle ne prescrit pas ces niveaux de revue. Législation : règlement consolidé, articles 2 et 4.
Le document du NIST NCCoE sur l’identité et l’autorisation des agents explore la délégation et les journaux d’actions. Le document cité de février 2026 est un projet de document conceptuel pour un projet envisagé, pas une norme définitive ni une exigence de conformité. Projet de document conceptuel : identité et autorisation des agents (en anglais).
Appliquer le modèle
Consignez les limites d’action dans le registre des cas d’usage, exercez-les avec la fiche pilote et examinez corrections et tests dans la fiche mensuelle. La fiche fournisseur aide à vérifier que l’outil permet la revue prévue.
Le service de conception et d’évaluation de pilotes d’Ada accompagne ces étapes. Présentez un processus à examiner.