Contrôle humain de l'IA : l'article 14 de l'AI Act

Un opérateur qui valide 400 sorties d’un système de présélection de candidatures dans sa journée y consacre environ 70 secondes chacune, pauses comprises. Sur le papier, l’entreprise a mis en place un contrôle humain. En réalité, elle a mis en place un tampon. La distinction n’est pas rhétorique : c’est exactement celle que retiendront un contrôleur de la CNIL, un juge du fond, et bientôt une autorité de surveillance du marché.

L’article 14 de l’AI Act organise ce contrôle humain pour les systèmes à haut risque. Voici ce qu’il exige réellement, ce qui s’applique aujourd’hui malgré le report du calendrier, et comment concevoir un dispositif qui résiste à un contrôle.

Ce que l’article 14 de l’AI Act impose vraiment

L’article 14 du règlement (UE) 2024/1689 figure dans la section 2 du chapitre III, celle qui liste les exigences applicables aux systèmes d’IA à haut risque. Il ne s’adresse donc ni aux systèmes à risque limité, soumis aux seules obligations de transparence de l’article 50, ni aux systèmes à risque minimal.

Son architecture tient en cinq paragraphes.

Art. 14(1) — une exigence de conception. Le système doit être conçu et développé, y compris via des outils d’interface homme-machine appropriés, de manière à pouvoir être « effectivement supervisé » par des personnes physiques pendant la durée de son utilisation. Le mot important est effectivement. Ce n’est pas une obligation de prévoir un bouton : c’est une obligation de résultat sur la capacité réelle de supervision.

Art. 14(2) — une finalité assignée. Le contrôle humain vise à prévenir ou réduire les risques pour la santé, la sécurité ou les droits fondamentaux qui peuvent apparaître lors d’un usage conforme à la destination du système ou dans des conditions de mauvais usage raisonnablement prévisible. Cette seconde branche est régulièrement oubliée dans les analyses de risque.

Art. 14(3) — une exigence proportionnée et partagée. Les mesures doivent être proportionnées aux risques, au niveau d’autonomie et au contexte d’utilisation. Elles peuvent être intégrées au système par le fournisseur (a), ou identifiées par le fournisseur puis mises en œuvre par le déployeur (b). C’est le point de bascule contractuel entre fournisseur et déployeur : le fournisseur qui se contente d’écrire « le déployeur devra assurer une supervision humaine » sans identifier les mesures concrètes n’a pas satisfait à l’article 14(3)(b).

Art. 14(4) — cinq capacités à garantir aux superviseurs. C’est le cœur opérationnel du texte.

Capacité (art. 14(4))	Ce qu’il faut fournir concrètement
(a) Comprendre les capacités et limites du système, détecter anomalies et dysfonctionnements	Notice d’utilisation exploitable, périmètre de validité du modèle, taux d’erreur connus par sous-population, alertes de dérive
(b) Rester conscient du biais d’automatisation	Formation dédiée, affichage d’un indicateur de confiance, revue croisée sur échantillon, absence d’incitation à la cadence
© Interpréter correctement la sortie	Explication locale de la décision, outils d’interprétabilité, exemples contrefactuels
(d) Décider de ne pas utiliser le système, ou d’ignorer, écraser ou inverser la sortie	Autorité hiérarchique réelle, procédure de dérogation sans validation d’un tiers, absence de sanction implicite
(e) Intervenir ou interrompre le système	Bouton d’arrêt ou procédure équivalente amenant le système à un état sûr

Art. 14(5) — la règle des quatre yeux pour la biométrie. Pour les systèmes d’identification biométrique à distance visés au point 1(a) de l’annexe III, aucune action ni décision ne peut être prise sur la base d’une identification tant que celle-ci n’a pas été vérifiée et confirmée séparément par au moins deux personnes physiques disposant de la compétence, de la formation et de l’autorité nécessaires. Le texte prévoit une exception pour les usages répressifs, migratoires, de contrôle aux frontières et d’asile lorsque le droit de l’Union ou national juge cette exigence disproportionnée.

Côté déployeur, l’article 26(2) complète le dispositif : le contrôle humain doit être confié à des personnes physiques disposant de la compétence, de la formation, de l’autorité et du soutien nécessaires. Ce dernier terme est celui qui se plaide : un opérateur qu’on prive de temps n’est pas soutenu.

Report de décembre 2027 : ce que ça ne change pas

Le règlement (UE) 2026/1744, dit « omnibus numérique IA », entré en vigueur le 27 juillet 2026, a déplacé l’application des exigences substantielles applicables aux systèmes à haut risque. L’article 14 fait partie du lot.

Catégorie de système	Date initiale	Date applicable
Systèmes autonomes de l’annexe III (art. 6(2)) : RH, crédit, éducation, biométrie, justice, services essentiels	2 août 2026	2 décembre 2027
Systèmes intégrés à des produits réglementés de l’annexe I (art. 6(1))	2 août 2027	2 août 2028

Ces dates sont civiles et inconditionnelles. Le mécanisme de déclenchement conditionné à la disponibilité des normes harmonisées, présent dans la proposition de novembre 2025, a été supprimé en trilogue.

Reste que le raccourci « on a jusqu’à fin 2027 » est faux pour trois raisons.

Première raison : l’article 22 du RGPD s’applique aujourd’hui. Il n’a jamais été suspendu, et il vise précisément le même objet — l’intervention humaine dans une décision produisant des effets juridiques ou affectant significativement une personne. J’y reviens en détail ci-dessous.

Deuxième raison : le contrôle humain est une exigence de conception, pas un paramétrage. Rétrofitter une capacité de supervision effective dans un système déjà déployé coûte trois à cinq fois plus cher que de la spécifier au cahier des charges. Les entreprises qui signent aujourd’hui un contrat SaaS d’IA RH ou de scoring pour trois ans achètent un système qui devra être conforme en décembre 2027 : c’est maintenant que les clauses se négocient, pas au renouvellement.

Troisième raison : la CNIL contrôle déjà. L’intelligence artificielle figure au programme des contrôles de la CNIL, et la question de l’intervention humaine a été l’un des sujets prioritaires de son bac à sable réglementaire. Une entreprise contrôlée sur un traitement de scoring en 2026 sera interrogée sur son dispositif de supervision, pas sur son calendrier AI Act.

Article 22 du RGPD et article 14 de l’AI Act : deux logiques distinctes

C’est la confusion la plus fréquente dans les projets que j’accompagne. Les deux textes parlent d’humain et de machine, mais ils ne protègent pas la même chose et ne se déclenchent pas aux mêmes conditions.

	Art. 22 RGPD	Art. 14 AI Act
Nature	Droit de la personne concernée	Exigence de conception produit
Champ	Décision fondée exclusivement sur un traitement automatisé, produisant des effets juridiques ou affectant significativement	Tout système classé haut risque, qu’il traite ou non des données personnelles
Objet protégé	La personne visée par la décision	Santé, sécurité, droits fondamentaux, y compris de tiers
Débiteur	Responsable de traitement	Fournisseur (conception) et déployeur (mise en œuvre)
Effet de l’intervention humaine	Fait sortir du champ de l’art. 22 si elle est significative	Ne fait rien sortir : c’est une exigence en soi
Sanction	20 M€ ou 4 % du CA mondial (art. 83(5)(b) RGPD)	15 M€ ou 3 % du CA mondial (art. 99(4) AI Act)
Applicable	Depuis 2018	2 déc. 2027 (annexe III) / 2 août 2028 (annexe I)

La conséquence pratique est contre-intuitive : un dispositif de supervision humaine peut être suffisant au regard de l’article 22 du RGPD — parce qu’il fait sortir la décision du champ du « exclusivement automatisé » — et rester insuffisant au regard de l’article 14, qui ne se satisfait pas d’une intervention ponctuelle mais exige une capacité de supervision continue et outillée.

L’inverse existe aussi. Un système d’aide au diagnostic, haut risque au titre de l’annexe III, peut être parfaitement conforme à l’article 14 sans que l’article 22 soit même applicable, si le praticien conserve un pouvoir décisionnel entier. Le détail du régime de l’article 22 est traité dans notre guide sur les décisions automatisées et notre analyse article par article.

Ce que la jurisprudence exige déjà de l’intervention humaine

Deux décisions de la Cour de justice ont resserré l’étau.

Dans l’arrêt SCHUFA Holding (C-634/21, 7 décembre 2023), la Cour a jugé que l’établissement automatisé d’un score de probabilité de remboursement constitue lui-même une décision individuelle automatisée au sens de l’article 22(1), dès lors que ce score joue un rôle déterminant dans la décision prise par le tiers qui le sollicite. La portée est considérable : le fournisseur du score ne peut plus se retrancher derrière le fait que la décision finale appartient à la banque. Symétriquement, l’établissement qui reprend mécaniquement le score ne se sauve pas non plus.

Dans l’arrêt CK contre Magistrat der Stadt Wien / Dun & Bradstreet Austria (C-203/22, 27 février 2025), la Cour a précisé le contenu du droit d’obtenir des « informations utiles concernant la logique sous-jacente » au titre de l’article 15(1)(h) du RGPD : le responsable doit décrire la procédure et les principes effectivement appliqués, de façon concise, transparente et intelligible, et le secret des affaires ne permet pas un refus global — les éléments doivent alors être communiqués à l’autorité de contrôle ou au juge pour arbitrage.

Ces deux arrêts s’ajoutent à la position constante du CEPD, héritée des lignes directrices WP251 rev.01 du groupe de l’article 29 : pour écarter l’article 22, la supervision doit être significative et non symbolique, exercée par une personne qui dispose de l’autorité et de la compétence pour modifier la décision. Une validation formelle qui entérine systématiquement la sortie du modèle ne suffit pas.

Les trois niveaux de contrôle humain, et comment choisir

La CNIL retient dans son guide d’auto-évaluation des systèmes d’IA une taxonomie en trois niveaux, que je recommande d’utiliser telle quelle : elle est reconnue, elle se documente, et elle force à un choix explicite.

Niveau	Définition	Quand le retenir
Human-in-the-loop	Intervention humaine dans chaque cycle de décision : rien ne produit d’effet sans validation	Décisions individuelles à effets juridiques ou significatifs, biométrie, santé, sanctions, refus de crédit ou de candidature
Human-on-the-loop	Intervention pendant la conception et surveillance du fonctionnement, avec capacité de reprise	Volumes élevés à enjeu individuel modéré : tri de flux, détection de fraude en première ligne, modération assistée
Human-in-command	Supervision de l’activité globale et décision sur le quand et le comment de l’usage	Tous les systèmes, en couche supérieure : c’est le niveau de la gouvernance, pas de l’opération

Trois erreurs classiques dans ce choix.

Retenir le in-the-loop par confort et ne pas le tenir. C’est la situation décrite en ouverture. Si le volume rend la revue individuelle impossible, le niveau annoncé est faux et le dispositif est plus fragile que si l’entreprise avait assumé un on-the-loop correctement outillé.

Confondre in-command et supervision opérationnelle. Un comité IA trimestriel ne supervise aucune décision individuelle. Il relève de la gouvernance de l’IA et ne satisfait ni l’article 14(4)(d), ni l’article 22(3) du RGPD.

Retenir un niveau unique pour tout le système. Le bon design est souvent hybride, avec un routage par indicateur de confiance : on-the-loop au-dessus d’un seuil, in-the-loop en dessous et sur les cas relevant de critères de vulnérabilité. La CNIL le suggère explicitement dans sa fiche « Utiliser un système d’IA en production », qui demande si « une identification des cas où l’intervention humaine est nécessaire a été mise en place, via le calcul d’un indicateur de confiance par exemple ».

Cinq configurations qui disqualifient une supervision humaine

Dans les audits que je conduis, les mêmes défauts reviennent. Ils ont en commun de ne pas se voir sur un organigramme, seulement dans les données d’usage.

1. Le superviseur n’a pas le pouvoir de contredire. L’opérateur peut cocher « désaccord », mais la dérogation doit être validée par un responsable qui, lui, n’a pas accès au dossier. Ou la dérogation est possible mais tracée comme un incident qualité. Dans les deux cas, l’autorité exigée par les articles 14(4)(d) et 26(2) fait défaut.

2. La cadence rend la revue matériellement impossible. C’est le défaut le plus facile à démontrer et le plus difficile à corriger. Il se mesure : temps médian entre affichage de la sortie et validation. En dessous de quelques secondes sur un dossier complexe, aucune explication ne tient.

3. Le superviseur ne dispose d’aucune information sur la sortie. Pas d’indicateur de confiance, pas d’explication locale, pas de visibilité sur les variables déterminantes. L’article 14(4)© exige une capacité d’interprétation correcte, ce qui suppose des moyens d’explicabilité — et l’arrêt Dun & Bradstreet a montré que l’opacité contractuelle du fournisseur ne protège pas le déployeur.

4. Le biais d’automatisation n’est pas traité. Le LINC, laboratoire de la CNIL, a consacré un dossier à ce point en octobre 2024 : la littérature scientifique montre que l’intervention humaine n’améliore pas toujours les résultats d’un système automatisé et peut même les dégrader, les décisionnaires basculant soit dans le biais d’acceptation, soit dans le biais d’aversion. L’article 14(4)(b) est le seul texte européen qui impose de traiter explicitement ce phénomène. Le traiter suppose au minimum : une formation dédiée, un dispositif de revue croisée sur échantillon aveugle, et le suivi du taux de dérogation dans le temps.

5. Rien n’est journalisé. Sans trace de qui a supervisé quoi, quand, avec quelles informations et pour quel résultat, la supervision est indémontrable. L’article 12 de l’AI Act impose déjà la journalisation côté système ; l’article 24 du RGPD impose de pouvoir démontrer la conformité. Une supervision non tracée est, en droit de la preuve, une supervision inexistante.

Concevoir un dispositif qui tient : la méthode en sept étapes

Étape 1 — Qualifier le système. Haut risque au titre de l’annexe I ou de l’annexe III ? La classification par niveau de risque commande tout le reste. Un système de tri de CV relève du point 4 de l’annexe III (IA et recrutement) ; un scoring d’octroi de crédit du point 5 (IA en banque et assurance).

Étape 2 — Qualifier la décision au regard de l’article 22 du RGPD. Effets juridiques ou affectation significative ? Décision « exclusivement » automatisée en l’état ? Cette qualification est indépendante de la précédente et doit figurer dans le registre des activités de traitement comme dans l’AIPD.

Étape 3 — Choisir le niveau de supervision, cas d’usage par cas d’usage. Et non système par système. Documentez le seuil de routage et sa justification.

Étape 4 — Dimensionner les ressources. Nombre de dossiers par superviseur et par jour, temps cible de revue, taux de couverture pour les niveaux on-the-loop. Un dispositif non dimensionné n’est pas un dispositif.

Étape 5 — Outiller le superviseur. Indicateur de confiance affiché, variables déterminantes, cas comparables, historique des dérogations sur des dossiers similaires, bouton d’interruption. Ce sont les mesures de l’article 14(3)(a) : elles se négocient avec le fournisseur, elles ne s’improvisent pas.

Étape 6 — Former et habiliter. L’obligation de littératie IA de l’article 4 est applicable depuis le 2 février 2025 et n’a pas été reportée. Pour les superviseurs, elle se double d’une exigence de compétence spécifique au titre de l’article 26(2). Formalisez l’habilitation : qui peut déroger, jusqu’à quel niveau, sans validation de qui.

Étape 7 — Mesurer et corriger. Sans indicateurs, l’étape 6 est un classeur.

Mesurer l’efficacité de la supervision : les indicateurs qui comptent

La CNIL demande dans sa fiche de production si « une étude de la proportion de cas soumis à l’humain et de l’efficacité de la supervision est prévue ». Voici les six indicateurs que je recommande de suivre, avec des seuils d’alerte à calibrer par contexte.

Indicateur	Ce qu’il révèle	Seuil d’alerte typique
Taux de dérogation (part des sorties modifiées ou écartées)	Biais d’acceptation si trop bas, aversion ou dérive du modèle si trop haut	< 1 % ou > 25 %
Temps médian de revue par dossier	Faisabilité matérielle de la supervision	Incohérent avec la complexité documentée du dossier
Dispersion du taux de dérogation entre superviseurs	Absence de doctrine commune, formation défaillante	Écart supérieur à un facteur 3
Taux de dérogation par tranche d’indicateur de confiance	Efficacité du routage : la dérogation doit se concentrer sur les faibles confiances	Distribution plate
Part des dossiers traités hors du périmètre de validité du modèle	Détournement d’usage au sens de l’art. 14(2)	Toute valeur non nulle non justifiée
Taux de confirmation en cas de contestation par la personne concernée	Qualité réelle de la supervision de premier niveau	> 95 % de confirmations

Le quatrième indicateur est le plus révélateur et le moins suivi. Si le taux de dérogation est identique pour les sorties à 55 % de confiance et à 98 %, le superviseur ne lit pas l’indicateur de confiance — donc il ne supervise pas, il valide.

Ce suivi n’a rien de théorique : c’est le type d’indicateur qui alimente le rapport d’activité du DPO et qui, produit spontanément lors d’un contrôle, change la tonalité de la discussion. C’est aussi ce que Legiscope automatise sur le volet documentaire, en rattachant chaque système d’IA à ses mesures de supervision et à leurs preuves.

Où documenter le contrôle humain

Le même dispositif doit apparaître dans plusieurs supports, avec des contenus différents. Les incohérences entre ces documents sont un motif classique d’observation en contrôle.

• Notice d’utilisation (art. 13 AI Act) — côté fournisseur : les mesures de contrôle intégrées et celles à mettre en œuvre par le déployeur, avec les moyens techniques correspondants.
• Documentation technique (art. 11 et annexe IV) — la description détaillée des mesures de supervision et de leur évaluation.
• AIPD (art. 35 RGPD) — la supervision humaine comme mesure de réduction du risque, avec son dimensionnement.
• FRIA (art. 27 AI Act) — pour les déployeurs concernés : les mesures de contrôle humain à mettre en œuvre, expressément visées par le texte.
• Registre des traitements et registre des systèmes d’IA — la mention du niveau de supervision retenu et de son responsable.
• Information des personnes (art. 13 et 14 RGPD) — l’existence d’une décision automatisée et le droit d’obtenir une intervention humaine.
• Contrat avec le fournisseur — l’engagement sur les mesures de l’article 14(3)(a) et sur la fourniture des éléments d’interprétation. C’est le point à négocier en priorité.

Pour les systèmes de l’annexe III, l’article 86 de l’AI Act ajoute un droit à l’explication des décisions individuelles, distinct de l’article 22(3) du RGPD et qui appelle une procédure de réponse dédiée.

Ce qu’il faut retenir

• L’article 14 de l’AI Act exige une supervision effective, pas une validation formelle : cinq capacités concrètes doivent être garanties aux superviseurs, dont la conscience du biais d’automatisation et le pouvoir réel d’écarter la sortie du système.
• Les exigences applicables aux systèmes à haut risque, article 14 compris, sont reportées au 2 décembre 2027 pour l’annexe III et au 2 août 2028 pour l’annexe I par le règlement (UE) 2026/1744. Ces dates sont fixes et inconditionnelles.
• Ce report ne suspend rien du côté RGPD : l’article 22 s’applique depuis 2018, et les arrêts SCHUFA (C-634/21) et Dun & Bradstreet (C-203/22) ont durci les exigences sur l’intervention humaine et l’explication de la logique.
• Le choix entre human-in-the-loop, on-the-loop et in-command doit se faire cas d’usage par cas d’usage, avec un routage par indicateur de confiance plutôt qu’un niveau unique par système.
• Une supervision non mesurée est indéfendable. Six indicateurs suffisent, à commencer par le taux de dérogation croisé avec l’indicateur de confiance.
• Les sanctions diffèrent : 15 M€ ou 3 % du chiffre d’affaires mondial pour l’article 14 (art. 99(4) AI Act), 20 M€ ou 4 % pour l’article 22 du RGPD.

Recevez nos analyses de conformité chaque semaine. Décryptages RGPD, AI Act, NIS2 et Data Act, sans jargon inutile. Inscrivez-vous à la newsletter.

FAQ

Le contrôle humain est-il obligatoire pour tous les systèmes d’IA ?

Non. L’article 14 ne s’applique qu’aux systèmes classés à haut risque au titre de l’article 6 de l’AI Act. En revanche, l’article 22 du RGPD impose une intervention humaine, indépendamment de toute qualification AI Act, dès qu’une décision fondée exclusivement sur un traitement automatisé produit des effets juridiques ou affecte significativement une personne. Beaucoup de systèmes non classés haut risque sont donc concernés par cette seconde voie.

Une validation humaine systématique suffit-elle à sortir du champ de l’article 22 du RGPD ?

Non, si elle est purement formelle. Le CEPD, dans la ligne des lignes directrices WP251 rev.01, exige une intervention significative, exercée par une personne disposant de l’autorité et de la compétence pour modifier la décision. Un opérateur qui entérine systématiquement la sortie du modèle, sans marge d’appréciation réelle ni temps suffisant, ne fait pas sortir le traitement du champ de l’article 22.

Qui doit assurer le contrôle humain : le fournisseur ou le déployeur ?

Les deux, à des niveaux différents. Le fournisseur doit concevoir le système de manière à le rendre supervisable et identifier les mesures de contrôle (art. 14(3)), y compris celles que le déployeur devra mettre en œuvre. Le déployeur doit confier la supervision à des personnes physiques disposant de la compétence, de la formation, de l’autorité et du soutien nécessaires (art. 26(2)). Un fournisseur qui renvoie la supervision au déployeur sans identifier de mesures concrètes ne satisfait pas à son obligation.

Que change le report de l’AI Act au 2 décembre 2027 pour un projet en cours ?

Il donne du temps sur la conformité formelle, pas sur la conception. La supervision effective se spécifie au cahier des charges et se négocie au contrat : un système acheté aujourd’hui pour trois ans devra être conforme en décembre 2027. Et les obligations RGPD applicables au même dispositif — article 22, AIPD, information des personnes — ne sont pas touchées par le report.

Combien risque une entreprise en cas de contrôle humain insuffisant ?

Au titre de l’AI Act, le manquement aux exigences applicables aux systèmes à haut risque relève de l’article 99(4) : jusqu’à 15 millions d’euros ou 3 % du chiffre d’affaires annuel mondial, le montant le plus élevé étant retenu. Au titre du RGPD, une violation de l’article 22 relève du plafond le plus élevé de l’article 83(5) : 20 millions d’euros ou 4 % du chiffre d’affaires mondial. Les deux régimes peuvent se cumuler puisqu’ils sanctionnent des manquements distincts.

Comment prouver que la supervision humaine est effective ?

Par les données d’usage, pas par les procédures. Un contrôleur regardera le taux de dérogation, le temps médian de revue, la dispersion entre superviseurs et la corrélation entre dérogation et indicateur de confiance. La journalisation prévue par l’article 12 de l’AI Act et l’obligation de démonstration de l’article 24 du RGPD convergent sur ce point : ce qui n’est pas tracé n’est pas prouvé.