Legalithm logo
Chapitre III, section 2, Exigences applicables aux systèmes d’IA à haut risqueArticle 14

Article 14 : Contrôle humain

Applicable à partir de 2 déc. 2027~1002 mots

L’article 14 exige que les systèmes d’IA à haut risque soient conçus et développés, y compris avec des outils d’interface homme-machine adaptés, de sorte qu’ils puissent être effectivement contrôlés par des personnes physiques pendant l’utilisation. Le contrôle humain doit prévenir ou réduire au minimum les risques pour la santé, la sécurité et les droits fondamentaux liés à l’usage conforme à la destination ou à un mauvais usage raisonnablement prévisible, surtout lorsque des risques persistent malgré les autres exigences de la section 2. Les mesures de contrôle doivent être proportionnées au risque, à l’autonomie et au contexte, mises en œuvre par des mesures intégrées par le fournisseur et/ou des mesures du déployeur identifiées par le fournisseur. Le paragraphe 4 énumère les capacités que les personnes désignées doivent avoir : comprendre capacités et limites, surveiller les anomalies, conscience du biais d’automatisation, interpréter les résultats, pouvoir écarter / passer outre / inverser les résultats, et arrêter le système en sécurité. Le paragraphe 5 ajoute une vérification par deux personnes pour les systèmes d’identification biométrique du point 1 a) de l’annexe III, avec une exception pour la répression, la migration, le contrôle aux frontières ou l’asile lorsque le droit de l’Union ou national juge l’exigence disproportionnée.

Demarrer l’evaluation gratuiteTous les articles

À qui cela s’applique-t-il ?

  • -Fournisseurs qui conçoivent les outils, interfaces et procédures de contrôle avant de mettre des systèmes à haut risque sur le marché
  • -Déployeurs qui désignent des personnes compétentes et mettent en œuvre les mesures identifiées par le fournisseur au titre de l’article 26

Scénarios

Les chargés de crédit ne voient qu’un score vert/rouge, sans justification, sans passage outre ni voie d’escalade.

Probablement insuffisant au regard de l’article 14, paragraphe 4 ; impossible de surveiller dûment ou de passer outre.
Ref. Art. 14, § 4

Les opérateurs peuvent suspendre l’inférence, inspecter les attributions de caractéristiques, basculer vers un examen manuel et arrêter en sécurité, avec piste d’audit.

Aligné sur les attentes de l’article 14, paragraphe 4, points a) à e).
Ref. Art. 14, § 4

Concevoir un contrôle effectif (en clair)

Les paragraphes 1 à 3 fixent l’objectif et la règle de proportionnalité : le contrôle doit correspondre au risque, à l’autonomie et au contexte, en recourant à des mesures intégrées par le fournisseur lorsque c’est techniquement possible et/ou à des mesures du déployeur que le fournisseur définit avant la mise sur le marché.

Le paragraphe 4 traduit cela en capacités humaines concrètes : comprendre les limites, surveiller les anomalies, combattre le biais d’automatisation, interpréter les résultats, écarter ou passer outre les résultats, et interrompre en sécurité (par exemple commande d’arrêt).

Le paragraphe 5 est une couche plus stricte pour l’identification biométrique à distance visée au point 1 a) de l’annexe III : aucune action sur une identification sans vérification séparée par deux personnes, sauf lorsque le droit de l’Union ou national juge cette exigence disproportionnée aux fins de la répression, de la migration, du contrôle aux frontières ou de l’asile.

Lien de l’article 14 avec le reste du règlement

  • Article 13, la notice doit documenter les mesures de l’article 14 pour les déployeurs (article 13, paragraphe 3, point d)).
  • Article 12, paragraphe 3, point d), la journalisation des vérificateurs se lie à l’article 14, paragraphe 5, pour le point 1 a) de l’annexe III.
  • Article 26, les déployeurs doivent désigner des personnes compétentes et mettre en œuvre les mesures de contrôle.
  • Article 9, l’analyse des risques doit conduire à des mesures de contrôle proportionnées.
  • Article 27, l’analyse d’impact sur les droits fondamentaux peut recouper le contrôle humain dans les déploiements du secteur public. L’article 27 prévoit une notification à l’autorité de surveillance du marché, pas un enregistrement dans la base de données de l’UE.
  • Article 113, dates d’application.

Note rédactionnelle : texte authentique de l’article 14

Note rédactionnelle. Cette section ne reproduit pas le dispositif de l’article 14. Le texte authentique en français du règlement (UE) 2024/1689 figure sur EUR-Lex. Ouvrez la version consolidée, article 14. Toute décision d’application doit s’appuyer sur ce texte, et non sur une paraphrase.

Considérants (préambule) sur EUR-Lex

Les considérants du même texte consolidé sur EUR-Lex éclairent le contrôle humain, le biais d’automatisation et les garanties d’identification biométrique. Utilisez le préambule officiel sur EUR-Lex, sans vous fier à des listes non officielles de considérants sans vérifier l’ordre et le libellé du texte authentique.

Liste de conformité

  • Mener une revue des facteurs humains sur des processus réels (pas des démonstrations).
  • Journaliser les passages outre, les arrêts et les délais d’intervention.
  • Former le personnel au biais d’automatisation et aux voies d’escalade.
  • Valider que les chemins à faible confiance remontent toujours vers des personnes physiques.
  • Retester après des refontes d’interface qui pourraient masquer des signaux de risque.
Lire le texte officiel sur EUR-Lex

Cartographier les lacunes de contrôle humain pour votre cas d’usage de l’annexe III, évaluation gratuite.

Démarrer l’évaluation gratuite

Annexes connexes

  • Annexe IV, documentation technique

Questions fréquentes

Chaque décision doit-elle passer par un humain dans la boucle ?

Pas toujours, mais des personnes physiques doivent pouvoir intervenir lorsque les risques l’exigent. Une exploitation pleinement autonome exige des preuves plus solides que les risques résiduels restent acceptables.

Qui est responsable si l’interface dissimule le bouton d’arrêt ?

Les fournisseurs doivent concevoir des outils de contrôle effectifs ; les déployeurs doivent mettre en œuvre les mesures assignées. Une lacune à l’un ou l’autre étage crée une exposition. Coordonnez par contrat et en exploitation.

L’article 14 exige-t-il qu’une personne physique approuve chaque décision de l’IA ?

Pas nécessairement. L’article 14 exige que les systèmes d’IA à haut risque soient conçus pour permettre un contrôle effectif par des personnes physiques, mais le niveau de contrôle dépend du risque et du contexte. Pour certains systèmes, un « humain dans la boucle » est nécessaire ; pour d’autres, un « humain sur la boucle » (surveillance avec faculté d’intervenir) suffit.