Pratiques interdites du règlement sur l’IA : guide de l’article 5

L’essentiel

• Le règlement sur l’IA interdit absolument huit catégories de pratiques d’IA au titre de l’article 5. Ce ne sont pas des systèmes « à haut risque » : elles sont interdites, un point c’est tout.
• Les interdictions sont opposables depuis le 2 février 2025, ce qui en fait les premières obligations du règlement à produire des effets juridiques. Les organisations qui déploient des systèmes d’IA interdits sont déjà exposées.
• Les manquements entraînent les sanctions les plus lourdes de la réglementation numérique de l’Union : jusqu’à 35 millions d’euros ou 7 % du chiffre d’affaires annuel mondial, le montant le plus élevé étant retenu, au-delà même des amendes du RGPD. Voir notre découpage complet des sanctions.
• Les huit pratiques interdites sont : (1) les techniques subliminales, manipulatrices ou trompeuses, (2) l’exploitation des vulnérabilités, (3) la notation sociale par les autorités publiques, (4) l’évaluation des risques d’infraction pénale fondée uniquement sur le profilage, (5) le moissonnage non ciblé d’images faciales, (6) l’inférence des émotions sur le lieu de travail et dans les établissements d’enseignement, (7) la catégorisation biométrique visant des attributs sensibles, et (8) l’identification biométrique à distance en temps réel par les autorités répressives dans des espaces accessibles au public.
• La plupart des interdictions sont absolues, sans exception. Un petit nombre comporte des dérogations étroites (par exemple l’identification biométrique à distance en temps réel à des fins répressives sous de strictes garanties judiciaires, l’inférence des émotions pour des raisons médicales ou de sécurité).
• La Commission européenne a publié en février 2025 des lignes directrices sur les pratiques interdites pour aider les organisations à interpréter les frontières.
• Si vous n’êtes pas sûr que votre système d’IA soit interdit, commencez par notre outil gratuit de classification des risques au titre du règlement sur l’IA : cela prend moins de cinq minutes.

L’article 5 du règlement sur l’IA trace la frontière absolue de ce que les systèmes d’IA ne peuvent jamais faire dans l’Union européenne. Contrairement aux systèmes d’IA à haut risque, qui peuvent être mis sur le marché s’ils satisfont des exigences strictes, les pratiques interdites sont interdites d’emblée. Aucune documentation technique, aucune évaluation de la conformité, aucun système de gestion des risques ne les rend licites.

Ce guide traite les huit pratiques interdites en détail : ce que le droit dit, quels systèmes réels sont saisis, quelles exceptions étroites existent, et comment déterminer si votre système d’IA franchit la ligne.

Pourquoi l’article 5 compte : la catégorie au sommet du règlement sur l’IA

Le règlement sur l’IA organise les systèmes d’IA en pyramide de risques. À la base, les systèmes à risque minimal sans obligations spécifiques. Au milieu, les systèmes à risque limité soumis à des obligations de transparence. Plus haut, les systèmes à haut risque avec des exigences techniques et de gouvernance étendues. Tout en haut, au-dessus du haut risque, se tiennent les pratiques interdites.

La distinction compte : un système d’IA à haut risque peut être déployé licitement s’il satisfait les exigences du règlement. Une pratique d’IA interdite ne peut pas être déployée du tout, quels que soient les efforts de conformité.

Opposable depuis le 2 février 2025

Les interdictions de l’article 5 ont été les premières obligations du règlement à devenir opposables. Alors que la plupart des exigences à haut risque s’appliquent à compter du 2 décembre 2027 (reportées du 2 août 2026 par le Digital Omnibus, règlement (UE) 2026/1744), et les obligations des modèles GPAI à compter du 2 août 2025, les pratiques interdites ont pris effet le 2 février 2025, six mois seulement après l’entrée en vigueur du règlement.

Cela signifie que toute organisation qui déployait un système d’IA interdit au 2 février 2025 est devenue immédiatement non conforme. Il n’y a pas eu de période transitoire. La Commission européenne et les autorités nationales de surveillance du marché sont habilitées à agir depuis cette date.

Sanctions : 35 millions d’euros ou 7 % du chiffre d’affaires annuel mondial

Déployer une pratique d’IA interdite déclenche le palier d’amende le plus élevé au titre de l’article 99 du règlement sur l’IA :

• Pour les grandes organisations : le plus élevé de 35 millions d’euros ou 7 % du chiffre d’affaires annuel mondial total de l’exercice précédent.
• Pour les PME et les jeunes pousses : le plus faible de ces deux montants, une garantie de proportionnalité, mais encore potentiellement dévastatrice.

Pour situer : le plafond du RGPD est de 20 millions d’euros ou 4 % du chiffre d’affaires mondial. La sanction du règlement sur l’IA pour les pratiques interdites est presque le double du plafond RGPD en pourcentage de chiffre d’affaires. Le législateur de l’Union a envoyé un signal délibéré : ces pratiques sont jugées si fondamentalement incompatibles avec les valeurs européennes que les sanctions doivent être extraordinaires.

Les 8 pratiques d’IA interdites expliquées

Chacune des huit interdictions vise une catégorie précise d’usage de l’IA que l’Union tient pour inacceptable. Ci-dessous, nous détaillons chacune avec le renvoi légal, un résumé en langage clair, des exemples réels et les exceptions éventuelles.

1. Techniques subliminales, manipulatrices ou trompeuses, article 5, paragraphe 1, point a)

Ce que le droit dit : la mise sur le marché, la mise en service ou l’utilisation d’un système d’IA qui a recours à des techniques subliminales, au-dessous du seuil de conscience d’une personne, ou à des techniques délibérément manipulatrices ou trompeuses, avec pour objectif ou effet d’altérer substantiellement le comportement d’une personne ou d’un groupe, en portant considérablement atteinte à leur capacité à prendre une décision éclairée, d’une manière qui cause ou est raisonnablement susceptible de causer un préjudice important à cette personne, à une autre personne ou à un groupe de personnes.

Ce que cela signifie en pratique : cette interdiction vise les systèmes d’IA qui manipulent la prise de décision humaine par des techniques que les personnes ne peuvent pas percevoir ou contre lesquelles elles ne peuvent pas se défendre. La technique doit opérer sous le seuil de conscience (subliminale) ou être délibérément manipulative ou trompeuse, doit altérer substantiellement le comportement, et doit causer ou être raisonnablement susceptible de causer un préjudice important, physique, psychologique, financier, ou aux droits fondamentaux.

Exemples réels de ce qui est interdit :

• Un système publicitaire assisté par l’IA qui incruste dans un contenu vidéo des signaux audio ou visuels imperceptibles pour pousser l’achat, en causant aux consommateurs un préjudice financier important.
• Une IA de campagne politique qui génère de la désinformation hyperpersonnalisée, calée sur des profils psychologiques individuels, et altère substantiellement le comportement électoral.
• Un moteur d’IA d’interfaces trompeuses qui, par une manipulation trompeuse de l’interface, pousse des personnes à souscrire des produits financiers qu’elles ne comprennent pas.

Ce qui N’EST PAS interdit : la personnalisation standard assistée par l’IA (recommandations de produits, organisation de contenus) n’entre en général pas dans le champ. La persuasion légitime, le marketing et les systèmes de recommandation restent licites lorsqu’ils fonctionnent de façon transparente et ne causent pas de préjudice important.

Exceptions : aucune. Cette interdiction est absolue.

2. Exploitation des vulnérabilités, article 5, paragraphe 1, point b)

Ce que le droit dit : la mise sur le marché, la mise en service ou l’utilisation d’un système d’IA qui exploite les vulnérabilités d’une personne ou d’un groupe de personnes donné dues à l’âge, au handicap ou à une situation sociale ou économique spécifique, avec pour objectif ou effet d’altérer substantiellement leur comportement d’une manière qui cause ou est raisonnablement susceptible de causer un préjudice important à cette personne ou à un tiers.

Ce que cela signifie en pratique : cette interdiction reconnaît que certains groupes, enfants, personnes âgées, personnes handicapées, personnes en détresse financière, sont particulièrement exposés à la manipulation assistée par l’IA. Elle interdit les systèmes d’IA conçus pour tirer parti de ces vulnérabilités.

Exemples réels de ce qui est interdit :

• Un agent conversationnel d’IA qui cible des personnes âgées en déclin cognitif pour leur vendre des produits d’assurance inutiles, en tirant parti de leur confusion sur les couvertures déjà détenues.
• Une IA de crédit prédateur qui identifie des personnes en détresse financière via des données comportementales et leur sert des offres de prêt à taux élevé calibrées pour exploiter leur désespoir.
• Un jouet ou une application assistés par l’IA qui manipule le comportement des enfants pour pousser les achats intégrés, en tirant parti de leur incapacité développementale à distinguer la publicité du contenu.
• L’IA d’une plateforme de jeux d’argent qui identifie les joueurs à problème via des marqueurs comportementaux et intensifie les incitations à jouer, au lieu de mettre en place des mesures de jeu responsable.

Ce qui N’EST PAS interdit : les systèmes d’IA qui servent des groupes vulnérables à leur bénéfice, technologies d’assistance, filtrage de contenus adapté à l’âge, outils d’accessibilité, ne sont pas saisis, pourvu qu’ils n’altèrent pas le comportement pour causer un préjudice.

Exceptions : aucune. Cette interdiction est absolue.

3. Notation sociale par les autorités publiques, article 5, paragraphe 1, point c)

Ce que le droit dit : la mise sur le marché, la mise en service ou l’utilisation de systèmes d’IA par des autorités publiques ou pour leur compte pour l’évaluation ou la classification de personnes physiques ou de groupes au cours d’une période donnée en fonction de leur comportement social ou de caractéristiques personnelles ou de personnalité connues, déduites ou prédites, la note sociale conduisant à l’une ou l’autre des situations suivantes, ou aux deux :

• Un traitement préjudiciable ou défavorable de personnes dans des contextes sociaux dissociés du contexte dans lequel les données ont été générées ou collectées à l’origine.
• Un traitement préjudiciable ou défavorable injustifié ou disproportionné par rapport à leur comportement social ou à la gravité de celui-ci.

Ce que cela signifie en pratique : c’est l’interdiction du « système de crédit social à la chinoise ». Elle empêche les autorités publiques de l’Union de construire des systèmes d’IA qui attribuent aux citoyens une note générale de fiabilité d’après leur comportement dans plusieurs domaines de vie, puis d’utiliser cette note pour restreindre l’accès à des services ou à des droits.

Exemples réels de ce qui est interdit :

• Une municipalité qui met en place un système d’IA suivant l’historique fiscal des habitants, leur activité sur les réseaux sociaux et leur comportement de tri des déchets pour générer une « note civique » déterminant l’accès prioritaire au logement social ou aux services municipaux.
• Une autorité nationale qui déploie un système d’IA agrégeant les interactions des citoyens avec les administrations, les demandes de prestations, les fichiers de police et l’usage des services de santé en un profil comportemental servant à déterminer l’éligibilité à des services dans des domaines sans lien.
• Une autorité de transport public qui utilise un système d’IA pour noter les voyageurs d’après le respect des titres et les publications sur les réseaux sociaux, puis restreint les titres de transport des personnes mal notées.

Ce qui N’EST PAS interdit : les évaluations individuelles, propres à un contexte, restent licites. Une administration fiscale peut utiliser l’IA pour évaluer le risque de fraude fiscale d’après des données fiscalement pertinentes. L’interdiction vise la notation généralisée à travers des domaines sans lien et les conséquences disproportionnées.

Exceptions : aucune pour le schéma d’usage décrit. La notation sociale du secteur privé n’est pas couverte par cette interdiction précise (elle peut toutefois être saisie par d’autres interdictions, le RGPD ou le droit de la consommation).

4. Évaluation des risques d’infraction pénale fondée uniquement sur le profilage, article 5, paragraphe 1, point d)

Ce que le droit dit : la mise sur le marché, la mise en service ou l’utilisation d’un système d’IA pour mener des évaluations des risques de personnes physiques afin d’évaluer ou de prédire le risque qu’une personne commette une infraction pénale, uniquement sur la base du profilage d’une personne physique ou de l’évaluation de ses traits de personnalité et caractéristiques. Cette interdiction ne s’applique pas aux systèmes d’IA utilisés pour étayer l’évaluation humaine de l’implication d’une personne dans une activité criminelle, déjà fondée sur des faits objectifs et vérifiables directement liés à une activité criminelle.

Ce que cela signifie en pratique : les systèmes de police prédictive qui signalent des personnes comme de futurs délinquants probables sur la seule base d’un profilage, sans aucun fait objectif les liant à une activité criminelle réelle, sont interdits. L’interdiction vise la prédiction d’infraction avant le fait, fondée sur ce que quelqu’un est plutôt que sur ce qu’il a démontrablement fait.

Exemples réels de ce qui est interdit :

• Un système d’IA des autorités répressives qui analyse les données démographiques, le quartier, les liens sociaux et les schémas comportementaux de personnes pour générer un « indice de propension à commettre une infraction », sans aucun lien avec une conduite criminelle observée.
• Une IA de contrôle aux frontières qui signale des voyageurs comme à haut risque d’activité criminelle uniquement d’après des attributs de profilage, nationalité, schémas de voyage, liens familiaux, sans renseignement objectif les liant à des infractions précises.
• Une plateforme de police prédictive qui identifie de « futurs auteurs probables » d’après des évaluations de personnalité, un profilage psychologique ou un comportement sur les réseaux sociaux, sans rattacher l’évaluation à des faits criminels vérifiables.

Ce qui N’EST PAS interdit : les systèmes d’IA qui aident les enquêteurs humains à évaluer un risque pénal sur la base de faits objectifs et vérifiables, par exemple l’analyse de preuves médico-légales, des outils de renseignement propres à une affaire, ou une évaluation du risque de récidive ancrée dans le casier judiciaire réel et les circonstances de l’affaire, sont exclus. La distinction est entre une prédiction par seul profilage et un appui à l’évaluation fondé sur des faits.

Exceptions : les systèmes d’IA étayant l’évaluation humaine sur la base de faits objectifs et vérifiables directement liés à une activité criminelle sont expressément exclus de l’interdiction.

5. Moissonnage non ciblé d’images faciales, article 5, paragraphe 1, point e)

Ce que le droit dit : la mise sur le marché, la mise en service ou l’utilisation de systèmes d’IA qui créent ou développent des bases de données de reconnaissance faciale par le moissonnage non ciblé d’images faciales provenant de l’internet ou de la vidéosurveillance.

Ce que cela signifie en pratique : cette interdiction vise directement le modèle économique d’entreprises comme Clearview AI, qui ont construit des bases de reconnaissance faciale en moissonnant des milliards de photos depuis les réseaux sociaux, les sites d’actualité et d’autres sources internet publiques. L’Union tient la collecte massive et non ciblée de données biométriques aux fins de reconnaissance faciale pour fondamentalement incompatible avec les droits au respect de la vie privée et à la protection des données.

Exemples réels de ce qui est interdit :

• Une entreprise technologique qui moissonne des photos publiquement accessibles sur les réseaux sociaux pour construire une base de reconnaissance faciale proposée aux autorités répressives ou à des clients privés.
• Une entreprise de sécurité qui collecte et stocke des images faciales de caméras de vidéosurveillance sur plusieurs sites pour construire un jeu de données de reconnaissance faciale à usage général, même si l’usage initial de la vidéosurveillance était licite.
• Un organisme de recherche qui parcourt l’internet pour compiler un jeu d’images faciales destiné à l’entraînement de modèles de reconnaissance faciale, que le jeu soit ou non mis à disposition commercialement.

Ce qui N’EST PAS interdit : la collecte ciblée et licite d’images faciales à des fins précises, par exemple l’enrôlement de salariés dans un système de contrôle d’accès avec consentement, ou la collecte d’images de suspects par les autorités répressives en vertu d’un mandat, n’est pas couverte. Le mot clé est non ciblé : l’interdiction s’applique au moissonnage de masse, indiscriminé, pas à une collecte liée à une finalité.

Exceptions : aucune. L’interdiction du moissonnage non ciblé est absolue.

6. Inférence des émotions sur le lieu de travail et dans les établissements d’enseignement, article 5, paragraphe 1, point f)

Ce que le droit dit : la mise sur le marché, la mise en service ou l’utilisation d’un système d’IA pour inférer les émotions d’une personne physique dans les domaines du lieu de travail et des établissements d’enseignement, sauf lorsque le système d’IA est destiné à être mis en service ou mis sur le marché pour des raisons médicales ou de sécurité.

Ce que cela signifie en pratique : les employeurs et les établissements d’enseignement ne peuvent pas utiliser de systèmes d’IA qui détectent, classent ou infèrent les états émotionnels des travailleurs ou des élèves, que ce soit par les expressions du visage, le ton de la voix, le langage corporel, des signaux physiologiques ou d’autres données biométriques ou comportementales.

Exemples réels de ce qui est interdit :

• Un centre d’appels qui déploie une IA surveillant le ton vocal et les expressions faciales des agents pour noter leur « engagement émotionnel » et signaler ceux jugés insuffisamment empathiques.
• Un entrepôt qui utilise des caméras d’IA suivant les expressions faciales des travailleurs pour identifier un « désengagement » et alerter automatiquement les superviseurs.
• Une université qui utilise un système de surveillance d’examens assisté par l’IA suivant les expressions faciales des étudiants pendant les épreuves en ligne pour détecter des états émotionnels « suspects » indiquant une fraude.
• Un bureau qui installe des capteurs d’IA mesurant le niveau de stress des salariés par l’analyse des micro-expressions faciales pour « optimiser le bien-être au travail ».
• Une école qui déploie une surveillance de classe par IA suivant l’attention des élèves via l’analyse des expressions faciales.

Ce qui N’EST PAS interdit : l’inférence des émotions dans d’autres contextes (par exemple recherche consommateur, divertissement, thérapie clinique) sort de cette interdiction précise, même si d’autres exigences du règlement sur l’IA et du RGPD peuvent encore s’appliquer. Point important : l’interdiction comporte deux exceptions expresses :

Exceptions :

• Raisons médicales : un système d’IA qui détecte une détresse émotionnelle sur un lieu de travail ou dans un cadre éducatif comme partie d’un dispositif médical ou d’un outil clinique (par exemple un système conçu pour détecter les signes d’une urgence médicale telle qu’une crise de panique ou une convulsion) est exempté.
• Raisons de sécurité : un système d’IA conçu pour détecter la fatigue du conducteur par le suivi des émotions et de l’attention dans les transports, ou un système qui surveille la vigilance du personnel de conduite dans des environnements industriels critiques pour la sécurité, est exempté lorsque la sécurité est la finalité première.

7. Catégorisation biométrique visant des attributs sensibles, article 5, paragraphe 1, point g)

Ce que le droit dit : la mise sur le marché, la mise en service ou l’utilisation de systèmes de catégorisation biométrique qui catégorisent individuellement des personnes physiques sur la base de leurs données biométriques afin d’arriver à des déductions ou des inférences concernant leur race, leurs opinions politiques, leur affiliation à une organisation syndicale, leurs convictions religieuses ou philosophiques, leur vie sexuelle ou leur orientation sexuelle. Cette interdiction ne couvre pas l’étiquetage ou le filtrage d’ensembles de données biométriques acquis légalement, tels que des images, fondés sur des données biométriques, ni la catégorisation de données biométriques dans le domaine répressif.

Ce que cela signifie en pratique : les systèmes d’IA qui analysent des caractéristiques biométriques, visage, voix, démarche, pour classer des personnes selon la race, la religion, les convictions politiques, l’orientation sexuelle ou d’autres catégories sensibles sont interdits. Cela vise les applications d’IA pseudoscientifiques qui prétendent inférer des attributs profondément personnels à partir de caractéristiques biologiques.

Exemples réels de ce qui est interdit :

• Un système d’IA qui analyse des traits du visage pour classer des personnes selon l’origine ethnique ou la race, à quelque fin que ce soit, profilage de sécurité, analyses démographiques, marketing ciblé.
• Une technologie qui prétend identifier l’orientation sexuelle d’une personne d’après la géométrie du visage ou l’analyse de la voix (la soi-disant « IA gaydar »).
• Un système d’IA lors d’une manifestation qui analyse les données biométriques des participants pour inférer et cataloguer leurs opinions politiques ou leur affiliation syndicale.
• Une plateforme de recrutement qui utilise une IA d’analyse vocale ou faciale pour inférer les convictions religieuses ou philosophiques des candidats.

Exceptions : l’étiquetage ou le filtrage d’ensembles de données biométriques acquis légalement dans le domaine répressif est exclu, par exemple catégoriser des images faciales par couleur de cheveux ou âge apparent à des fins de recherche, mais seulement si la catégorisation ne vise pas les attributs sensibles énumérés.

8. Identification biométrique à distance en temps réel à des fins répressives, article 5, paragraphe 1, point h)

Ce que le droit dit : l’utilisation de systèmes d’identification biométrique à distance en temps réel dans des espaces accessibles au public à des fins répressives, sauf si et dans la mesure où cette utilisation est strictement nécessaire eu égard à l’un des objectifs suivants :

• (i) La recherche ciblée de victimes spécifiques d’enlèvement, de la traite ou de l’exploitation sexuelle d’êtres humains, ainsi que la recherche de personnes disparues.
• (ii) La prévention d’une menace spécifique, substantielle et imminente pour la vie ou la sécurité physique de personnes physiques, ou d’une menace réelle et actuelle ou réelle et prévisible d’attaque terroriste.
• (iii) La localisation ou l’identification d’une personne soupçonnée d’avoir commis une infraction pénale visée à l’annexe II (qui renvoie à des infractions graves punissables d’une peine privative de liberté d’une durée maximale d’au moins quatre ans dans l’État membre concerné).

Ce que cela signifie en pratique : la reconnaissance faciale en direct et les autres identifications biométriques en temps réel dans des espaces publics par les autorités répressives font l’objet d’une interdiction générale assortie d’exceptions étroites. La règle générale est l’interdiction ; les exceptions sont limitées, conditionnelles et soumises à d’importantes garanties procédurales.

Exemples réels de ce qui est interdit :

• La police qui déploie des caméras de reconnaissance faciale en direct lors d’un festival de musique pour scanner tous les participants contre une liste de surveillance générale, sans menace imminente précise ni objectif de recherche ciblée.
• Une municipalité qui installe une reconnaissance faciale permanente en temps réel dans des nœuds de transport public pour surveiller en continu tous les voyageurs aux fins d’une prévention générale de la criminalité.
• Les autorités répressives qui mènent une identification biométrique en direct sur les réseaux de vidéosurveillance publics pour identifier quiconque fait l’objet d’un mandat d’arrêt en cours, sans les garanties procédurales exigées par le règlement.

Ce qui est permis au titre des exceptions :

• La police qui déploie la reconnaissance faciale en temps réel en un lieu précis, pour une durée limitée, afin de rechercher un enfant enlevé, lorsqu’il existe des éléments indiquant que l’enfant pourrait se trouver dans le secteur.
• Les services de sécurité qui activent l’identification biométrique en temps réel lors d’un grand événement public après avoir reçu un renseignement précis et crédible d’une attaque terroriste imminente sur ce lieu.
• Les autorités répressives qui utilisent la reconnaissance faciale en temps réel dans une zone définie pour localiser un suspect dans une enquête pour meurtre (une infraction grave visée à l’annexe II), sous réserve d’une autorisation judiciaire.

Garanties procédurales exigées pour les exceptions : même lorsqu’une exception s’applique, l’utilisation doit respecter des conditions strictes au titre de l’article 5, paragraphes 2 à 7 :

• Une autorisation préalable d’une autorité judiciaire ou d’une autorité administrative indépendante est exigée (sauf en cas d’urgence dûment justifiée, où l’autorisation doit être demandée dans les 24 heures).
• L’utilisation doit être limitée dans le temps, dans la portée géographique et quant au nombre de personnes à identifier.
• Une analyse d’impact sur les droits fondamentaux doit être achevée avant le déploiement.
• L’autorité qui déploie doit notifier l’autorité de surveillance du marché compétente et l’autorité de protection des données.
• L’utilisation doit être nécessaire et proportionnée, un principe général qui s’ajoute aux conditions précises.

C’est l’interdiction la plus conditionnelle de l’article 5, reflet du compromis politique trouvé lors de la négociation du règlement.

Tableau comparatif : les 8 pratiques interdites d’un coup d’œil

Comment vérifier si votre système d’IA est interdit : auto-évaluation pratique

Si vous n’êtes pas sûr qu’un système d’IA que vous développez, déployez ou acquérez tombe sous l’article 5, servez-vous de cette auto-évaluation structurée. Pour un contrôle automatisé rapide, essayez notre outil gratuit de classification des risques au titre du règlement sur l’IA.

Étape 1 : identifier la fonction du système d’IA

Décrivez précisément ce que fait le système d’IA, ses entrées, sa logique de traitement et ses sorties. Tenez-vous à la réalité technique et fonctionnelle, pas au langage marketing.

Étape 2 : passer chaque interdiction en revue

Parcourez chacune des huit catégories interdites :

1. Contrôle de la manipulation : le système recourt-il à des techniques qui opèrent sous le seuil de conscience de la personne, ou qui sont délibérément trompeuses ou manipulatrices ? Ces techniques pourraient-elles altérer le comportement et causer un préjudice important ?
2. Contrôle des vulnérabilités : le système cible-t-il spécifiquement, ou affecte-t-il de façon disproportionnée, des personnes en raison de leur âge, d’un handicap ou d’une situation socio-économique, d’une manière qui altère leur comportement et cause un préjudice ?
3. Contrôle de la notation sociale : le système est-il utilisé par une autorité publique ou pour son compte afin de générer des notes généralisées de comportement social avec des conséquences trans-domaines ?
4. Contrôle du profilage pénal : le système prédit-il un risque pénal uniquement sur la base d’un profilage ou de caractéristiques de personnalité, sans ancrage dans des faits objectifs liés à une conduite criminelle réelle ?
5. Contrôle du moissonnage facial : le système crée-t-il ou développe-t-il des bases de reconnaissance faciale par moissonnage non ciblé d’internet ou de la vidéosurveillance ?
6. Contrôle de l’inférence des émotions : le système infère-t-il des émotions dans un contexte de travail ou d’enseignement ? Si oui, est-ce véritablement pour des raisons médicales ou de sécurité ?
7. Contrôle de la catégorisation biométrique : le système catégorise-t-il des personnes sur la base de données biométriques pour inférer la race, les opinions politiques, la religion, l’orientation sexuelle ou d’autres attributs sensibles ?
8. Contrôle de l’identification biométrique en temps réel : le système procède-t-il à une identification biométrique en direct dans des espaces publics à des fins répressives ? Si oui, satisfait-il l’une des trois exceptions étroites avec les garanties procédurales exigées ?

Étape 3 : documenter votre évaluation

Même si vous concluez que votre système n’est pas interdit, documentez l’analyse. Cela démontre la diligence si une autorité interroge votre système, alimente votre cadre de gouvernance de l’IA plus large et votre liste de contrôle de conformité, et garantit que l’évaluation reste reproductible à mesure que le système évolue.

Étape 4 : en cas de doute, faire monter le dossier

Si votre évaluation n’est pas concluante, surtout pour des systèmes proches des frontières de la manipulation, de l’exploitation des vulnérabilités ou de l’inférence des émotions, sollicitez un conseil juridique ou prenez contact avec votre autorité nationale de surveillance du marché. Le coût d’un avis juridique est dérisoire au regard d’une amende du premier palier.

Articulation avec les autres exigences du règlement sur l’IA

Comprendre les pratiques interdites ne se fait pas dans le vide. L’article 5 s’articule avec plusieurs autres parties du règlement :

Systèmes d’IA à haut risque (articles 6 à 49)

Un système d’IA qui n’est pas interdit peut néanmoins être classé à haut risque. En pratique, beaucoup de cas d’usage se tiennent près de la frontière. Par exemple :

• Un système d’inférence des émotions utilisé dans un cadre clinique (pas le lieu de travail ni l’enseignement) n’est pas interdit au titre de l’article 5, paragraphe 1, point f), mais peut être classé à haut risque au titre de l’annexe III s’il entre dans le domaine de la santé.
• Un outil d’IA des autorités répressives qui évalue un risque pénal sur la base de faits objectifs (pas uniquement le profilage) est exempté de l’article 5, paragraphe 1, point d), mais est classé à haut risque au titre de l’annexe III, point 6 (activités répressives).
• Un système d’identification biométrique utilisé a posteriori (pas en temps réel) par les autorités répressives n’est pas saisi par l’article 5, paragraphe 1, point h), mais est à haut risque au titre de l’annexe III.

La conséquence pratique : passer l’évaluation de l’article 5 ne clôt pas votre parcours de conformité. C’est le premier portail. Les systèmes qui franchissent l’article 5 doivent encore être évalués pour la classification à haut risque et, le cas échéant, satisfaire l’ensemble des obligations des articles 8 à 27.

Modèles d’IA à usage général (articles 51 à 56)

Les modèles d’IA à usage général (GPAI), tels que les grands modèles de langage, sont régulés séparément aux articles 51 à 56. Un modèle GPAI peut toutefois être intégré dans un système en aval qui constitue une pratique interdite. Le fournisseur du modèle GPAI a des obligations relatives au mauvais usage raisonnablement prévisible, et un déployeur qui construit une application interdite par-dessus un modèle GPAI est responsable au titre de l’article 5.

Par exemple, une entreprise qui adapte un grand modèle de langage par réglage fin pour en faire un système de notation sociale au service d’une autorité publique déploierait une pratique interdite, indépendamment du fait que le modèle GPAI sous-jacent est licite.

Biais et équité de l’IA

Plusieurs pratiques interdites recoupent les enjeux de biais et d’équité de l’IA. La catégorisation biométrique visant des attributs sensibles (article 5, paragraphe 1, point g)) traite directement l’usage de l’IA pour inférer des caractéristiques protégées. Même pour les systèmes d’IA qui ne sont pas interdits, les exigences d’examen des biais et d’équité du régime à haut risque (en particulier l’article 10 sur la gouvernance des données) jouent un rôle complémentaire : empêcher les systèmes d’IA de produire des résultats discriminatoires, même lorsque le système n’est pas conçu pour catégoriser selon des attributs sensibles.

Lignes directrices de la Commission européenne sur les pratiques interdites (février 2025)

En février 2025, coïncidant avec la date d’application de l’article 5, la Commission européenne a publié des lignes directrices non contraignantes sur l’interprétation des pratiques interdites. Ces lignes directrices comptent, parce qu’elles donnent la lecture de la Commission sur plusieurs questions de frontière ambiguës :

Clarifications clés des lignes directrices

• Seuil du préjudice important : les lignes directrices précisent que le « préjudice important » aux articles 5, paragraphe 1, points a) et b), n’est pas limité au préjudice physique. Il englobe le préjudice psychologique, le préjudice financier et le préjudice aux droits fondamentaux. L’évaluation doit considérer la gravité, l’étendue et le caractère irréversible du préjudice.
• Subliminal contre simplement persuasif : les lignes directrices distinguent la persuasion assistée par l’IA (licite dans la plupart des cas) et la manipulation subliminale (interdite). Le facteur décisif est de savoir si la personne a la capacité de percevoir l’influence et d’y résister. Les algorithmes de recommandation standard, dont les personnes ont conscience et qu’elles peuvent maîtriser, ne qualifient en général pas de subliminaux. Les lignes directrices avertissent toutefois qu’une personnalisation de plus en plus sophistiquée pourrait franchir la ligne.
• Champ de la notation sociale : les lignes directrices confirment que l’interdiction s’applique aux autorités publiques et à ceux qui agissent pour leur compte, y compris les entreprises privées contractées par des autorités publiques. La notation sociale purement privée n’est pas saisie spécifiquement par l’article 5, paragraphe 1, point c), même si elle peut constituer une manipulation ou une exploitation des vulnérabilités aux points a) et b), ou méconnaître des dispositions du RGPD.
• Frontière de l’inférence des émotions : les lignes directrices donnent des exemples de ce qui constitue une « inférence des émotions » par rapport à un traitement biométrique général. Détecter si une personne est présente (détection biométrique), vérifier son identité (vérification biométrique) ou l’identifier (identification biométrique) n’est pas une inférence des émotions. L’inférence des émotions consiste spécifiquement à déduire des états émotionnels, joie, tristesse, colère, peur, surprise, dégoût, ou des classifications émotionnelles plus fines.
• Exceptions médicales et de sécurité : les lignes directrices confirment que les exceptions médicales et de sécurité à l’interdiction d’inférence des émotions doivent être interprétées étroitement. Un système qui surveille la somnolence du conducteur entre dans le champ. Un système qui surveille l’« humeur » des travailleurs sous couvert de « bien-être au travail » n’y entre en général pas.

Portée pratique

Même non contraignantes, les lignes directrices pèsent lourd dans l’interprétation. Les autorités nationales de surveillance du marché et les juridictions sont susceptibles de les prendre en compte pour évaluer d’éventuels manquements. Les organisations devraient relire les lignes directrices à côté de leurs auto-évaluations au titre de l’article 5 et actualiser leur analyse en conséquence.

Foire aux questions

L’article 5 s’applique-t-il aux systèmes d’IA développés hors de l’Union ?

Oui. Le règlement sur l’IA s’applique selon le lieu où la sortie du système d’IA est utilisée, non selon le lieu où il a été développé. Une entreprise établie hors de l’Union qui fournit un système d’IA interdit à des clients de l’Union, ou dont le système affecte des personnes se trouvant dans l’Union, est soumise à l’interdiction et aux sanctions associées. Voir notre aperçu plus large du champ du règlement sur l’IA.

Une entreprise privée peut-elle déployer une notation sociale ?

L’article 5, paragraphe 1, point c), interdit spécifiquement la notation sociale par les autorités publiques ou pour leur compte. Une entreprise privée n’est pas directement saisie par cette interdiction. Un tel système pourrait toutefois rester interdit au titre de l’article 5, paragraphe 1, point a) (manipulation) ou point b) (exploitation des vulnérabilités), et se heurterait vraisemblablement aux articles 9 et 22 du RGPD. En pratique, la notation sociale privée reste juridiquement risquée, seulement par d’autres bases légales.

Toute inférence des émotions est-elle interdite ?

Non. L’interdiction est limitée à l’inférence des émotions sur le lieu de travail et dans les établissements d’enseignement. L’inférence des émotions dans d’autres contextes, santé, divertissement, recherche consommateur, sécurité automobile, n’est pas interdite au titre de l’article 5, paragraphe 1, point f), même si elle peut être classée à haut risque ou soumise à d’autres exigences. De plus, même sur le lieu de travail et dans l’enseignement, il existe des exceptions pour des raisons médicales et de sécurité.

Qu’advient-il des entreprises qui utilisent déjà dans l’Union des outils comme Clearview AI ?

Toute utilisation d’une base de reconnaissance faciale construite par moissonnage non ciblé d’images provenant d’internet ou de la vidéosurveillance est interdite depuis le 2 février 2025. Les entreprises qui utilisent de tels outils dans l’Union doivent cesser immédiatement. Continuer à les utiliser expose l’organisation aux sanctions du premier palier. Plusieurs autorités de protection des données de l’Union avaient déjà engagé des mesures d’exécution contre le moissonnage non ciblé de visages au titre du RGPD (notamment contre Clearview AI) ; le règlement sur l’IA fournit désormais une base légale supplémentaire, et plus explicitement ciblée, pour l’interdiction.

Comment l’exception d’identification biométrique en temps réel fonctionne-t-elle réellement ?

L’exception exige une autorisation préalable judiciaire ou administrative indépendante (sauf en cas d’urgence, où l’autorisation doit être demandée dans les 24 heures). L’autorité répressive qui déploie doit démontrer que l’utilisation est strictement nécessaire pour l’un des trois objectifs permis (recherche de victimes, prévention d’une menace imminente, ou identification d’un suspect d’infraction grave). Chaque utilisation doit être limitée dans le temps, dans la portée géographique et quant au nombre de personnes visées. Une analyse d’impact sur les droits fondamentaux doit être achevée. L’autorité de surveillance du marché et l’autorité de protection des données doivent être notifiées. Les États membres peuvent choisir d’imposer des restrictions supplémentaires ou d’interdire entièrement l’utilisation en droit national.

Que dois-je faire si mon système d’IA est un cas limite ?

Commencez par notre outil gratuit de classification des risques au titre du règlement sur l’IA pour une première évaluation. Menez ensuite une évaluation interne formelle selon les étapes d’auto-évaluation ci-dessus et documentez votre raisonnement. Si l’évaluation reste floue, consultez un conseil juridique spécialisé dans la réglementation de l’IA de l’Union. Envisagez un contact proactif avec votre autorité nationale de surveillance du marché : un échange précoce vaut bien mieux qu’une mesure d’exécution.

Points à retenir et prochaines étapes

L’article 5 du règlement sur l’IA trace une ligne nette : certaines pratiques d’IA sont si nuisibles qu’aucun cadre de conformité ne peut les rendre acceptables. Ces interdictions sont en vigueur depuis février 2025, et les sanctions en cas de manquement sont les plus sévères de la réglementation numérique de l’Union.

Pour les organisations qui font fonctionner des systèmes d’IA sur le marché de l’Union, les étapes pratiques sont :

1. Passez en revue votre portefeuille d’IA au regard des huit catégories interdites, à l’aide d’une liste de contrôle de conformité structurée.
2. Lancez la classification rapide avec notre évaluation gratuite au titre du règlement sur l’IA pour repérer tout signal d’alerte.
3. Documentez chaque évaluation, y compris les conclusions « non interdit », comme partie de votre cadre de gouvernance de l’IA.
4. Suivez les orientations de la Commission et les mesures d’exécution pour les évolutions d’interprétation.
5. Pour les systèmes proches de la frontière, sollicitez un conseil juridique et envisagez un dialogue proactif avec votre autorité nationale.
6. Si un système est interdit, cessez-le immédiatement. Le coût financier et réputationnel d’une exécution du premier palier dépasse de loin tout bénéfice opérationnel.

Les pratiques interdites ne sont qu’une couche du règlement sur l’IA. Les systèmes qui passent l’article 5 doivent encore être évalués pour la classification à haut risque, les obligations de transparence et les responsabilités du fournisseur ou du déployeur. Mais c’est à l’article 5 que cela commence : le fondement non négociable du cadre réglementaire de l’IA de l’Union.

Ce guide est fourni à titre d’information. Il ne constitue pas un conseil juridique. Pour une orientation de conformité propre à votre organisation, consultez un conseil juridique qualifié ou contactez l’équipe Legalithm.