Gouvernance de l’IA agentique et conformité

Les systèmes d’IA ne se contentent plus de répondre à des questions. Ils planifient, décident et agissent, réservent des vols, écrivent et exécutent du code, négocient avec d’autres agents d’IA, gèrent des chaînes d’approvisionnement, et déclenchent des transactions financières avec une intervention humaine minimale ou nulle. Ce sont des systèmes d’IA agentique, et ils représentent le défi de gouvernance le plus lourd que l’industrie de l’IA ait rencontré depuis l’émergence des grands modèles de langage.

Ce basculement compte parce que chaque cadre de gouvernance de l’IA existant, du règlement sur l’IA au NIST AI RMF, a été conçu surtout autour de systèmes qui produisent des sorties : une classification, une recommandation, une image générée. L’IA agentique produit des résultats : une tâche achevée, un processus exécuté, un enchaînement en plusieurs étapes orchestré à travers des outils, des API, et même d’autres agents d’IA. Gouverner des résultats est fondamentalement plus difficile que gouverner des sorties, et le monde réglementaire court pour rattraper.

En janvier 2026, l’Infocomm Media Development Authority (IMDA) de Singapour, en partenariat avec le Forum économique mondial, a publié le Model AI Governance Framework for Agentic AI, le premier cadre de gouvernance dédié aux systèmes d’IA autonomes. Le règlement sur l’IA, bien qu’il n’ait pas été rédigé avec les agents d’IA en tête, s’applique aux cas d’usage agentiques par sa classification fondée sur le risque et par la structure d’obligations fournisseur / déployeur. Aux États-Unis, la législation des États et les orientations exécutives fédérales commencent à traiter explicitement la prise de décision autonome.

Ce guide fournit un plan concret pour gouverner l’IA agentique. Il couvre le paysage réglementaire, les défis de gouvernance propres aux agents, le cadre de Singapour en détail, et une approche par étapes pour construire un programme de gouvernance de l’IA agentique en entreprise. Si la gouvernance de l’IA en général vous est nouvelle, commencez par notre guide pour construire un cadre de gouvernance de l’IA avant d’entrer dans les questions propres aux agents.

L’essentiel, la gouvernance de l’IA agentique

• Les systèmes d’IA agentique planifient, agissent et exécutent de façon autonome : ils utilisent des outils, appellent des API, délèguent à d’autres agents, et achèvent des tâches en plusieurs étapes sans approbation humaine à chaque stade.
• 62 % des organisations expérimentent des agents d’IA, et 23 % mettent activement à l’échelle des déploiements. La gouvernance n’a pas suivi le rythme de l’adoption.
• La gouvernance classique de l’IA est insuffisante parce qu’elle se concentre sur l’exactitude de la sortie plutôt que sur les frontières de comportement, les chaînes de délégation et le risque cumulé.
• Le Model AI Governance Framework for Agentic AI de Singapour (janvier 2026) pose quatre piliers : évaluer et borner les risques, assurer une responsabilité humaine réelle, mettre en œuvre des contrôles techniques, et promouvoir la responsabilité de ceux qui déploient ou interagissent.
• Le règlement sur l’IA s’applique aux agents d’IA par les dispositions existantes : les modèles GPAI servent de base, les systèmes agentiques sont le produit déployé, et la chaîne d’obligations fournisseur / déployeur doit rendre compte des architectures multi-agents. L’article 50, en vigueur depuis le 2 août 2026, n’oblige pas à marquer le raisonnement intermédiaire comme contenu de synthèse ; voir le champ d’application négatif.
• Les défis de gouvernance clés comprennent : les écarts de responsabilité dans les chaînes multi-agents, les défaillances en cascade, l’escalade de privilèges, la tension autonomie / contrôle humain, et la dépendance à un modèle de tiers.
• Les contrôles pratiques s’articulent autour de l’isolement (sandboxing), de l’accès au moindre privilège, des mécanismes d’arrêt d’urgence, d’une journalisation complète et d’une surveillance continue.
• Partez maintenant : cartographiez votre écosystème d’agents, classez les niveaux de risque, mettez en place des points de contrôle, et préparez l’évolution réglementaire jusqu’en 2027.

Qu’est-ce que l’IA agentique et pourquoi a-t-elle besoin d’une gouvernance nouvelle ?

Définir l’IA agentique

Un système d’IA agentique est un système d’IA capable de planifier, de raisonner et d’exécuter de façon autonome des tâches en plusieurs étapes pour atteindre un objectif fixé. Contrairement à un grand modèle de langage (LLM) classique qui répond à une seule invite par une seule sortie, un système agentique :

• Décompose les objectifs en sous-tâches et détermine la séquence d’actions requise.
• Utilise des outils et des ressources externes, API, bases de données, navigateurs web, interpréteurs de code, systèmes de fichiers, pour mener ces actions.
• Délègue à d’autres agents dans des architectures multi-agents, créant des chaînes de décision autonome.
• Adapte son plan selon les résultats intermédiaires, les erreurs ou les conditions qui changent.
• Persiste d’une session à l’autre, en maintenant un état et un contexte sur des durées étendues.

Les exemples vont de systèmes relativement bornés, un assistant de code par IA qui écrit, teste et déploie du code, jusqu’à des orchestrateurs hautement autonomes qui gèrent des processus d’entreprise de bout en bout : un agent d’achat qui identifie des fournisseurs, négocie les prix, rédige des contrats et lance le paiement.

La réalité de l’adoption

Le rythme d’adoption en entreprise est extraordinaire. Selon le rapport 2026 State of AI de Salesforce, 62 % des organisations expérimentent des agents d’IA, et 23 % mettent activement à l’échelle des déploiements d’agents dans des processus de production. Gartner projette que d’ici 2028, 33 % des applications logicielles d’entreprise incluront de l’IA agentique, contre moins de 1 % en 2024. Le marché avance bien plus vite que la gouvernance.

Pourquoi la gouvernance classique de l’IA est insuffisante

La gouvernance classique de l’IA, les cadres décrits dans le règlement sur l’IA, le NIST AI RMF et l’ISO 42001, a été bâtie autour d’un modèle prévisible :

1. Un système reçoit une entrée.
2. Il produit une sortie.
3. Un humain examine ou agit sur cette sortie.

La gouvernance se concentre sur la qualité de la sortie : la classification est-elle exacte ? La recommandation est-elle biaisée ? Le contenu généré est-il nuisible ? L’humain dans la boucle est le filet de sécurité.

L’IA agentique brise ce modèle de quatre façons :

C’est le basculement fondamental de la gouvernance de la sortie vers la gouvernance du comportement. Vous ne demandez plus « Cette sortie est-elle correcte ? », vous demandez « Cet agent se comporte-t-il dans des frontières acceptables sur toute sa trajectoire d’exécution ? » Cette question exige de nouveaux cadres, de nouveaux contrôles, et une pensée réglementaire nouvelle.

Le paysage réglementaire de l’IA agentique en 2026

Aucune juridiction n’a adopté une loi visant spécifiquement et exclusivement l’IA agentique. Plusieurs cadres réglementaires existants et émergents s’appliquent toutefois directement. Pour un contexte mondial plus large, voir notre comparaison de la régulation de l’IA dans l’UE, aux États-Unis, au Royaume-Uni et en Chine.

Le Model AI Governance Framework for Agentic AI de Singapour (janvier 2026)

Singapour, par l’Infocomm Media Development Authority (IMDA) et en collaboration avec le Forum économique mondial (WEF), a publié le Model AI Governance Framework for Agentic AI en janvier 2026, lors de la réunion annuelle du Forum économique mondial à Davos. C’est le premier cadre de gouvernance dédié aux systèmes d’IA agentique à l’échelle mondiale.

Le cadre n’est pas contraignant : il opère comme un cadre modèle plutôt que comme une législation, mais il porte une influence significative de droit souple. Singapour a l’habitude de transformer des cadres modèles en normes de fait dans la région Asie-Pacifique, et la collaboration avec le WEF assure une diffusion mondiale.

Le cadre identifie quatre piliers de gouvernance de l’IA agentique :

1. Évaluer et borner les risques d’emblée. Avant de déployer un agent d’IA, les organisations doivent évaluer les risques propres au fonctionnement autonome : périmètre des actions que l’agent peut prendre, potentiel de défaillances en cascade, impact sur les parties affectées, et adéquation des contrôles existants.
2. Assurer une responsabilité humaine réelle. L’autonomie n’élimine pas la responsabilité humaine. Les organisations doivent désigner des personnes physiques responsables du comportement de l’agent, tenir des voies d’escalade claires, et s’assurer que « l’humain dans la boucle » n’est pas seulement nominal.
3. Mettre en œuvre des contrôles techniques. Isolement, essais de sûreté, surveillance continue, mécanismes d’arrêt d’urgence et frontières de privilèges doivent être intégrés dans les architectures d’agents dès la conception.
4. Promouvoir la responsabilité de ceux qui déploient ou interagissent. Les personnes qui déploient un agent d’IA ou interagissent avec lui portent une responsabilité d’usage approprié, y compris la compréhension des capacités et des limites de l’agent.

Nous détaillons chaque pilier plus bas.

Règlement sur l’IA, comment il s’applique aux agents d’IA

Le règlement sur l’IA (règlement (UE) 2024/1689) a été rédigé avant la vague actuelle d’IA agentique, mais son architecture s’applique de façon large. Voici comment :

Le modèle GPAI comme base, l’agent comme système. La plupart des systèmes d’IA agentique sont construits au-dessus de modèles d’IA à usage général (GPAI), de grands modèles de langage comme GPT-4, Claude ou Gemini. Au titre de l’article 51, les fournisseurs de modèles GPAI ont des obligations précises : documentation technique, respect du droit d’auteur, et (pour les modèles présentant un risque systémique) essais contradictoires et signalement d’incidents. Lorsqu’un modèle GPAI est intégré dans un système agentique qui exerce une fonction précise, ce système devient un système d’IA au sens du règlement et déclenche le cadre complet de classification fondée sur le risque. Pour le détail des obligations GPAI, voir notre guide des obligations des modèles d’IA à usage général.

Classification à haut risque pour les cas d’usage agentiques. Un agent d’IA qui gère de façon autonome des processus de recrutement entre dans l’annexe III, point 4 (emploi). Un agent qui prend des décisions de crédit entre dans l’annexe III, point 5, b) (évaluation de la solvabilité). Un agent qui gère des opérations d’infrastructures critiques entre dans l’annexe III, point 2. Le caractère agentique ne change pas la classification de risque. Il alourdit, dans la pratique, la façon dont les obligations se mettent en œuvre, parce que l’exécution autonome exige un contrôle humain (article 14) plus solide, une gestion des risques (article 9) plus robuste, et une surveillance après mise sur le marché (article 72) plus complète. Les obligations à haut risque de l’annexe III s’appliquent à compter du 2 décembre 2027 ; celles des produits intégrés de l’annexe I, à compter du 2 août 2028 (Digital Omnibus, règlement (UE) 2026/1744, en vigueur depuis le 27 juillet 2026).

Répartition fournisseur / déployeur dans les chaînes d’agents. La distinction fournisseur / déployeur du règlement sur l’IA devient complexe dans les systèmes multi-agents. Prenons un scénario :

• L’entreprise A développe un modèle de fondation (fournisseur GPAI).
• L’entreprise B construit un cadre agentique sur ce modèle (fournisseur du système d’IA).
• L’entreprise C déploie l’agent dans son entreprise (déployeur).
• L’agent appelle l’API de l’entreprise D pour enrichir des données (vraisemblablement un fournisseur distinct ou un composant en aval).

Chaque entité de cette chaîne a des obligations distinctes. L’entreprise B, en tant que fournisseur du système d’IA, porte la charge de conformité la plus lourde au titre du règlement, y compris l’évaluation de la conformité, la gestion de la qualité, et la documentation technique (annexe IV). L’entreprise C, en tant que déployeur, doit assurer le contrôle humain, mener une analyse d’impact sur les droits fondamentaux lorsque c’est requis, et utiliser le système conformément à la notice. Les dispositions de l’article 25 sur la répartition des responsabilités deviennent critiques, et dans beaucoup de déploiements d’agents en entreprise, la clarté contractuelle est indispensable.

Article 50, transparence, ce qui s’applique aux agents et ce qui ne s’applique pas. Le règlement n’emploie pas les termes « IA agentique » ni « agents d’IA ». Les obligations de transparence de l’article 50 s’appliquent depuis le 2 août 2026 (elles n’ont pas été reportées par le Digital Omnibus). Les lignes directrices de la Commission sur l’article 50, adoptées le 20 juillet 2026, n’ont pas de version française officielle que nous puissions citer ici ; la lecture ci-dessous paraphrase le champ d’application négatif déjà consigné, sans citation.

Selon cette lecture, le raisonnement intermédiaire, y compris une chain of thought, et les actions d’outil qu’aucune personne physique n’est censée percevoir (par exemple une requête web ou une action de navigateur) ne constituent pas un contenu de synthèse au titre de l’article 50, paragraphe 2. Les appels machine à machine d’arrière-plan entre systèmes d’IA et la communication d’agent à agent tombent hors de cette surface de transparence. En revanche, lorsqu’un agent est capable d’interagir avec les personnes qui le commandent ou avec d’autres personnes physiques, l’article 50, paragraphe 1, exige de divulguer la nature artificielle de l’agent et la personne pour le compte de laquelle il agit, aux étapes clés (autorisation, compte rendu, validation) et à chaque nouvelle interaction. Ne fusionnez pas ces deux branches dans une politique unique « étiqueter tout ce que l’agent touche ».

Approche américaine, niveau des États et orientation exécutive fédérale

Les États-Unis n’ont pas de législation fédérale visant spécifiquement les agents d’IA. Plusieurs instruments réglementaires sont toutefois pertinents :

• L’Executive Order 14110 (octobre 2023, Safe, Secure, and Trustworthy AI) demande aux agences fédérales d’évaluer les risques des systèmes d’IA autonomes et exige des rapports sur les systèmes d’IA capables d’« agir dans le monde physique » ou d’« opérer de façon autonome dans des environnements complexes ».
• Le Colorado AI Act, modifié par une législation que le gouverneur Polis a signée le 14 mai 2026, s’applique à compter du 1er janvier 2027 (reporté du 30 juin 2026). L’amendement de mai 2026 a recentré la loi sur la divulgation des technologies de décision automatisée (ADMT), un avis avant usage, une information après un résultat défavorable, et un jeu limité de droits pour les consommateurs, en retirant le devoir de diligence, le programme de gestion des risques et les exigences d’analyse d’impact de la loi d’origine de 2024. Beaucoup de cas d’usage agentiques qui prennent des décisions lourdes de conséquences entrent dans ce champ de divulgation ADMT. Voir notre guide du Colorado AI Act.
• Des profils NIST AI RMF sont en cours d’élaboration qui traitent explicitement les systèmes autonomes et agentiques, avec une orientation mise à jour attendue fin 2026.
• La FTC continue d’appliquer la section 5 (pratiques déloyales ou trompeuses) aux actions autonomes menées par l’IA qui portent préjudice aux consommateurs, qu’elles aient été prises par un humain ou par un agent.

Chine, gouvernance ciblée des services génératifs et d’agents

L’approche réglementaire chinoise vise des types d’application d’IA plutôt que des niveaux de risque. Les mesures provisoires pour la gestion des services d’IA générative (en vigueur depuis août 2023) s’appliquent à tout service qui génère du texte, des images, de l’audio ou de la vidéo, ce qui inclut les sorties de la plupart des systèmes d’IA agentique. Le règlement sur les recommandations algorithmiques et le règlement sur la synthèse profonde ajoutent des couches d’enregistrement, de transparence et d’obligations de modération des contenus. Les systèmes agentiques qui opèrent en Chine ou servent des personnes en Chine doivent se conformer aux exigences obligatoires de dépôt algorithmique auprès de la Cyberspace Administration of China (CAC) et aux obligations de revue de sûreté des contenus.

Défis de gouvernance propres à l’IA agentique

Responsabilité dans les chaînes multi-agents

Lorsqu’un seul système d’IA produit une sortie nuisible, la responsabilité est (relativement) simple : le fournisseur l’a construit, le déployeur l’a utilisé. Lorsqu’un agent orchestrateur délègue une tâche à un agent spécialiste, qui appelle un outil de tiers, qui renvoie des données qui déclenchent un agent d’action pour exécuter une décision, qui est responsable du résultat ?

C’est le problème de l’écart de responsabilité. Dans les architectures multi-agents, la responsabilité peut se disperser au point qu’aucune entité n’a une visibilité complète, ni le contrôle, du processus de bout en bout. Le cadre de Singapour y répond en insistant sur une « responsabilité humaine réelle » qui traverse toute la chaîne. Le règlement sur l’IA y répond par la structure d’obligations fournisseur / déployeur / distributeur, mais la cartographie est nettement plus complexe pour les systèmes multi-agents que pour des modèles autonomes.

Défaillances en cascade et risque qui se compose

Une hallucination dans un agent conversationnel autonome est gênante. Une hallucination dans un système agentique qui utilise l’information hallucinée pour passer une transaction financière, envoyer un courriel à un client et mettre à jour une base de données crée une cascade de conséquences dans le monde réel. Chaque étape de la chaîne d’exécution d’un agent amplifie l’impact des erreurs des étapes précédentes.

Cet effet cumulatif signifie que l’évaluation classique des risques, qui évalue le risque d’un système à un seul point, est insuffisante. L’évaluation du risque agentique doit modéliser la distribution de probabilité cumulée des erreurs sur toute la chaîne d’exécution et évaluer le pire résultat de défaillances corrélées.

Escalade de privilèges et dérive de périmètre

Les systèmes d’IA agentique sont conçus pour être débrouillards. Un objectif donné, un agent bien conçu trouvera le chemin le plus efficace pour l’atteindre. C’est une qualité, jusqu’à ce que l’agent élargisse son propre périmètre au-delà de ce qui était prévu.

L’escalade de privilèges survient lorsqu’un agent accède à des ressources, des données ou des capacités au-delà de ses permissions prévues. Cela peut arriver par un usage explicite d’outil (l’agent appelle une API qu’il n’était pas censé appeler) ou par un comportement émergent (l’agent trouve un contournement pour atteindre son objectif qui contourne les restrictions prévues).

La dérive de périmètre est le phénomène lié où un agent interprète son objectif largement et prend des actions qui, tout en étant techniquement dirigées vers l’objectif, dépassent les attentes de la personne ou de l’organisation. Un agent chargé d’« optimiser les temps de réponse aux courriels » peut se mettre à répondre automatiquement, à replanifier des réunions ou à filtrer des messages, autant d’optimisations défendables, dont aucune n’était autorisée.

Tension entre autonomie et contrôle humain

L’article 14 du règlement sur l’IA exige que les systèmes d’IA à haut risque soient conçus de manière à permettre un contrôle humain effectif, y compris la capacité de « décider, dans une situation particulière, de ne pas utiliser le système ou d’ignorer, remplacer ou inverser sa sortie ». Pour les systèmes agentiques, cela crée une tension : toute la proposition de valeur d’un agent d’IA est qu’il agit sans intervention humaine à chaque étape.

Résoudre cette tension exige une approche nuancée du contrôle humain, pas l’approbation de chaque action, mais un contrôle réel aux points de décision critiques, une surveillance robuste, et des mécanismes d’arrêt d’urgence fiables. Nous explorons des mises en œuvre concrètes dans la section des contrôles d’entreprise ci-dessous.

Risque du modèle de tiers

On estime que 76 % des déploiements d’IA en entreprise utilisent des modèles externes, des modèles de fondation accessibles par API auprès de fournisseurs comme OpenAI, Anthropic, Google ou Meta. Lorsqu’un agent est construit sur un modèle de tiers, l’organisation qui déploie l’agent a une visibilité limitée sur le comportement du modèle, les données d’entraînement, les propriétés de sûreté et le rythme des mises à jour. Une mise à jour du modèle par le fournisseur en amont peut changer le comportement de l’agent du jour au lendemain, sans aucune action du déployeur. Cette dépendance crée un angle mort de gouvernance persistant, à gérer par des contrôles contractuels, des essais indépendants et une surveillance continue.

Le cadre de Singapour en détail, les quatre piliers

Pilier 1 : évaluer et borner les risques d’emblée

Le premier pilier du cadre exige des organisations qu’elles mènent une évaluation des risques avant déploiement spécifiquement adaptée aux capacités agentiques. Cela va au-delà de l’évaluation classique des risques IA (telle que la FRIA au titre du règlement sur l’IA) en exigeant l’évaluation de :

• Périmètre d’action : quelles actions l’agent peut-il prendre ? Quel est l’impact maximal d’une seule action ? Quel est l’impact cumulé d’une chaîne d’exécution complète ?
• Interaction avec l’environnement : l’agent interagit-il avec des systèmes externes, des API, des bases de données ou le monde physique ? Quels sont les modes de défaillance de ces interactions ?
• Schémas de délégation : l’agent délègue-t-il à d’autres agents ? Si oui, quels contrôles gouvernent la chaîne de délégation ?
• Réversibilité : les actions de l’agent peuvent-elles être inversées ? Si une transaction financière, une communication ou une modification de données est faite, existe-t-il un mécanisme de retour arrière ?
• Définition des frontières : quelles frontières explicites contraignent le comportement de l’agent ? Ces frontières sont-elles imposées techniquement (isolement, permissions) ou seulement par instruction (invites système, consignes) ?

Le cadre souligne que les frontières instructionnelles seules, dire à l’agent « ne faites pas X » via une invite système, sont insuffisantes pour la gestion des risques. Une application technique est requise.

Pilier 2 : assurer une responsabilité humaine réelle

« Réelle » est le mot qui compte. Le cadre rejette explicitement le contrôle humain de façade, un humain nominalement « dans la boucle » qui entérine les actions de l’agent ou qui ne peut pas intervenir à temps de façon réaliste.

Une responsabilité humaine réelle exige :

• Responsabilité désignée : une personne physique nommée (ou un rôle) responsable du comportement de l’agent et de ses résultats.
• Compétence : la personne responsable doit comprendre suffisamment les capacités, les limites et le profil de risque de l’agent pour exercer un contrôle véritable.
• Capacité d’intervention : la personne doit pouvoir intervenir, mettre en pause, rediriger ou mettre fin à l’agent, dans un délai qui a un sens relativement au préjudice potentiel.
• Piste d’audit : toutes les actions, décisions et délégations de l’agent doivent être journalisées de manière à permettre un examen a posteriori et une détermination de responsabilité.

Pour les organisations qui opèrent au titre du règlement sur l’IA, ce pilier s’aligne étroitement sur les exigences de contrôle humain de l’article 14 et sur les obligations du déployeur au titre de l’article 26.

Pilier 3 : mettre en œuvre des contrôles techniques

Le troisième pilier est le plus prescriptif. Il spécifie des catégories de contrôles techniques qui devraient être intégrées dans les architectures d’IA agentique :

Le cadre insiste pour que ces contrôles soient conçus dans l’architecture dès l’origine, et non greffés après le déploiement.

Pilier 4 : promouvoir la responsabilité de ceux qui déploient ou interagissent

Le quatrième pilier reconnaît que les personnes destinataires, qu’il s’agisse de déployeurs d’entreprise ou de particuliers, ont un rôle dans un usage sûr de l’IA agentique. Les responsabilités comprennent :

• Comprendre les capacités et les limites de l’agent avant de le déployer dans un processus.
• Configurer l’agent de façon appropriée pour le cas d’usage prévu, y compris les frontières, les permissions et les niveaux de contrôle.
• Surveiller le comportement de l’agent pendant le fonctionnement et faire remonter les anomalies.
• Signaler les incidents au fournisseur de l’agent et, le cas échéant, aux autorités de régulation.

Ce pilier a des parallèles clairs avec les obligations du déployeur au titre du règlement sur l’IA. Les organisations qui déploient des systèmes agentiques dans l’Union doivent déjà remplir des responsabilités similaires au titre de l’article 26.

Construire un programme de gouvernance de l’IA agentique

Le processus en six étapes ci-dessous s’appuie sur les fondations générales de la gouvernance de l’IA, voir notre guide du cadre de gouvernance de l’IA pour le socle, et ajoute des contrôles propres aux agents.

Étape 1, cartographier votre écosystème d’agents d’IA

On ne gouverne pas ce dont on ignore l’existence. Commencez par un inventaire des agents complet qui saisit :

• Tous les agents d’IA en usage, y compris les agents intégrés dans des produits SaaS de tiers que les salariés peuvent utiliser sans que l’informatique le sache.
• Architecture de l’agent : l’agent est-il autonome ? Orchestre-t-il d’autres agents ? Utilise-t-il des outils ou des API externes ?
• Accès aux données : quelles sources de données l’agent peut-il lire ? Quelles données peut-il créer, modifier ou supprimer ?
• Périmètre d’action : quelles actions dans le monde réel l’agent peut-il déclencher ? (Envoyer un courriel, exécuter une transaction, modifier une base de données, appeler un service externe.)
• Propriété : qui, dans l’organisation, est responsable de chaque agent ?

Construisez cet inventaire dans votre registre des systèmes d’IA existant et étendez le schéma pour y inclure des attributs propres aux agents.

Étape 2, classer les niveaux de risque par agent

Appliquez une classification des risques qui tient compte des capacités agentiques. Les paliers de risque du règlement sur l’IA restent le cadre de départ, mais vous avez besoin de dimensions supplémentaires :

Les agents qui marquent « Élevé » ou « Critique » sur plusieurs dimensions devraient être traités avec une rigueur équivalente à celle des systèmes d’IA à haut risque au titre du règlement sur l’IA, qu’ils entrent ou non dans les catégories de l’annexe III. Pour classer vos systèmes, utilisez notre outil gratuit de classification des risques du règlement sur l’IA.

Étape 3, mettre en place des points de contrôle

Concevez un modèle de contrôle étagé fondé sur la classification des risques :

• Agents à faible risque : examen a posteriori. Les journaux sont relus périodiquement (par exemple chaque semaine). Aucune approbation humaine en temps réel n’est requise.
• Agents à risque moyen : approbation aux points de contrôle. L’agent s’arrête à des points de décision prédéfinis et demande une approbation humaine avant de continuer.
• Agents à risque élevé : surveillance continue avec capacité d’intervention. Une personne chargée du contrôle surveille l’exécution de l’agent en temps réel et peut intervenir à tout moment.
• Agents critiques : humain sur la boucle, avec approbation obligatoire pour toutes les actions lourdes de conséquences. L’agent propose des actions ; un humain autorise l’exécution.

Documentez ces modèles de contrôle dans vos politiques de gouvernance de l’IA et assurez-vous que le personnel désigné pour le contrôle a la formation et l’autorité pour intervenir effectivement.

Étape 4, établir des garde-fous techniques

Mettez en œuvre les contrôles techniques identifiés au pilier 3 du cadre de Singapour, priorisés par niveau de risque :

Pour tous les agents :

• Journalisation des actions avec pistes d’audit inaltérables
• Limites de temporisation pour empêcher une exécution incontrôlée
• Limitation de débit pour plafonner le nombre d’actions par unité de temps

Pour le risque moyen et au-dessus :

• Environnements d’exécution isolés
• Contrôles d’accès au moindre privilège, avec octrois de capacité explicites
• Validation des sorties contre des règles métier avant l’exécution de l’action

Pour les agents à risque élevé et critiques :

• Mécanismes d’arrêt d’urgence accessibles au personnel de contrôle
• Portes d’approbation humaine pour les actions irréversibles ou à fort impact
• Systèmes de surveillance indépendants capables de détecter et de signaler les anomalies
• Capacités de retour arrière automatisé pour les actions récentes de l’agent

Étape 5, surveiller, journaliser et auditer

Les systèmes d’IA agentique exigent une surveillance plus complète que l’IA classique, parce que leurs actions ont des conséquences directes dans le monde réel. Votre dispositif de surveillance devrait saisir :

• Traces d’action complètes : chaque action que l’agent prend, y compris les appels d’outils, les requêtes API, les lectures / écritures de données, et les délégations à d’autres agents.
• Justification de la décision : lorsque c’est possible, le raisonnement de l’agent ou sa chain of thought à chaque point de décision.
• Consommation de ressources : appels API, usage de calcul, volume de données traité ; des anomalies peuvent indiquer un comportement inattendu.
• Suivi des résultats : les résultats de chaque chaîne d’actions, y compris les indicateurs de succès / d’échec et tout impact en aval.
• Détection de dérive : les changements de comportement de l’agent dans le temps, qui peuvent indiquer des mises à jour de modèle, une injection de prompts, ou des changements d’environnement.

Les journaux doivent être stockés dans des formats inviolables et conservés pendant des durées qui satisfont à la fois les exigences de journalisation de l’article 12 du règlement sur l’IA et les politiques d’audit interne de votre organisation. Pour les obligations de surveillance après mise sur le marché en particulier, voir notre guide de la surveillance après mise sur le marché et du signalement d’incidents.

Étape 6, se préparer à l’évolution réglementaire

Le paysage réglementaire de l’IA agentique est en formation précoce. D’ici 2028, attendez-vous à :

• Des actes d’exécution et des actes délégués du règlement sur l’IA qui pourront fournir une orientation précise sur les systèmes agentiques, en particulier sur les lectures du contrôle humain.
• Des normes harmonisées en cours d’élaboration par le CEN/CENELEC qui incluront des exigences techniques propres aux agents.
• Des profils NIST AI RMF mis à jour traitant les systèmes autonomes et agentiques.
• De nouveaux cadres nationaux, ou des cadres mis à jour, dans le sillage de Singapour : le Royaume-Uni, le Japon, la Corée du Sud et l’Australie élaborent tous une orientation de gouvernance des agents.
• Des règles sectorielles pour l’IA agentique dans les services financiers, la santé et les infrastructures critiques.

Construisez votre programme de gouvernance pour qu’il soit adaptatif. Utilisez une structure de politiques modulaire qui peut absorber de nouvelles exigences sans restructuration complète. Tenez la veille réglementaire comme un point d’agenda permanent de votre instance de gouvernance de l’IA.

Mise en œuvre en entreprise, contrôles concrets

Isolement et gestion des privilèges

Chaque agent d’IA en production devrait opérer dans un environnement isolé qui limite son accès aux seules ressources explicitement requises pour sa tâche. La mise en œuvre concrète comprend :

• Isolement par conteneurs : exécutez les agents dans des conteneurs isolés, sans accès au système de fichiers hôte, au réseau ou aux autres conteneurs, sauf octroi explicite.
• Permissions au niveau de l’API : utilisez des clés API à portée limitée ou des jetons OAuth qui n’accordent que les points de terminaison et les méthodes dont l’agent a besoin. Un agent qui lit des données clients ne devrait pas avoir d’accès en écriture. Un agent qui rédige des courriels ne devrait pas avoir l’accès d’envoi sans approbation.
• Segmentation réseau : restreignez l’accès réseau de l’agent aux domaines et services approuvés. Bloquez l’accès à l’internet ouvert sauf si c’est requis et explicitement autorisé.
• Sessions bornées dans le temps : les sessions d’exécution d’un agent devraient avoir des durées maximales. Un agent qui tourne plus longtemps que prévu devrait être automatiquement mis en pause pour examen.

Surveillance et observabilité

La surveillance d’agents de niveau entreprise va au-delà de la surveillance d’application classique :

• Tableaux de bord d’actions en temps réel qui montrent ce que chaque agent actif fait, quels outils il utilise, et quelles décisions il prend.
• Détection d’anomalies qui signale des schémas de comportement inhabituels, un agent qui fait nettement plus d’appels API que prévu, qui accède à des données hors de son périmètre normal, ou qui met plus longtemps que prévu à achever une tâche.
• Suivi des coûts : les systèmes agentiques peuvent consommer d’importantes ressources de calcul et d’API. Des pics de coût inattendus indiquent souvent des agents incontrôlés ou des boucles infinies.
• Tableaux de suivi de la conformité qui suivent, pour chaque agent, le respect de ses frontières définies, de ses points de contrôle et de ses politiques de gouvernance.

Réponse aux incidents pour les systèmes autonomes

La réponse aux incidents classique suppose qu’un humain a pris (ou approuvé) l’action qui a causé l’incident. Les systèmes agentiques exigent un plan de réponse aux incidents adapté :

1. Détection : la surveillance automatisée détecte une anomalie, ou une personne signale un comportement inattendu de l’agent.
2. Confinement : l’agent est immédiatement mis en pause ou arrêté via le mécanisme d’arrêt d’urgence. Toutes les actions en cours sont interrompues.
3. Évaluation : l’équipe de réponse aux incidents relit le journal d’actions de l’agent pour déterminer ce qui s’est passé, quelles données ont été affectées, et quels impacts en aval sont survenus.
4. Retour arrière : lorsque c’est possible, les actions de l’agent sont inversées, écritures en base restaurées, communications rappelées, transactions inversées.
5. Analyse de cause racine : déterminer si l’incident résulte d’une défaillance de modèle, d’une injection de prompts, d’une erreur de configuration, d’une mauvaise configuration de privilèges, ou d’un changement de modèle en amont.
6. Signalement : au titre de l’article 73 du règlement sur l’IA, les incidents graves impliquant des systèmes d’IA à haut risque doivent être signalés aux autorités nationales compétentes. Les incidents agentiques peuvent aussi déclencher des obligations de notification de violation au titre du RGPD si des données à caractère personnel ont été compromises.
7. Remédiation : mettre à jour les contrôles, les frontières, les règles de surveillance et, si nécessaire, l’architecture de l’agent elle-même pour empêcher la récidive.

Questions fréquentes

Quelle est la différence entre l’IA agentique et l’IA classique ?

Les systèmes d’IA classiques produisent des sorties, une classification, une prédiction, un contenu généré, qu’un humain examine ensuite et sur lesquelles il agit. Les systèmes d’IA agentique produisent des résultats : ils planifient et exécutent de façon autonome des tâches en plusieurs étapes, utilisent des outils, interagissent avec des systèmes externes, et peuvent déléguer à d’autres agents d’IA. La distinction clé est l’action autonome : un système agentique n’attend pas une approbation humaine à chaque étape. Cette autonomie est ce qui crée le besoin d’approches de gouvernance fondamentalement différentes, y compris des frontières de comportement, un isolement technique, et un contrôle humain étagé.

Le règlement sur l’IA réglemente-t-il spécifiquement les agents d’IA ?

Le règlement sur l’IA n’emploie pas les termes « IA agentique » ni « agents d’IA ». Il s’applique toutefois de façon large. Un agent d’IA construit sur un modèle GPAI déclenche à la fois les obligations des modèles GPAI (article 51) pour le fournisseur du modèle et les obligations de classification fondée sur le risque pour le système dans lequel l’agent est déployé. Le contrôle humain (article 14) et la gestion des risques (article 9) s’appliquent lorsque le système est à haut risque. Les obligations de transparence (article 50), en vigueur depuis le 2 août 2026, s’appliquent selon la branche : information au titre de l’article 50, paragraphe 1, lorsque l’agent peut interagir avec des personnes physiques ; pas de marquage comme contenu de synthèse au titre de l’article 50, paragraphe 2, pour le raisonnement intermédiaire et les actions d’outil non destinées à être perçues. Voir le champ d’application négatif des lignes directrices de l’article 50. L’autonomie peut, dans la pratique, exiger une mise en œuvre plus rigoureuse ; le règlement ne le dit pas en ces termes.

Le cadre agentique de Singapour est-il juridiquement contraignant ?

Non. Le Model AI Governance Framework for Agentic AI publié par l’IMDA et le WEF en janvier 2026 est un cadre modèle volontaire, non contraignant. Il porte toutefois un poids pratique significatif. Le Model AI Governance Framework antérieur de Singapour (2019) est devenu la norme de gouvernance de fait dans une grande partie de l’Asie-Pacifique. Les organisations qui opèrent à Singapour et sur les marchés de l’ASEAN devraient traiter le cadre comme une attente forte des régulateurs, des investisseurs et des clients d’entreprise, même en l’absence de contrainte légale.

Comment attribuer la responsabilité dans un système multi-agents ?

La responsabilité multi-agents exige de cartographier la chaîne d’exécution complète et d’attribuer la responsabilité à chaque maillon. Au titre du règlement sur l’IA, le fournisseur du système d’IA (l’entité qui construit l’application agentique) porte la charge réglementaire première. Le déployeur (l’entité qui utilise l’agent dans ses opérations) est responsable de l’usage approprié, du contrôle humain et du signalement d’incidents. Lorsque des agents délèguent à d’autres agents ou appellent des services de tiers, la répartition contractuelle des responsabilités devient indispensable. Le cadre de Singapour y répond en exigeant qu’une personne physique désignée soit responsable du comportement d’ensemble de l’agent, quelle que soit la complexité de la chaîne multi-agents sous-jacente.

Quels contrôles techniques faut-il mettre en œuvre pour les agents d’IA ?

Au minimum : environnements d’exécution isolés, contrôles d’accès au moindre privilège, journalisation des actions avec pistes d’audit inaltérables, limites de temporisation et de débit, et mécanismes d’arrêt d’urgence. Pour les systèmes agentiques à haut risque, ajoutez des portes d’approbation humaine pour les actions lourdes de conséquences, une validation des sorties contre des règles métier, une détection d’anomalies, et des capacités de retour arrière automatisé. Les contrôles précis devraient être proportionnés au niveau de risque de l’agent, voir la matrice de classification des risques dans la section programme de gouvernance ci-dessus.

Comment les organisations devraient-elles se préparer à la régulation à venir de l’IA agentique ?

Construisez un programme de gouvernance adaptatif maintenant, plutôt que d’attendre une législation spécifique. Cartographiez votre écosystème d’agents d’IA, classez les niveaux de risque, mettez en place des points de contrôle et des contrôles techniques, et établissez des capacités de surveillance et de réponse aux incidents. Utilisez le règlement sur l’IA comme socle de conformité et le cadre de Singapour comme orientation complémentaire pour les contrôles propres aux agents. Surveillez les développements réglementaires, en particulier les actes d’exécution de l’Union, les normes harmonisées CEN/CENELEC, et les mises à jour du NIST AI RMF, et tenez une structure de gouvernance modulaire capable d’absorber de nouvelles exigences. Pour un point de départ concret, essayez notre évaluation gratuite des risques au titre du règlement sur l’IA pour comprendre votre posture de conformité actuelle.

Prochaines étapes

La gouvernance de l’IA agentique n’est pas un problème futur, c’est un problème présent. Les systèmes sont déjà en production, les cadres réglementaires sont déjà en formation, et les écarts de gouvernance créent déjà du risque. Les organisations qui investissent maintenant dans la gouvernance de l’IA agentique seront en position de mettre à l’échelle une IA autonome de façon sûre, de satisfaire les régulateurs dans plusieurs juridictions, et de construire la confiance, auprès des clients, des partenaires et des conseils, qu’une adoption durable de l’IA exige.

Partez des fondamentaux :

1. Auditez votre paysage d’IA actuel à la recherche de capacités agentiques, y compris les agents intégrés dans des outils de tiers.
2. Appliquez les quatre piliers du cadre de Singapour comme liste de contrôle de gouvernance immédiate.
3. Cartographiez vos obligations au titre du règlement sur l’IA pour chaque agent, en analysant la chaîne fournisseur / déployeur.
4. Mettez en œuvre des contrôles techniques proportionnés au niveau de risque de chaque agent.
5. Établissez la surveillance et la réponse aux incidents avant de mettre davantage à l’échelle les déploiements d’agents.

Pour une vue plus large de la façon de construire un programme de gouvernance qui couvre tous les systèmes d’IA, pas seulement les agents, voir notre guide complet du cadre de gouvernance de l’IA. Pour des outils d’évaluation de votre état de conformité actuel, lancez une évaluation gratuite des risques au titre du règlement sur l’IA.

Ce guide reflète le paysage réglementaire et de gouvernance tel qu’en avril 2026. La régulation de l’IA agentique évolue rapidement, et les organisations devraient suivre les développements via le bureau de l’IA de l’UE, l’IMDA et le NIST. Pour vous aider à naviguer vos obligations de conformité précises, explorez notre comparatif des logiciels de conformité au règlement sur l’IA ou contactez notre équipe.