Article 51 : classification des modèles GPAI présentant un risque systémique

L’article 51 répond à la question : quand un modèle GPAI est-il considéré comme présentant un risque systémique ? Deux voies :

Voie 1, capacités à fort impact (article 51, paragraphe 1) : un modèle GPAI est classé comme présentant un risque systémique lorsqu’il a des capacités à fort impact évaluées à l’aide d’outils et de méthodologies techniques appropriés, y compris des indicateurs et des critères de référence. Le Bureau de l’IA peut désigner de sa propre initiative ou après une alerte qualifiée du groupe scientifique (article 90).

Voie 2, présomption de calcul (article 51, paragraphe 2) : un modèle GPAI est présumé avoir des capacités à fort impact lorsque la quantité cumulée de calcul utilisée pour son entraînement, mesurée en opérations en virgule flottante (FLOPs), est supérieure à 10^25. La Commission peut mettre à jour ce seuil par acte délégué au titre de l’article 97 selon l’évolution des critères de référence technologiques.

Les fournisseurs peuvent réfuter la présomption par des arguments étayés via la procédure de l’article 52 : le seuil n’est pas absolu, mais la charge pèse sur le fournisseur.

Une fois qu’un modèle GPAI est classé comme présentant un risque systémique (par notification ou désignation) :

1. Les obligations supplémentaires de l’article 55 s’activent : évaluation du modèle, essais contradictoires, suivi et signalement des incidents graves, protection adéquate en matière de cybersécurité. 2. La documentation de la section 2 de l’annexe XI devient obligatoire : stratégies d’évaluation détaillées, mesures d’essais contradictoires et architecture du système. 3. Le modèle figure sur la liste publiée par le Bureau de l’IA des modèles GPAI présentant un risque systémique. 4. Les fournisseurs peuvent devoir adhérer aux codes de bonne pratique pertinents au titre de l’article 56 ou démontrer une mise en conformité équivalente.

La présomption de 10^25 FLOPs a été calibrée sur les modèles de frontière au moment des négociations législatives. C’est une présomption réfragable, pas une frontière de classification dure : des modèles sous le seuil peuvent encore être désignés s’ils démontrent des capacités à fort impact par d’autres éléments.

À mesure que l’efficacité de l’entraînement s’améliore (distillation, avancées d’architecture, qualité des données), le proxy de calcul peut sous-capturer ou sur-capturer le risque. La Commission a le pouvoir d’acte délégué pour ajuster le seuil et les critères de l’annexe XIII afin de refléter l’état de la technique.

• Article 52, procédure de classification (notification, désignation par le Bureau de l’IA, réfutation, publication).
• Article 53, obligations GPAI de base (s’appliquent à tous les fournisseurs GPAI, quel que soit le risque systémique).
• Article 55, obligations supplémentaires activées par la classification de risque systémique.
• Article 56, codes de bonne pratique comme voie de mise en conformité pour les obligations de risque systémique.
• Annexe XI, documentation de la section 2 déclenchée par le statut de risque systémique.
• Annexe XIII, critères et seuils de classification du risque systémique (y compris la présomption de 10^25 FLOPs).
• Article 90, groupe scientifique qui peut déclencher des alertes qualifiées pour la classification par le Bureau de l’IA.
• Article 97, actes délégués pour mettre à jour le seuil de l’annexe XIII.
• Article 101, sanctions pour les fournisseurs GPAI.
• Article 113, dates d’application.

Note (rédaction). Le texte anglais de l’article 51 n’est pas traduit ici. Ci-dessous, le français publié par le guichet unique de la Commission, version du 13 juin 2024. Pour toute décision, lisez le texte consolidé sur EUR-Lex.

1. Un modèle d’IA à usage général est classé comme modèle d’IA à usage général présentant un risque systémique s’il remplit l’une des conditions suivantes :

a) il dispose de capacités à fort impact évaluées sur la base de méthodologies et d’outils techniques appropriés, y compris des indicateurs et des critères de référence ;

b) sur la base d’une décision de la Commission, d’office ou à la suite d’une alerte qualifiée du groupe scientifique, il possède des capacités ou un impact équivalents à ceux énoncés au point a), compte tenu des critères définis à l’annexe XIII.

2. Un modèle d’IA à usage général est présumé avoir des capacités à fort impact conformément au paragraphe 1, point a), lorsque la quantité cumulée de calcul utilisée pour son entraînement mesurée en opérations en virgule flottante est supérieure à 10^25.

3. La Commission adopte des actes délégués conformément à l’article 97 pour modifier les seuils énumérés aux paragraphes 1 et 2 du présent article, ainsi que pour compléter les critères de référence et les indicateurs à la lumière des évolutions technologiques, telles que les améliorations algorithmiques ou l’efficacité accrue du matériel informatique, si nécessaire, afin que ces seuils reflètent l’état de la technique.

Les considérants du même règlement consolidé sur EUR-Lex contextualisent le risque systémique, les capacités à fort impact, le calibrage des 10^25 FLOPs, le rôle du groupe scientifique et le mécanisme de mise à jour par acte délégué de la Commission. Utilisez le préambule officiel sur EUR-Lex.