Article 15 : Exactitude, robustesse et cybersécurité

Exactitude (paragraphe 3). Choisissez des indicateurs adaptés à la destination ; validez-les sur des données représentatives et déclarez les niveaux et indicateurs dans la notice d’utilisation.

Référentiels de la Commission (paragraphe 2). La Commission encourage l’élaboration de référentiels et de méthodologies de mesure, en coopération avec les parties prenantes et les autorités de métrologie et d’étalonnage. Suivez les normes émergentes qui affectent votre stratégie de preuves.

Robustesse (paragraphe 4). Concevez pour les erreurs, défaillances et incohérences qui peuvent survenir dans le système ou son environnement, notamment du fait de l’interaction avec des personnes physiques ou d’autres systèmes. Prenez des mesures techniques et organisationnelles. La robustesse peut être obtenue par une redondance technique, y compris des plans de secours ou de sécurité intégrée. Pour les systèmes qui continuent d’apprendre après la mise sur le marché, concevez-les de manière à éliminer ou réduire le risque que des résultats biaisés influencent les entrées futures (boucles de rétroaction), et veillez à ce que ces boucles soient traitées par des mesures d’atténuation appropriées.

Cybersécurité (paragraphe 5). Le système doit être résilient aux tentatives de tiers non autorisés d’en altérer l’usage, les résultats ou la performance en exploitant des vulnérabilités. Les solutions techniques doivent être adaptées aux circonstances et aux risques. Les mesures comprennent, le cas échéant, la prévention, la détection, la réaction, la résolution et la maîtrise face à : l’empoisonnement des données (manipulation de l’ensemble d’entraînement), l’empoisonnement du modèle (altération de composants préentraînés), les exemples adverses ou l’évasion de modèle (entrées conçues pour provoquer des erreurs), les attaques contre la confidentialité et les défauts de modèle.

• Article 8, l’article 15 est une exigence centrale de la section 2, encadrée par l’article 8.
• Article 9, les essais et indicateurs de l’article 9 doivent étayer les allégations de l’article 15.
• Article 10, la qualité des ensembles de données sous-tend l’exactitude et la robustesse.
• Article 13, la notice doit inclure les indicateurs de l’article 15 et les circonstances connues qui les affectent (article 13, paragraphe 3, point b) ii)).
• Article 11, l’annexe IV capte les preuves de validation et de cybersécurité.
• Article 12, les journaux aident à détecter les incidents de robustesse et de sécurité en exploitation.
• Article 113, dates d’application.

Note rédactionnelle. Cette section ne reproduit pas le dispositif de l’article 15. Le texte authentique en français du règlement (UE) 2024/1689 figure sur EUR-Lex. Ouvrez la version consolidée, article 15. Toute décision d’application doit s’appuyer sur ce texte, et non sur une paraphrase.

Les considérants du texte consolidé sur EUR-Lex éclairent l’exactitude communiquée aux déployeurs, la résilience aux erreurs nées de l’interaction avec des personnes physiques, d’autres systèmes ou l’environnement d’exploitation, et la cybersécurité face à des vecteurs d’attaque propres à l’IA (empoisonnement des données, exemples adverses, vol de modèle). Ceci n’est pas une citation des considérants. Lisez le préambule authentique en français sur EUR-Lex avant d’en tirer une conclusion.