Article 60 : essais de systèmes d’IA à haut risque en conditions réelles en dehors des bacs à sable réglementaires de l’IA

L’article 60 reconnaît que certains systèmes d’IA à haut risque ne peuvent pas être adéquatement testés dans les seuls bacs à sable ou laboratoires : la complexité du monde réel peut être essentielle pour valider la sécurité et la performance. L’article crée une voie structurée pour de tels essais, avec les exigences suivantes :

1. Plan d’essais en conditions réelles : le fournisseur doit préparer un plan détaillé et le soumettre à l’autorité de surveillance du marché concernée pour approbation avant le début des essais. 2. Consentement éclairé : toutes les personnes qui sont sujets des essais doivent donner un consentement éclairé conformément à l’article 61. Le consentement doit être libre, spécifique, éclairé et univoque. 3. Suivi et faculté d’arrêt : le fournisseur doit surveiller en continu les résultats pendant les essais et doit pouvoir interrompre immédiatement l’essai si un incident grave survient ou si des risques pour la santé, la sécurité ou les droits fondamentaux se matérialisent. 4. Limitations de temps et d’échelle : les essais doivent être limités en durée et en portée à ce qui est nécessaire aux objectifs de validation. 5. Garanties pour les sujets d’essai : des mesures appropriées doivent protéger les droits et la sécurité des personnes affectées tout au long de l’essai.

Le plan doit aussi traiter ce qu’il advient des données collectées pendant les essais et comment les résultats sont incorporés au processus d’évaluation de la conformité.

L’article 60 est un complément du cadre des bacs à sable, pas un remplacement :

• Les bacs à sable (article 57) offrent un environnement supervisé dans lequel les autorités orientent le développement. Ils conviennent surtout aux essais de stade précoce et à la préparation de la conformité.
• Les essais en conditions réelles au titre de l’article 60 visent la validation de stade plus tardif, lorsque le système d’IA a besoin d’une exposition à des conditions en direct pour démontrer la sécurité et l’efficacité.

De façon importante, les essais en conditions réelles au titre de l’article 60 ne constituent pas une mise sur le marché ni une mise en service. C’est une activité pré-marché. Toutefois, les résultats sont censés alimenter directement le système de gestion des risques du fournisseur (article 9) et la documentation technique (article 11).

• Article 57, cadre des bacs à sable (voie complémentaire pour les essais de stade plus précoce).
• Article 61, exigences de consentement éclairé pour les participants aux essais en conditions réelles.
• Article 73, obligations de signalement des incidents graves (applicables si des incidents surviennent pendant les essais).
• Article 76, obligations de confidentialité des autorités qui supervisent les essais.
• Article 9, système de gestion des risques (les résultats d’essai en conditions réelles réinjectent l’analyse des risques).
• Article 113, dates d’application.

1. Commencez par le plan d’essai : définissez des objectifs de validation clairs, les conditions réelles précises nécessaires, la durée, la portée géographique, le nombre de sujets et les indicateurs que vous mesurerez. 2. Engagez l’autorité de surveillance du marché tôt : soumettez votre plan bien à l’avance et soyez prêt à un examen itératif. Les autorités peuvent imposer des conditions supplémentaires. 3. Intégrez le consentement éclairé à la conception : travaillez dès le départ avec les exigences de l’article 61. Les formulaires de consentement devraient expliquer le système d’IA, les conditions d’essai, les risques et le droit de se retirer. 4. Mettez en œuvre un arrêt d’urgence : vous devez pouvoir interrompre l’essai immédiatement à tout moment. Concevez les procédures techniques et opérationnelles avant le début des essais. 5. Documentez tout : résultats d’essai, incidents, dossiers de consentement et correspondance avec l’autorité font tous partie de vos éléments de preuve de conformité.