Article 58 : modalités détaillées pour les bacs à sable réglementaires de l’IA et fonctionnement de ceux-ci
L’article 58 fixe les règles opérationnelles des bacs à sable réglementaires de l’IA établis au titre de l’article 57. Les participants doivent convenir de conditions comprenant un plan convenu avec des objectifs, des garanties de droits fondamentaux, des protections de confidentialité, et des procédures de sortie du bac à sable et de transition vers le marché. Les autorités de supervision surveillent les essais et peuvent suspendre la participation si des risques graves se matérialisent. La Commission peut adopter des actes d’exécution précisant davantage les procédures de bac à sable.
À qui cela s’applique-t-il ?
- -Participants au bac à sable, fournisseurs et fournisseurs potentiels admis dans un bac à sable réglementaire de l’IA et tenus d’en respecter les conditions
- -Autorités de supervision, autorités nationales compétentes ou Bureau de l’IA opérant le bac à sable, responsables de la surveillance et du suivi des risques
- -La Commission européenne, qui peut adopter des actes d’exécution sur les procédures détaillées de bac à sable et les modèles de rapport
Scénarios
Une société de services financiers entre dans un bac à sable pour tester une IA de notation du crédit. Le plan convenu précise : période d’essai de 6 mois, indicateurs de performance d’équité et d’exactitude, critères de sortie exigeant un dossier de risques prêt pour la conformité, et un accord de traitement des données pour les ensembles d’essai.
Pendant les essais en bac à sable, un système d’IA d’itinéraire de transport public commence à produire des résultats qui désavantagent de façon disproportionnée les utilisateurs handicapés. L’autorité de supervision invoque son pouvoir de suspension et exige du fournisseur qu’il reconçoive le système avant la reprise des essais.
Ce que l’article 58 exige (en langage clair)
L’article 58 traduit le concept de bac à sable de l’article 57 en exigences opérationnelles concrètes. Chaque bac à sable doit avoir :
1. Un plan convenu : les participants et l’autorité de supervision conviennent d’emblée des objectifs du bac à sable, de la portée des essais, de la durée, des données à utiliser et des critères de succès ou d’échec. 2. Des garanties de droits fondamentaux : le plan doit inclure des mesures appropriées pour protéger les droits fondamentaux des personnes affectées par le système d’IA pendant les essais. 3. Des protections de confidentialité : les secrets d’affaires et les informations exclusives partagés pendant la participation doivent être protégés par l’autorité. 4. Des procédures de sortie et de transition : des règles claires sur la façon dont un participant quitte le bac à sable (volontairement ou par suspension) et ce qu’il advient des sorties d’essai, surtout comment elles alimentent l’évaluation de la conformité pour la mise sur le marché.
L’autorité de supervision conserve le pouvoir de suspendre ou de mettre fin à la participation si des risques pour la santé, la sécurité ou les droits fondamentaux se matérialisent pendant les essais et ne peuvent pas être suffisamment atténués.
Actes d’exécution de la Commission
L’article 58 habilite la Commission à adopter des actes d’exécution précisant davantage les procédures de bac à sable. Ils peuvent couvrir :
- des modèles de candidature et de plans convenus
- des formats de rapport des résultats de bac à sable
- des critères communs d’admission et de sortie
- des procédures de coopération transfrontalière des bacs à sable
Suivez la page de mise en œuvre du règlement sur l’IA de la Commission pour les mises à jour de ces actes d’exécution. Tant qu’ils ne sont pas adoptés, les autorités nationales compétentes fixent leurs propres procédures détaillées dans le cadre de l’article 58.
Comment l’article 58 s’articule avec le reste du règlement
- Article 57, établit l’obligation de bac à sable ; l’article 58 en précise le fonctionnement.
- Article 59, règles spéciales de traitement des données dans les bacs à sable (le plan convenu doit viser l’article 59 lorsque des données à caractère personnel sont en jeu).
- Article 60, essais en conditions réelles hors bacs à sable (voie alternative avec ses propres conditions).
- Article 76, obligations de confidentialité applicables aux superviseurs de bacs à sable.
- Article 113, dates d’application et calendrier échelonné d’exécution.
Liste de conformité
- Négociez et documentez un plan de bac à sable convenu avec l’autorité de supervision avant de commencer tout essai : objectifs, portée, données, durée et critères de succès.
- Incluez des garanties explicites de droits fondamentaux dans le plan, surtout si le système d’IA affecte des groupes vulnérables ou traite des données biométriques ou sensibles.
- Établissez des accords de confidentialité avec l’autorité de supervision pour protéger les secrets d’affaires et les détails exclusifs du modèle partagés pendant la participation.
- Définissez des critères de sortie clairs et un plan de transition : quelle documentation doit être prête, quels résultats d’essai alimentent l’évaluation de la conformité, et ce qu’il advient des données d’essai à la sortie.
- Préparez-vous à une suspension possible : construisez votre plan d’essai de sorte que les résultats intermédiaires soient documentés et que le système puisse être arrêté en sécurité à tout moment.
- Surveillez les actes d’exécution de la Commission qui peuvent normaliser les procédures de bac à sable et les formats de rapport entre États membres.
- Tenez des dossiers détaillés de toutes les interactions de bac à sable, de l’orientation de l’autorité et des résultats d’essai pour votre dossier de conformité.
Vous préparez un bac à sable ? Évaluez d’abord l’état de préparation de votre système d’IA.
Démarrer l’évaluation gratuiteArticles connexes
Article 57 : bacs à sable réglementaires de l’IA
Article 59 : traitement ultérieur de données à caractère personnel pour développer certains systèmes d’IA d’intérêt public dans le bac à sable réglementaire de l’IA
Article 60 : essais de systèmes d’IA à haut risque en conditions réelles en dehors des bacs à sable réglementaires de l’IA
Article 113 : Entrée en vigueur et application
Questions fréquentes
Qu’advient-il de mes données et résultats d’essai si le bac à sable est suspendu ?
L’article 58 exige que les procédures de sortie fassent partie du plan convenu. Si la participation est suspendue, le plan devrait préciser si les données doivent être supprimées, restituées ou conservées sous conditions précises. Le traitement de données à caractère personnel est aussi soumis à l’article 59 et au RGPD.
Les résultats de bac à sable peuvent-ils servir d’éléments de preuve pour l’évaluation de la conformité ?
Oui. Les résultats d’essai, les retours de l’autorité et les évaluations des risques développés pendant la participation peuvent former une partie de votre documentation technique au titre de l’article 11 et de l’annexe IV. C’est l’un des bénéfices pratiques clés de la participation.
Les conditions de bac à sable sont-elles les mêmes dans tous les États membres ?
Pas nécessairement. Tant que la Commission n’adopte pas d’actes d’exécution harmonisant les procédures, chaque État membre peut fixer ses propres conditions détaillées dans le cadre de l’article 58. La coordination transfrontalière est encouragée mais pas encore normalisée.