AI act : Objectifs et moyens du règlement

[article initialement publié le 18/10/2023]

L’IA act régule certains systèmes d’IA pour atteindre des objectifs définis par l’UE. Le règlement utilise les principes du marquage CE et a recours à des moyens spécifiques.

Ci-dessous, sont repris :

• Les objectifs généraux de l’IA act
• Les principes généraux de l’IA act
• Le recours au bac à sable règlementaire et à la base de données UE sur les IA
• Les principes de surveillance

Le dossier se base sur le règlement (UE) 2024/1689.

Objectifs et principes généraux du règlement

Objectifs de l’IA act (§ introductif)

Les objectifs de l’IA act reposent sur trois grands objectifs, qui serviront à définir les exigences :

1. Protéger la sécurité, la santé, les droits, la démocratie et l’environnement (dont : non-discrimination, équité…)
2. Être digne de confiance (via les informations fournies et les preuves de performance et de sécurité)
3. Recourir aux facteurs et contrôles humains (l’IA doit pouvoir être comprise et contrôlée par l’utilisateur)

Principes généraux de l’IA act (§ introductif)

Le règlement suit la trame règlementaire européenne, il repose sur les principes généraux suivants :

• Il vise les différents acteurs du marché : fournisseur (fabricants), importateur, distributeur, mandataire, déployeur.
• Des exigences réglementaires générales sont définies, applicables à toutes les IA ciblées par le règlement. Elles concernent les produits et les activités des fournisseurs.
• Des exigences spécifiques sont prévues pour les IA à haut risque
• Certaines pratiques sont interdites
• Le recours aux normes harmonisées fait présomption de conformité aux exigences
• Le marquage CE peut exiger le recours à un organisme notifié
• Les fournisseurs d’IA surveillent leur utilisation après commercialisation ; les autorités surveillent le marché en général.
• En cas d’incident, une communication et des actions correctives sont mis en œuvre
• Le règlement prévoit des mesures de soutien à l’innovation, aux PME et aux startups
• Le règlement a recours à des moyens spécifiques matériels et humains ; Bureau de l’IA, Base de données Européenne, Bac à sable règlementaire

Moyens spécifiques pour les IA

Utilisation de bacs à sable règlementaires (articles 57 à 59)

 « Bac à sable réglementaire » : un cadre contrôlé mis en place par une autorité compétente qui offre aux fournisseurs ou fournisseurs potentiels de systèmes d’IA la possibilité de développer, d’entraîner, de valider et de tester, lorsqu’il y a lieu en conditions réelles, un système d’IA innovant, selon un plan du bac à sable pour une durée limitée sous surveillance réglementaire.

Les bacs à sable réglementaires sont ouverts à tout fournisseur, la participation est limitée à une période adaptée à la complexité et à l’envergure du projet.

Des données à caractère personnel collectées légalement à d’autres fins peuvent être traitées uniquement aux fins du développement et du test de certains systèmes d’IA dans le bac à sable lorsque toutes des conditions sont remplies.

Les bacs doivent être opérationnels au plus tard lors de l’entrée en application du règlement.

Enregistrements sur une base de données européenne des IA (chapitre VIII)

Les IA à haut risque sont enregistrées dans la base de données européenne dédiée avant la mise sur le marché, des informations relatives au fonctionnement de l’IA et à son fournisseur sont également renseignées.

Bureau de l’IA

Le bureau de l’IA accompagne la mise en place de la règlementation et ses éventuelles modifications, il gère les processus de demande harmonisation des normes et de rédaction de spécifications communes. Les autorités partagent avec le bureau les informations relatives aux incidents graves.

Surveillances du marché

Le règlement induit une multitude de surveillances :

• Les fournisseurs surveillent la sécurité et les performances de leurs systèmes d’IA
• Les organismes notifiés surveillent les activités des fournisseurs
• Les autorités nationales surveillent les systèmes d’IA mis sur le marché
• Les autorités règlementaires européennes surveillent la mise en œuvre du règlement et l’adaptent si besoin