AI act : Objectifs et moyens du règlement

L’IA act régule certains systèmes d’IA pour atteindre des objectifs définis par l’UE. Le règlement utilise les principes du marquage CE et a recours à des moyens spécifiques.

Ci-dessous, sont repris :

• Les objectifs généraux de l’IA act
• Les principes généraux de l’IA act
• Le recours au bac à sable règlementaire et à la base de données UE sur les IA
• Les principes de surveillance

Objectifs et principes généraux du règlement

Objectifs de l’IA act

Les objectifs de l’IA act reposent sur trois grands objectifs, qui serviront à définir les exigences :

1. Protéger la sécurité, la santé, les droits, la démocratie et l’environnement (dont : non-discrimination, équité…)
2. Être digne de confiance (via les informations fournies et les preuves de performance et de sécurité)
3. Recourir aux facteurs et contrôles humain (l’IA doit pouvoir être comprise et contrôlée par l’utilisateur)

Principes généraux de l’IA act

Le règlement suit la trame règlementaire européenne, il repose sur les principes généraux suivants :

• Il vise les différents acteurs du marché : fournisseur (fabricants), importateur, distributeur, mandataire, déployeur.
• Des exigences réglementaires générales sont définies, applicables à toutes les IA ciblées par le règlement. Elles concernent les produits et les activités des fournisseurs.
• Des exigences spécifiques sont prévues pour les IA à haut risque
• Certaines pratiques sont interdites
• Le recours aux normes harmonisées fait présomption de conformité aux exigences
• Le marquage CE peut exiger le recours à un organisme notifié
• Les fournisseurs d’IA surveillent leur utilisation après commercialisation ; les autorités surveillent le marché en général.
• En cas d’incident, une communication et des actions correctives sont mis en œuvre
• Le règlement prévoit des mesures de soutien à l’innovation, aux PME et aux startups
• Le règlement a recours à des moyens spécifiques matériels et humains ; Bureau de l’IA, Base de données Européenne, Bac à sable règlementaire

Moyens spécifiques pour les IA

Utilisation de bacs à sable règlementaires

 « Bac à sable réglementaire » : environnement contrôlé établi par une autorité publique qui facilite le développement, la mise à l’essai et la validation en toute sécurité de systèmes d’IA innovants pendant une durée limitée avant leur mise sur le marché ou leur mise en service conformément à un plan spécifique sous contrôle réglementaire.

Les bacs à sable réglementaires sont ouverts à tout fournisseur, la participation est limitée à une période adaptée à la complexité et à l’envergure du projet.

Des données à caractère personnel collectées légalement à d’autres fins peuvent être traitées uniquement aux fins du développement et du test de certains systèmes d’IA dans le bac à sable lorsque toutes des conditions sont remplies.

Les bacs doivent être opérationnels au plus tard lors de l’entrée en application du règlement.

Enregistrements sur une base de données européenne des IA

Les IA à haut risque sont enregistrées dans la base de données européenne dédiée avant la mise sur le marché, des informations relatives au fonctionnement de l’IA et à son fournisseur sont également renseignées

Bureau de l’IA

Le bureau de l’IA accompagne la mise en place de la règlementation et ses éventuelles modifications, il gère les processus de demande harmonisation des normes et de rédaction de spécifications communes. Les autorités partagent avec le bureau les informations relatives aux incidents graves.

Surveillances du marché

Le règlement induit une multitude de surveillances :

• Les fournisseurs surveillent la sécurité et les performances de leurs systèmes d’IA
• Les organismes notifiés surveillent les activités des fournisseurs
• Les autorités nationales surveillent les systèmes d’IA mis sur le marché
• Les autorités règlementaires surveillent la mise en œuvre du règlement et l’adaptent si besoin