Guide pour une intelligence artificielle éthique

Par Guillaume Promé
le
18 Déc. 2018 Logiciel

La commission Européenne a publié un premier draft de son guide pour une IA éthique, dont la version finale est prévue pour mars 2019.

La guide fixe 10 objectifs pour les intelligences artificielles, par thème :

  1. Responsabilité du fabricant (notamment financière)
  2. Gestion des données (en gérer la qualité)
  3. Conception “pour tous” (utilisable par tous les citoyens)
  4. Gestion de l’autonomie de l’IA (avec un concept de niveau d’autonomie dépendant du contexte et des enjeux)
  5. Non-discrimination (les biais des données utilisées en apprentissage)
  6. Respect de l’autonomie humaine (l’IA doit accompagner l’humain plutôt que le remplacer)
  7. Respect de la vie privée (dans la lignée du RGPD)
  8. Robustesse (la fiabilité des algos, leur protection contre les attaques …)
  9. Sécurité (les résultats de l’IA ne doivent pas engendrer de risques intolérables pour l’humain)
  10. Transparence (l’information fournie aux utilisateurs sur les performances, les limites …)

 

Des questions accompagnent chacun de ces dix points, pour aider le fabricant à démontrer la conformité de son IA.

 

source : europa.eu