Guide d’auto-évaluation pour les systèmes d’intelligence artificielle (IA)

Début avril, 2022 la CNIL "propose une grille d'analyse afin de permettre aux organismes d'évaluer par eux-mêmes la maturité de leurs systèmes d'intelligence artificielle au regard du RGPD. Elle présente également des bonnes pratiques."

Ce guide comprend 7 fiches sur les thèmes suivant :

• Se poser les bonnes questions avant d’utiliser un système d'intelligence artificielle
• Collecter et qualifier les données d'entraînement
• Développer et entraîner un algorithme
• Utiliser un système d'IA en production
• Sécuriser le traitement
• Permettre le bon exercice de leurs droits par les personnes
• Se mettre en conformité

"La CNIL invite tous les organismes (fournisseurs ou utilisateurs de système d’IA) prévoyant de mettre en place un traitement utilisant des technologies d'intelligence artificielle (IA), ou ayant déjà initié cette démarche, à se poser les questions proposées dans cette grille d'analyse. Cette liste a été élaborée de manière aussi exhaustive que possible d'après les bonnes pratiques et les signaux émergents tirés de la recherche scientifique dans le domaine. Afin de s'appliquer à tous les secteurs et à tous les types de systèmes d'IA, ces fiches ont été élaborées de manière à couvrir le plus de cas possible, sans exclure les risques liés à des techniques particulières comme l'apprentissage continu ou l’annotation automatique. [...] Cette grille remplit un objectif informatif principalement sous l’angle de la protection des données personnelles. Elle n’a pas vocation à supplanter les autres textes applicables : législations sectorielles, régimes de responsabilité civile, etc."