La Cnil publie son guide sur la sécurité des données personnelles, avec une fiche sur l’IA

La commission nationale informatique et libertés (Cnil) vient de publier l’édition 2024 de son guide sur la sécurité des données personnelles.

Composé de 25 fiches, il a pour objectif d’aider les professionnels à identifier les risques et à mettre en œuvre “les mesures de sécurité pour assurer la protection des données qu’ils traitent”. Cette édition 2024 fait un focus sur des thèmes nouveaux comme le cloud, les applications mobiles, les API (interface de programmation applicative) et l’intelligence artificielle. Concernant l’IA, le guide explique également…ce qu’il ne faut pas faire, comme : 

• “entraîner un modèle sur des données dont la source est inconnue ou n’est pas fiable, ou dont la qualité, et notamment celle de l’annotation, n’a pas été vérifiée ;
• déployer, partager, diffuser ou rendre accessible un modèle sans vérifier la qualité des sorties, et en particulier l’absence de sorties problématiques (ex : contenus haineux) et de données personnelles, hormis à des fins de tests et d’audit ;
• utiliser un système sans en connaître les limitations, ou sans évaluer les conséquences d’une erreur ou d’un biais”.