PANAME : un partenariat pour l’audit de la confidentialité des modèles d’IA
CNIL — Licence Ouverte / Etalab 2.0. Publication d'origine, 26 juin 2025.
Texte officiel intégral
Ci-dessous, le corps complet de la publication de CNIL, reproduit sans modification. La Licence Ouverte / Etalab 2.0 en autorise expressément la reproduction, à la seule condition d'en mentionner la paternité.
La CNIL, l’ANSSI, le PEReN et le projet IPoP piloté par INRIA du PEPR Cybersécurité lancent PANAME, un projet visant à développer un outil pour auditer la confidentialité des modèles d’IA.
Auditer les modèles pour évaluer leur conformité
L’avis adopté par le comité européen de la protection des données (CEPD) en décembre 2024 rappelle que le RGPD s’applique, dans de nombreux cas, aux modèles d’IA entraînés sur des données personnelles, en raison de leurs capacités de mémorisation (voir l’article du LINC Petite taxonomie des attaques des systèmes d’IA ).
Il précise également qu’il est très souvent nécessaire de démontrer dans une analyse qu’un modèle résiste à des attaques portant sur la confidentialité des données pour conclure à son caractère anonyme, condition permettant de le sortir du champ d’application du RGPD.
Des ressources encore peu disponibles
Depuis une dizaine d’années, les chercheurs multiplient les travaux sur les attaques en confidentialité. Toutefois, leur mise en œuvre est souvent faite à un niveau expérimental, pour des publications scientifiques. Plusieurs obstacles ont ainsi été identifiés pour leur appropriation par les industriels :
- Une littérature académique éparse et foisonnante : se repérer dans les ressources sur le sujet peut demander du temps et des compétences techniques élevées, notamment pour les plus petits acteurs ;
- Des cas d’usage pas toujours adaptés à un contexte industriel : même lorsqu’elles sont disponibles en source ouverte ( open source ), ces techniques nécessitent un important travail de développement pour être utilisées en production ;
- Un manque de standardisation : aucun cadre unifié n’existe actuellement pour formaliser le codage des tests de confidentialité.
Un consortium aux compétences complémentaires pour créer un nouvel outil
Pendant 18 mois, le PEReN, l’ANSSI, le projet IPoP piloté par INRIA du PEPR (programmes et équipements prioritaires de recherche) Cybersécurité et la CNIL travailleront ensemble au développement d’une bibliothèque logicielle disponible toute ou partie en source ouverte, destinée à unifier la façon dont la confidentialité des modèles est testée.
Chaque partenaire contribuera selon son domaine d’expertise :
- l’ ANSSI apportera son expertise cyber, notamment sur les contextes d’attaques sur les systèmes informatiques ;
L’objectif de l’outil est de permettre une mise en œuvre efficace et à moindre coût de certains tests d’évaluation technique de confidentialité que les acteurs de l’écosystème IA sont susceptibles de réaliser pour évaluer la conformité RGPD d’un modèle d’IA. Des phases de tests avec des administrations et des industriels sont prévues afin de s’assurer que le développement de l’outil se fait en cohérence avec leur contexte d’utilisation.
Fin du texte officiel repris
Source :CNIL, publié le — Licence Ouverte / Etalab 2.0.
Consulter la publication d'originehttps://www.cnil.fr/fr/paname-un-partenariat-pour-laudit-de-la-confidentialite-des-modeles-dia
Texte reproduit dans son intégralité. La mention de la source et de sa date de dernière mise à jour est la seule condition posée par la Licence Ouverte / Etalab 2.0 ; elle ne confère aucun caractère officiel à cette reprise et ne vaut ni reconnaissance ni caution de fildactu.fr par l'émetteur.
Sources
Sujets liés
Comment ce sujet a-t-il été constitué ?
Les publications des sources suivies sur la rubrique Tech sont dédoublonnées par empreinte de titre sur une fenêtre de 72 heures, puis regroupées lorsqu'elles couvrent le même événement. Le compteur indique combien d'émetteurs distincts l'ont traité.
Le texte encadré plus haut est le corps de la publication de CNIL, repris dans son intégralité et sans modification. La Licence Ouverte / Etalab 2.0 sous laquelle cet organisme diffuse ses informations concède « un droit non exclusif et gratuit de libre réutilisation », dont celui « de la communiquer, la reproduire, la copier » et « de l'exploiter à titre commercial », sous la seule réserve d'en « mentionner la paternité » — la source et la date de dernière mise à jour, portées en tête et en pied du texte, avec le lien vers l'original. La mise en page — chapô détaché, intertitres, sommaire — est de fildactu.fr ; les mots sont ceux de l'émetteur, et pas un n'a été ajouté, retiré ni reformulé. Pour la presse et pour toute source sans autorisation vérifiée, fildactu.fr ne conserve que le titre tel que publié, le nom de l'éditeur, le lien d'origine et la date.