La CNIL publie un outil pour la traçabilité des modèles d’IA publiés en source ouverte
CNIL — Licence Ouverte / Etalab 2.0. Publication d'origine, 18 décembre 2025.
Texte officiel intégral
Ci-dessous, le corps complet de la publication de CNIL, reproduit sans modification. La Licence Ouverte / Etalab 2.0 en autorise expressément la reproduction, à la seule condition d'en mentionner la paternité.
La CNIL met à disposition un démonstrateur pour naviguer à travers la généalogie des modèles d’IA publiés en source ouverte et étudier la traçabilité de cet écosystème, notamment pour faciliter l’exercice de droits d’opposition, d’accès ou d’effacement.
La traçabilité des modèles d’IA en source ouverte
La mise à disposition des modèles d’IA en source ouverte permet de proposer cette technologie au plus grand nombre. Chercheurs, entreprises ou même particuliers peuvent désormais accéder à de nombreux modèles pour différents usages tels que la génération de texte ou d’images, la traduction, ou encore la transcription audio.
De nombreux utilisateurs téléchargent également ces modèles pour les modifier ou les spécialiser sur une tâche spécifique à l’aide de nouvelles données. Souvent, ces nouveaux modèles sont alors à nouveau mis à disposition en source ouverte.
Ainsi, chaque modèle disponible en source ouverte fait partie d’une généalogie, constituée de l’ensemble des modèles :
- dont il provient directement ou après plusieurs modifications (ses ascendants) ;
Pouvoir décrire et rechercher dans une généalogie de modèle d’IA en source ouverte est donc une étape indispensable pour comprendre comment un modèle a été constitué.
La mémorisation des modèles d’IA et le RGPD
La communauté académique a établi de longue date qu’il est souvent possible d’extraire des informations sur la base d’entraînement d’un modèle d’IA, simplement à travers un accès à ce dernier. Ce phénomène se manifeste par la régurgitation des modèles génératifs, lorsque ceux-ci génèrent des données qui sont très similaires à des éléments de la base d’entraînement, mais ne s’y limite pas (voir par exemple l’article « Petite taxonomie des attaques des systèmes d’IA »).
Lorsqu’un modèle a été entraîné en partie sur des données personnelles (ce qui est généralement le cas pour l’IA générative), le Comité européen de la protection des données a énoncé dans son avis qu’il faudrait considérer dans la plupart des cas que celui-ci est soumis au RGPD. Le responsable de traitement pourra néanmoins démontrer, notamment à l’aide de tests, qu’il n’est pas possible d'extraire ou déduire de données personnelles à partir du modèle et que le RGPD ne viendrait pas à s’appliquer.
Une expérimentation pour étudier les d’IA en source ouverte
Dans ce contexte, la CNIL a mené une expérimentation visant à explorer des scénarios d’exercice des droits d’opposition, d’accès ou d’effacement, pour des personnes qui seraient concernées par la mémorisation de leurs données dans un modèle d’IA en source ouverte. La première étape pour cela vise à identifier, partant de la connaissance qu’un modèle a mémorisé les données d’une personne, les autres modèles de sa généalogie qui seraient susceptibles d’avoir également mémorisé ces données.
Dans ce but, le service IA de la CNIL a développé, en collaboration avec le Laboratoire d’Innovation Numérique de la CNIL (LINC), un outil de démonstration qui permet d’explorer la généalogie d’un modèle d’IA présent sur la plateforme HuggingFace.
Fin du texte officiel repris
Source :CNIL, publié le — Licence Ouverte / Etalab 2.0.
Consulter la publication d'originehttps://www.cnil.fr/fr/la-cnil-publie-un-outil-pour-la-tracabilite-des-modeles-dia-publies-en-source-ouverte
Texte reproduit dans son intégralité. La mention de la source et de sa date de dernière mise à jour est la seule condition posée par la Licence Ouverte / Etalab 2.0 ; elle ne confère aucun caractère officiel à cette reprise et ne vaut ni reconnaissance ni caution de fildactu.fr par l'émetteur.
Sources
Sujets liés
Comment ce sujet a-t-il été constitué ?
Les publications des sources suivies sur la rubrique Tech sont dédoublonnées par empreinte de titre sur une fenêtre de 72 heures, puis regroupées lorsqu'elles couvrent le même événement. Le compteur indique combien d'émetteurs distincts l'ont traité.
Le texte encadré plus haut est le corps de la publication de CNIL, repris dans son intégralité et sans modification. La Licence Ouverte / Etalab 2.0 sous laquelle cet organisme diffuse ses informations concède « un droit non exclusif et gratuit de libre réutilisation », dont celui « de la communiquer, la reproduire, la copier » et « de l'exploiter à titre commercial », sous la seule réserve d'en « mentionner la paternité » — la source et la date de dernière mise à jour, portées en tête et en pied du texte, avec le lien vers l'original. La mise en page — chapô détaché, intertitres, sommaire — est de fildactu.fr ; les mots sont ceux de l'émetteur, et pas un n'a été ajouté, retiré ni reformulé. Pour la presse et pour toute source sans autorisation vérifiée, fildactu.fr ne conserve que le titre tel que publié, le nom de l'éditeur, le lien d'origine et la date.