Développement des systèmes d’IA : les recommandations de la CNIL pour respecter le RGPD

La CNIL a publié ses premières recommandations sur l’application du RGPD au développement des systèmes d’ intelligence artificielle pour aider les professionnels à concilier innovation et respect des droits des personnes. Voici ce qu’il faut en retenir.

Les concepteurs et développeurs de systèmes d’ intelligence artificielle font souvent remonter à la CNIL que l’application du RGPD leur pose des difficultés, notamment pour l’entraînement des modèles.

L’idée reçue selon laquelle le RGPD empêcherait l’innovation en intelligence artificielle en Europe est fausse. En revanche, il faut avoir conscience que les bases d’entraînement comprennent parfois des « données personnelles », des informations sur des personnes réelles. L’utilisation de ces données fait courir des risques aux personnes, qu’il faut prendre en compte afin de développer des systèmes d’IA dans des conditions qui respectent les droits et libertés des personnes, et notamment leur droit à la vie privée.

En complément de cette fiche, la CNIL met à la disposition des professionnels concernés un document contenant une liste des points à vérifier.

Quels sont les systèmes d’IA concernés ?

Ces recommandations concernent le développement de systèmes d’IA impliquant un traitement de données personnelles (pour plus d’informations sur le cadre juridique, voir la fiche n°1 ). En effet, l’entraînement des systèmes d’IA nécessite régulièrement l’utilisation d’importants volumes d’informations sur des personnes physiques, qu’on nomme « données personnelles ».

• les systèmes dont l’usage opérationnel est défini dès la phase de développement et les systèmes à usage général qui pourront être utilisés pour nourrir différentes applications (« general purpose AI »).

• Les systèmes dont l’apprentissage est réalisé « une fois pour toutes » ou de façon continue, par exemple en utilisant des données d’utilisation pour son amélioration.

Quelles sont les étapes concernées ?

Ces recommandations concernent la phase de développement de systèmes d’IA, et non celle de déploiement.

La phase de développement comprend toutes les étapes préalables au déploiement du système d’IA à savoir : la conception du système, la constitution de la base de données et l'apprentissage.

Comment ces recommandations s’articulent-elles avec le règlement européen sur l’IA ?

Les recommandations formulées prennent en considération le nouveau règlement européen sur l’ intelligence artificielle adopté à l’été 2024. En effet, lorsque des données personnelles sont utilisées pour le développement d’un système d’IA, le RGPD et le règlement sur l’IA s’appliquent tous les deux. Les recommandations de la CNIL ont donc été élaborées pour compléter ces dernières de manière cohérente sur le volet relatif à la protection des données.

Le principe

Cet objectif doit être déterminé, soit établi dès la définition du projet. Il doit également être explicite, autrement dit connu et compréhensible. Il doit enfin être légitime, c’est-à-dire compatible avec les missions de l’organisme.

Il est parfois objecté que l’exigence de définir une finalité est incompatible avec l’entraînement d’IA, qui peut développer des caractéristiques non anticipées. La CNIL estime qu’il n’en est rien et que l’exigence de définition d’une finalité doit être adaptée au contexte de l’IA, sans disparaître pour autant, comme le montrent les exemples qui suivent.

Vous savez clairement quel sera l’usage opérationnel de votre système d’IA

Dans ce cas, cet objectif sera la finalité de la phase de développement comme de la phase de déploiement et d’utilisation.

Exemple : Un organisme constitue une base de données composée de photos de rames de trains en service – c’est-à-dire avec des personnes présentes – afin d’entraîner un algorithme pour mesurer l’affluence et la fréquentation des trains à quai dans les gares. La finalité en phase de développement est déterminée, explicite et légitime au regard de l’usage opérationnel identifié.

Cela est toutefois plus complexe lorsque vous développez un système d’IA à usage général qui pourra être utilisé dans divers contextes et applications ou lorsque votre système est développé à des fins de recherche scientifique.

Pour les systèmes d’IA à usage général

Exemple : Un organisme peut constituer une base de données pour l’entraînement d’un modèle de classification d’images (personnes, véhicules, aliments, etc.) et le rendre publiquement accessible, sans qu’aucun usage opérationnel spécifique ne soit prévu lors du développement du modèle.

Vous ne pouvez pas définir la finalité de manière trop générale comme, par exemple, « le développement et amélioration d’un système d’IA ». Il vous faudra être plus précis et faire référence :

• au « type » de système développé, comme, par exemple, le développement d’un modèle de langage de grande taille, d’un système de vision par ordinateur ou encore d’un système d’IA générative d’images, de vidéos, de sons, de codes informatiques, etc. ;

Vous pouvez donner encore plus de précisions quant à l’objectif poursuivi, par exemple en déterminant :

• les conditions d’utilisation du système d’IA : les cas d’usage connus de la solution ou encore les modalités d’utilisation (diffusion du modèle en open source, commercialisation, mise à disposition en SaaS ou par API, etc.).

Pour les systèmes d’IA développés à des fins de recherche scientifique

Exemple : Pourrait être considéré comme poursuivant des fins de recherche scientifique le développement d’un système d’IA pour une preuve de concept destinée à démontrer la robustesse d’un apprentissage automatique nécessitant moins de données d’entrainement, dans une démarche scientifique documentée ayant vocation à faire l’objet d’une publication.

Vous pouvez définir un objectif moins détaillé, compte tenu des difficultés à le définir précisément dès le début de vos travaux. Vous pouvez alors fournir des informations complémentaires pour préciser cet objectif à mesure que votre projet progresse.

Le principe

• Responsable de traitement (RT) : vous déterminez les objectifs et les moyens, c’est-à-dire lorsque vous décidez du « pourquoi » et du « comment » de l’utilisation de données personnelles. Si un ou plusieurs autres organismes décident avec vous de ces éléments, vous serez responsables conjoints du traitement et devrez définir vos obligations respectives (par exemple par le biais d’un contrat).

• Sous-traitant (ST) : vous traitez des données pour le compte d’un donneur d’ordre qui est le « responsable du traitement ». Dans ce cas, ce dernier doit s’assurer que vous respectez le RGPD et que vous ne traitiez les données que sur ses instructions : la loi prévoit alors la conclusion d’ un contrat de sous-traitance.

En pratique

• le fournisseur de système d’IA qui développe ou fait développer un système et qui le met sur le marché ou le met en service sous son propre nom ou sa propre marque, à titre payant ou gratuit ;

• les importateurs, distributeurs et les utilisateurs (également appelés déployeurs) de ces systèmes.

Votre degré de responsabilité dépend d’une analyse au cas par cas

• Si vous êtes un fournisseur à l’initiative du développement d’un système d’IA et que vous constituez la base de données d’apprentissage à partir de données que vous avez sélectionnées pour votre propre compte, vous pouvez être qualifié de responsable de traitement.

• Si vous constituez la base de données d’apprentissage d’un système d’IA avec d’autres responsables de traitement pour un objectif que vous avez défini ensemble, vous pouvez être qualifiés de responsables conjoints du traitement.

• Si vous êtes un fournisseur de système d’IA, vous pouvez être sous-traitant si vous développez un système pour le compte d’un de vos clients. Le client sera responsable du traitement s’il détermine l’objectif mais aussi les moyens, les techniques à utiliser. S’il ne vous donne qu’un objectif à atteindre et que c’est vous qui concevez le système d’IA, vous êtes responsable du traitement.

• Si vous êtes un fournisseur de système d’IA vous pouvez faire appel à un prestataire pour collecter et traiter les données selon vos instructions. Le prestataire sera votre sous-traitant. C’est le cas par exemple du prestataire qui doit constituer une base de données d’apprentissage pour un fournisseur de système d’IA qui lui indique précisément comment elle doit être élaborée.

• Si vous êtes responsable de traitement, toutes les étapes suivantes vous concernent directement, c’est vous qui êtes tenus d’en assurer le respect.

• Évaluer à votre niveau le respect du RGPD (cf. les étapes suivantes) et alerter le responsable de traitement s’il vous semble qu’il y a un problème.

Le principe

Le développement de systèmes d’IA contenant des données personnelles devra disposer d’une base légale qui vous autorise à traiter ces données. Le RGPD liste 6 bases légales possibles : le consentement, le respect d’une obligation légale, l’exécution d’un contrat, l’exécution d’une mission d’intérêt public, la sauvegarde des intérêts vitaux, la poursuite d’un intérêt légitime.

Selon la base légale retenue, vos obligations et les droits des personnes pourront varier, c’est pour cela qu’il est important de la déterminer en amont et de l’indiquer dans la politique de confidentialité des données.

Identifier la base légale adéquate

Vous devez vous interroger sur la base légale la plus adaptée à votre situation.

Si vous collectez les données directement auprès des personnes et qu’elles sont libres d’accepter ou de refuser sans subir de préjudice (tel que le fait de renoncer au service), le consentement est souvent la base légale la plus appropriée. Selon la loi, il doit être libre, spécifique, éclairé et univoque.

Recueillir le consentement est cependant souvent impossible en pratique. Par exemple, lorsque vous collectez des données accessibles en ligne ou réutilisez une base de données ouverte ( open source ), sans contact direct avec les personnes concernées, d’autres bases légales seront, généralement, plus adaptées :

• Les acteurs privés devront analyser s’ils respectent les conditions pour se fonder sur l’intérêt légitime. Ils doivent pour cela justifier de trois conditions : l’intérêt poursuivi est légitime c’est-à-dire légal, défini de manière précise et réel ;

• il faut pouvoir établir que les données personnelles sont vraiment nécessaires à l’entraînement du système, parce qu’il n’est pas possible de n’utiliser que des données ne se rapportant pas à des personnes physiques ou des données anonymisées ;

• l’utilisation de ces données personnelles ne doit pas porter une « atteinte disproportionnée » à la vie privée des personnes. Cela s’apprécie au cas par cas, en fonction de ce que révèlent les données utilisées, qui peut être plus ou moins privé ou sensible, et de ce qui est fait des données ;

• Les acteurs publics doivent vérifier si le traitement s’inscrit dans leur mission d’intérêt public telle que prévue par un texte (par exemple une loi, un décret, etc.) et s’il y contribue de manière pertinente et appropriée. Exemple : le pôle d'expertise de la régulation numérique (PEReN) est autorisé sur ce fondement à réutiliser des données publiquement accessibles pour réaliser des expérimentations ayant notamment pour objet de concevoir des outils techniques destinés à la régulation des opérateurs de plateformes en ligne.

Les bases légales du contrat et de l’obligation légale peuvent être plus exceptionnellement mobilisées, si vous démontrez en quoi votre traitement est nécessaire pour répondre à l’exécution du contrat ou de mesures précontractuelles ou à une obligation légale (suffisamment précise) à laquelle vous êtes soumis.

Mobiliser l’intérêt légitime

L’intérêt légitime est une des bases légales les plus couramment utilisées pour le développement de systèmes d’IA, surtout par les organismes privés. L’intérêt correspond au bénéfice que le responsable de traitement ou des tiers tirent du développement du système d’IA.

Le recours à l’intérêt légitime est soumis à trois conditions :

L’intérêt poursuivi doit être légal au regard du droit (incluant les autres réglementations que le RGPD, dont le RIA) et déterminé de façon suffisamment claire et précise. Il doit avoir un lien avec votre mission et activité.

Sont a priori considérés comme légitimes les intérêts suivants : mener des travaux de recherche scientifique, faciliter l’accès public à certaines informations, proposer un service d’agent conversationnel d’assistance aux utilisateurs, développer un système d’IA de détection de contenus et comportements frauduleux, etc.

Un intérêt commercial constitue un intérêt légitime pour autant qu’il ne soit pas contraire à la loi et que le traitement soit nécessaire et proportionné.

L’intérêt poursuivi ne peut pas être atteint par des moyens moins intrusifs pour la vie privée et le développement du système est bien nécessaire pour atteindre l’objectif donné. La nécessité du traitement s’examine donc en lien avec le principe de minimisation (voir « 5 ème étape : minimiser les données personnelles que j’utilise »).

• L’utilisation des données ne porte pas une « atteinte disproportionnée » à la vie privée des personnes

Le responsable de traitement doit mettre en balance les bénéfices attendus, de son point de vue, de son traitement et les impacts sur les individus concernés. Si nécessaire, il faut mettre en place des garanties limitant ces risques protégeant les droits et libertés des personnes.

L’usage de leurs données ne doit pas surprendre les personnes. Vous devez prendre en compte plusieurs éléments lorsque vous souhaitez recourir à la base légale de l’intérêt légitime pour traiter les données :

• pour les données collectées auprès des personnes : la relation entre vous et la personne, le contexte, la nature du service, les paramètres de confidentialité et le fait que le traitement de données ne concerne que le service fourni à la personne ou sert à l’amélioration du service dans sa globalité ;

• pour la réutilisation des données publiées sur internet : le caractère publiquement accessible des données, le contexte et la nature des sites web sources (réseaux sociaux, forums en ligne, sites de diffusion de jeux de données, etc.), le type de publication ou encore la relation entre la personne concernée et l’organisme. Le traitement ne pourra pas entrer dans les attentes raisonnables des personnes si vous n’excluez pas de la collecte les sites qui ont mis des restrictions (CGU, fichiers robots.txt, CAPTCHA).

À noter : les personnes peuvent avoir conscience que certaines des données qu’elles publient en ligne sont susceptibles d’être consultées, collectées et réutilisées par des tiers. Elles ne peuvent néanmoins pas s’y attendre dans toutes les situations et pour tous les types de données accessibles en ligne les concernant.

Des garanties peuvent permettre de limiter la collecte ou la conservation de données personnelles, d’assurer le contrôle des personnes sur leurs données, de limiter les risques en phase d’utilisation, etc. Elles doivent être adaptées aux risques tout au long de la phase de développement. Vous devez donc déterminer celles qui sont les plus pertinentes dans votre cas. Par exemple, il peut s’agir :

• de prévoir l’anonymisation à bref délai des données collectées ou, à défaut, leur pseudonymisation ;

• d’adopter des mesures pour limiter les risques de mémorisation des modèles d’IA et ainsi réduire les possibilités d’extraction ou de régurgitation ;

• de prévoir un droit discrétionnaire à l’effacement des données contenues dans la base de données d’entrainement ;

• de mettre en place des mesures pour permettre l’identification des personnes lorsqu’elles exercent leurs droits;

• de faciliter la notification des droits et communiquer largement sur les mises à jour des bases de données ou des modèles, etc.

Le principe

Le moissonnage de données (ou web scraping ) n’est pas, en lui-même, interdit par le RGPD. Si vous êtes un organisme privé, vous pouvez y avoir recours sur la base légale de l’intérêt légitime sous réserve de mettre en œuvre des garanties adaptées.

Respecter le principe de minimisation

• Définir à l’avance ce que vous recherchez : il faut décider clairement quelles catégories de données sont utiles avant de commencer la collecte.

• Ne pas collecter plus que nécessaire : il faut exclure la collecte de certaines catégories de données, par filtrage ou par exclusion de certains types de sites, notamment les données sensibles si leur collecte n’est pas pertinente pour le traitement effectué.

• Supprimer les données inutiles : si vous récupérez par erreur des données qui ne sont pas pertinentes, il faut les supprimer immédiatement.

• Respecter les sites qui refusent la collecte automatique : vous ne devez pas récupérer de données sur les sites qui s’opposent au moissonnage de leur contenu au moyen de protections techniques (comme les CAPTCHA ou les fichiers robots.txt).

Respecter les attentes raisonnables

Vous devez tenir compte du caractère publiquement accessible des données, de la nature des sites web source (réseaux sociaux, forums en ligne, etc.), du type de publication (par exemple un article publié sur un blog librement accessible ou une publication restreinte), etc.

Par ailleurs, la pratique du moissonnage ne rentre pas dans les attentes raisonnables des personnes lorsque le site en question s’oppose au moissonnage de son contenu au moyen de protection techniques (comme les CAPTCHA ou les fichiers robots.txt).

Garanties supplémentaires

Vous pouvez mettre en place des mesures supplémentaires en fonction de l’usage prévu de votre système d’IA. La mise place d’une ou plusieurs de ces mesures peut être nécessaire en fonction des risques que présente le traitement :

• Établir une liste d’exclusion de sites par défaut car contenant des données particulièrement sensibles (forums de santé, etc.) ;

• Exclure les sites qui s’opposent au moissonnage de leur contenu par le biais de mesures techniques ou juridiques (par exemple les conditions générales d’utilisation) ;

• Limiter la collecte aux données librement accessibles (sans besoin de création de compte) pour lesquelles les personnes ont conscience de leur caractère public ;

• Prévoir un droit d’opposition discrétionnaire et préalable, en amont de la collecte avec un délai raisonnable avant entraînement d’un modèle ;

• Anonymiser ou pseudonymiser les données juste après leur collecte et prévenir tout recoupement de données à partir des identifiants des personnes.

Le principe

Si vous envisagez de réutiliser une base de données personnelles, il faut s’assurer que c’est légal. Cela dépend des modalités de collecte et de la source des données en cause. Vous devez, en tant que responsable de traitement (voir la partie « déterminer vos responsabilités »), effectuer certaines vérifications complémentaires afin de garantir que cette utilisation est légale.

Le fournisseur réutilise des données qu’il a lui-même déjà collectées

Vous pouvez vouloir réutiliser les données que vous avez initialement collectées pour un autre objectif. Dans ce cas, si vous n’aviez pas prévu et informé les personnes concernées de cette réutilisation, vous devez vérifier que ce nouvel usage est compatible avec l’objectif initial, sauf si vous êtes autorisé par les personnes concernées (elles ont consenti) ou par un texte (par exemple une loi, un décret etc.).

Vous devez effectuer ce qu’on appelle un « test de compatibilité », qui doit prendre en compte :

• l’existence d’un lien entre l’objectif initial et celui de constitution de base de données pour l’apprentissage d’un système d’IA ;

• l’existence de garanties appropriées (par exemple la pseudonymisation des données).

À noter : si vous souhaitez réutiliser des données dans un objectif de production de statistiques ou de recherche scientifique, le traitement est présumé compatible avec l’objectif initial. Aucun test de compatibilité n’est donc nécessaire dans ce cas.

Le fournisseur réutilise des données publiquement accessibles ( open source )

Dans ce cas, vous devez vous assurer que vous n’êtes pas en train de réutiliser une base de données dont la constitution était manifestement illicite (par exemple, provenant d’une fuite de données). Une analyse au cas par cas doit être effectuée.

La CNIL recommande aux réutilisateurs de vérifier et de documenter (par exemple, dans l’analyse d’impact sur la protection des données) les éléments suivants :

• la constitution ou la diffusion de la base de données ne résulte pas manifestement d’un crime ou d’un délit ou a fait l’objet d’une condamnation ou d’une sanction publique de la part d’une autorité compétente qui a impliqué une suppression ou une interdiction d’exploitation ;

• il n’y a pas de doutes flagrants sur le fait que la base de données est licite en s’assurant en particulier que les conditions de collecte des données soient suffisamment documentées ;

• la base de données ne contient pas de données sensibles (données de santé ou révélant des opinions politiques par exemple) ou de données d’infraction ou, si elle en contient, il est recommandé de mener des vérifications supplémentaires pour s’assurer que ce traitement est licite.

L’organisme qui a mis en ligne la base de données est censé s’être assuré que cette publication respectait le RGPD, et en est responsable. En revanche, vous n’avez pas à vérifier que les organismes qui ont constitué et diffusé la base de données aient respecté toutes les obligations prévues par le RGPD : la CNIL estime que les quatre vérifications mentionnées ci-dessus suffisent généralement à permettre la réutilisation de la base pour l’entraînement d’un système d’IA, à condition de respecter les autres recommandations de la CNIL. Si vous recevez des informations, notamment de personnes dont les données sont contenues dans la base, qui mettent en lumière des problèmes de licéité de la base de données utilisées, vous devrez investiguez davantage.

Le fournisseur réutilise des données acquises auprès d’un tiers (courtiers en données ou data brokers, etc.)

Soit le tiers a collecté les données dans l’objectif de constituer une base de données pour l’apprentissage de système d’IA. Il doit s’assurer de la conformité du traitement de transmission des données au regard du RGPD (définition d’un objectif explicite et légitime, exigence d’une base légale, information des personnes et gestion de l’exercice de leurs droits, etc.).

Soit le tiers n’a pas initialement collecté les données pour cet objectif. Il doit alors s’assurer que la transmission de ces données poursuit un objectif compatible avec celui ayant justifié leur collecte. Il devra donc réaliser le « test de compatibilité » présenté plus haut.

• Il doit s’assurer qu’il n’est pas en train de réutiliser une base de données manifestement illicite en faisant les mêmes vérifications que celles énoncées dans la partie ci-dessus. La conclusion d’un accord entre le détenteur initial des données et le réutilisateur est recommandée afin de faciliter ces vérifications.

• En plus de ces vérifications, il doit s’assurer de sa propre conformité au RGPD dans le traitement de ces données.

Le principe

Les données personnelles collectées et utilisées doivent être adéquates, pertinentes et limitées à ce qui est nécessaire au regard de l’objectif défini : c'est le principe de minimisation des données. Vous devez respecter ce principe et l’appliquer de manière rigoureuse lorsque les données traitées sont sensibles (données concernant la santé, données relatives à la vie sexuelle aux opinion religieuses ou politiques, etc.).

La méthode à employer

Vous devez privilégier la technique permettant d’atteindre le résultat recherché (ou du même ordre) en utilisant le moins de données personnelles possible. En particulier, le recours à l’apprentissage profond ne doit donc pas être systématique.

Le choix du protocole d’apprentissage utilisé peut, par exemple, permettre de limiter l’accès aux données aux seules personnes habilitées, ou encore de ne donner accès qu’à des données chiffrées.

La sélection des données strictement nécessaires

Le principe de minimisation n’interdit pas d’entraîner un algorithme avec des volumes très importants de données, mais implique :

• à mettre, par la suite, en œuvre les moyens techniques pour ne collecter que celles-ci.

La validité des choix de conception

Afin de valider les choix de conception, il est recommandé à titre de bonne pratique de :

Fin du texte officiel repris

Sources

1 source (CNIL — Actualités). Chaque lien renvoie vers la publication d'origine — le contenu reste chez son éditeur.

• Développement des systèmes d’IA : les recommandations de la CNIL pour respecter le RGPD— CNIL — Actualités22 juillet 2025

Sujets liés

D'autres sujets de la rubrique Tech qui partagent des mots de ce titre.

Comment ce sujet a-t-il été constitué ?

Où ce sujet est-il rangé ?