IA : votre assistant vocal connaît-il votre vie privée ?
CNIL — Licence Ouverte / Etalab 2.0. Publication d'origine, 25 novembre 2024.
Texte officiel intégral
Ci-dessous, le corps complet de la publication de CNIL, reproduit sans modification. La Licence Ouverte / Etalab 2.0 en autorise expressément la reproduction, à la seule condition d'en mentionner la paternité.
Informations sur notre santé, sur nos préférences alimentaires, sur nos amis et notre famille : sans nous en rendre compte, nous pouvons confier de nombreuses données personnelles aux assistants vocaux. La CNIL a mené une expérience avec trois étudiants.
Une expérience de terrain auprès du grand public
Accompagnée de la Fédération des centres sociaux de Vendée et de leur café mobile, la CNIL s’est rendue sur une place publique à La Roche-sur-Yon pour proposer à plusieurs passants d’échanger avec Germain, « un nouvel assistant vocal utilisant de l’ intelligence artificielle ».
Intrigués par le dispositif, les habitants ont interrogé l’assistant sur leurs besoins quotidiens : rechercher le numéro de téléphone d’une agence de voyages, savoir comment arrêter de fumer, identifier des circuits de vélo autour de son domicile ou encore savoir s’ils allaient réussir leurs examens, etc.
À l’issue des échanges, les participants ont pu découvrir qu’ils avaient en réalité parlé avec un agent de la CNIL, caché dans un lieu à proximité, et qu’ils avaient confié de nombreuses données personnelles au fil de la discussion, parfois sans s’en rendre compte.
C’est vrai que je n’ai pas fait attention à toutes les informations que j’ai pu donner… C’était tellement pratique d’avoir une réponse immédiate à ma question !
Les interactions avec un agent conversationnel peuvent accentuer la transmission de données
En échangeant avec le sociologue du Laboratoire d'innovation numérique de la CNIL (LINC) et Corentin Loubet, doctorant à l’École nationale supérieure des arts décoratifs (ENSAD), Université PSL, les participants ont relevé certains facteurs qui ont favorisé ce partage de leurs données :
- Les IA, comme celles utilisées pour le service à la clientèle ou pour des assistants vocaux, posent souvent des questions directes, parfois personnelles, qui semblent anodines ou pertinentes pour résoudre un problème. La nature de ces questions peut cependant nous inciter à répondre sans prendre conscience de la quantité d’informations partagées.
- Les échanges reproduisent les conditions d’une conversation humaine et favorisent davantage un échange spontané d’informations au fil de la discussion.
- L’interaction avec une IA peut être perçue comme étant sous contrôle, avec la possibilité d’arrêter la conversation à tout moment ou de ne pas répondre à une question. Cela peut ainsi renforcer une impression de sécurité qui facilite parfois le partage d’informations initialement considérées comme privées.
Effectivement quand l’IA s’est présentée et m’a demandé mon prénom, je lui ai répondu naturellement ! C’est une habitude de politesse comme si je parlais à une personne.
Les 8 conseils pour échanger avec un assistant vocal
Lorsque vous interagissez avec un assistant virtuel via un appareil dédié ou sur votre téléphone, les informations que vous fournissez sont libres et peuvent parfois contenir des données personnelles, voire des données sensibles (par exemple sur votre santé, votre orientation sexuelle ou votre religion) sur vous comme sur votre entourage familial, amical, professionnel.
- Ne confiez pas des données sensibles ou intimes telles que vos informations de santé, vos coordonnées bancaires ou vos mots de passe.
- Formulez des questions claires et simples pour éviter toute incompréhension par l’assistant.
- Privilégiez les dispositifs qui vous permettent de désactiver l’analyse de vos données.
- Si vous le souhaitez, exercez votre droit d’accès aux données collectées en contactant l’éditeur du service (consultez la politique de confidentialité qui doit comporter une rubrique relative à l’exercice de vos droits).
- Les réponses des assistants ne sont pas toujours fiables. N’hésitez pas à vérifier les informations obtenues grâce à d’autres sources.
Fin du texte officiel repris
Source :CNIL, publié le — Licence Ouverte / Etalab 2.0.
Consulter la publication d'originehttps://www.cnil.fr/fr/ia-votre-assistant-vocal-connait-il-votre-vie-privee
Texte reproduit dans son intégralité. La mention de la source et de sa date de dernière mise à jour est la seule condition posée par la Licence Ouverte / Etalab 2.0 ; elle ne confère aucun caractère officiel à cette reprise et ne vaut ni reconnaissance ni caution de fildactu.fr par l'émetteur.
Sources
Sujets liés
Comment ce sujet a-t-il été constitué ?
Les publications des sources suivies sur la rubrique Tech sont dédoublonnées par empreinte de titre sur une fenêtre de 72 heures, puis regroupées lorsqu'elles couvrent le même événement. Le compteur indique combien d'émetteurs distincts l'ont traité.
Le texte encadré plus haut est le corps de la publication de CNIL, repris dans son intégralité et sans modification. La Licence Ouverte / Etalab 2.0 sous laquelle cet organisme diffuse ses informations concède « un droit non exclusif et gratuit de libre réutilisation », dont celui « de la communiquer, la reproduire, la copier » et « de l'exploiter à titre commercial », sous la seule réserve d'en « mentionner la paternité » — la source et la date de dernière mise à jour, portées en tête et en pied du texte, avec le lien vers l'original. La mise en page — chapô détaché, intertitres, sommaire — est de fildactu.fr ; les mots sont ceux de l'émetteur, et pas un n'a été ajouté, retiré ni reformulé. Pour la presse et pour toute source sans autorisation vérifiée, fildactu.fr ne conserve que le titre tel que publié, le nom de l'éditeur, le lien d'origine et la date.