CYBER WELFARE

Protégez votre vie privée numérique

Risques des chatbots pour la vie privée : ce qui s’expose quand l’assistant conserve, retient et relie

Quand on parle d’intelligence artificielle et de vie privée, l’attention se porte presque toujours sur le moment où vous écrivez : puis-je donner cette information ? C’est une bonne question. Mais une partie de l’histoire commence après l’envoi. La conversation reste dans l’historique, un détail finit dans la mémoire de l’assistant, un document téléversé reste attaché à l’échange, une application connectée continue de donner accès à votre messagerie.

Cet article explique les risques des chatbots pour la vie privée à partir des trois aspects qui mesurent la sécurité de toute information : qu’elle reste confidentielle, qu’elle reste exacte, qu’elle reste disponible. Ce sont la traduction pratique de trois mots techniques, confidentialité, intégrité et disponibilité, et ils aident à comprendre que les risques ne sont pas d’un seul type.

La question utile n’est donc pas seulement « puis-je écrire ceci ? », mais : qu’implique le fait que mon assistant conserve, retienne et atteigne ce que je lui ai donné ?

C’est l’approfondissement de la recommandation sur la façon de vérifier les paramètres de données de l’assistant IA. Ce qu’il vaut mieux écrire, ou non, est en revanche le sujet de la fiche sur ce qu’il ne faut pas partager avec un chatbot.

Trois questions pour mesurer les risques des chatbots pour la vie privée

Face aux paramètres d’un assistant, les bonnes questions sont celles-ci :

  • Qui peut lire ce que j’ai écrit, téléversé ou laissé retenir, et pendant combien de temps ? — c’est la question de la confidentialité.
  • Ce que l’assistant sait de moi est-il exact, et l’utilise-t-il comme je le pense ? — c’est la question de l’intégrité.
  • Que perdrais-je, ou que ne pourrais-je plus faire, si le compte ou les conversations n’étaient plus accessibles ? — c’est la question de la disponibilité.

Nul besoin de compétences techniques pour y répondre : les paramètres du service ouverts devant vous et quelques minutes d’attention suffisent. Appliquées à un assistant utilisé pour quelques recettes, elles donnent des réponses modestes. Appliquées à un assistant connecté à la messagerie, avec une mémoire pleine et deux ans d’historique, la réponse change beaucoup. Le critère est le suivant : une conversation pèse peu si elle reste une réponse, et beaucoup si elle devient archive, souvenir ou accès à d’autres services.

1. Confidentialité : ce que vous écrivez reste à vous

La confidentialité est la garantie qu’une information n’est lisible que par les personnes autorisées. Dans un assistant IA, les informations se trouvent à quatre endroits différents : les conversations dans l’historique, les détails dans la mémoire, les documents téléversés et les données atteintes par les applications connectées. Chacun a ses propres règles, et une vérification faite sur l’un ne vaut pas pour les autres. S’y ajoute un cinquième endroit, souvent oublié : les liens partagés, c’est-à-dire les adresses que beaucoup de services créent quand vous voulez montrer une conversation à quelqu’un. Quiconque a le lien peut la lire, et un lien transféré ou publié sur un forum voyage bien au-delà de la personne à qui vous l’aviez envoyé.

Exemple pratique

Sarah utilise un assistant pour organiser les dépenses de la maison, préparer un entretien d’embauche et réécrire une lettre à son voisin pour une histoire de stationnement. Aucune de ces conversations n’est secrète. Mises bout à bout dans l’historique, elles racontent pourtant combien elle gagne, qu’elle cherche un autre emploi et avec qui elle a un désaccord.

Scénario d’incident

Pour obtenir un conseil sur son bail, Sarah téléverse la copie numérisée du contrat entier, avec son adresse, le numéro d’une pièce d’identité et sa signature. Des mois plus tard, elle prête son ordinateur, l’assistant ouvert, à une amie pour une recherche rapide. L’amie n’a pas de mauvaises intentions, mais en parcourant l’historique elle voit le titre « Bail rue… », l’ouvre, et le document est là. Sur certains services, par ailleurs, une partie des conversations peut être examinée par des relecteurs humains pour contrôler la qualité : la documentation de l’un des principaux fournisseurs le dit explicitement.

Signaux d’attention

  • l’historique contient des conversations de plusieurs mois ou années que vous ne rouvrez jamais ;
  • vous avez téléversé des documents entiers quand un extrait suffisait ;
  • l’assistant est ouvert sur un appareil que vous partagez ou prêtez ;
  • vous ne savez pas si une partie des conversations peut être lue par des relecteurs ;
  • vous avez partagé le lien d’une conversation et ne vous souvenez plus avec qui.

Comportement conseillé

Décidez de la durée de l’historique et supprimez les conversations inutiles. Quand vous téléversez un document, demandez-vous si une partie suffit : la recommandation sur la façon de partager des documents avec le strict nécessaire explique le principe. Pour les questions délicates, utilisez la conversation temporaire, si elle existe.

2. Intégrité : ce que l’assistant sait de vous est-il exact ?

L’intégrité est la garantie qu’une information est exacte et non altérée. Ici, le point clé est la mémoire : la fonction, présente sur beaucoup de services, par laquelle l’assistant conserve des détails sur vous d’une conversation à l’autre. Elle est pratique, parce qu’elle vous évite de vous répéter. Mais la mémoire est un résumé, et un résumé peut se tromper.

Exemple pratique

Sarah avait demandé de l’aide pour un cadeau destiné à un collègue moniteur d’équitation. Des semaines plus tard, l’assistant commence à lui donner des conseils « puisque vous travaillez avec des chevaux ». Il a pris un détail sur le collègue pour une donnée sur elle, et s’en sert dans chaque réponse.

Scénario d’incident

Sarah demande à l’assistant de résumer une page web trouvée sur un forum. La page contient, cachée dans le texte, une phrase adressée à l’assistant qui lui demande de retenir une fausse préférence de son utilisateur. Sur un service qui met à jour la mémoire tout seul, une instruction de ce genre peut finir parmi les souvenirs et influencer les réponses suivantes. C’est une forme d’injection de prompt (prompt injection), c’est-à-dire une instruction cachée dans un contenu que l’assistant lit : le phénomène est décrit dans l’article sur l’injection de prompt dans les assistants IA.

Signaux d’attention

  • l’assistant cite des détails sur vous que vous ne vous souvenez pas de lui avoir donnés ;
  • une réponse part d’une information fausse et la répète ;
  • dans la mémoire, vous trouvez des lignes que vous ne reconnaissez pas ;
  • l’assistant a lu des pages ou des documents d’autres personnes avant de mettre à jour ses souvenirs.

Comportement conseillé

Relisez régulièrement la mémoire, corrigez ce qui est faux et effacez ce que vous ne voulez pas voir rester. Si le service le permet, choisissez de confirmer vous-même les nouveaux souvenirs. Les signaux à observer sont réunis dans l’article sur les signes que l’IA se souvient trop de vous.

3. Disponibilité : vos conversations sont là quand vous en avez besoin

La disponibilité est la garantie de pouvoir utiliser vos données et vos services quand vous en avez besoin. Avec un assistant IA, on la perd de façon moins visible, mais concrète : un compte bloqué, une suppression automatique oubliée, une application connectée qui cesse de fonctionner.

Exemple pratique

Sarah a construit, dans une longue conversation, le plan d’un déménagement : dates, devis, liste des choses à faire. Elle n’en a aucune copie ailleurs. Quand le service applique la durée de suppression automatique réglée dès le départ, qu’elle avait oubliée, la conversation disparaît.

Scénario d’incident

Le compte de Sarah est utilisé par quelqu’un qui a deviné son mot de passe, réutilisé d’un ancien service. La personne qui est entrée lit les conversations, change le mot de passe et l’exclut. Pendant des jours, Sarah ne peut accéder ni à l’historique ni aux applications connectées, et doit demander au service de récupérer le compte. Entre-temps, la personne qui est entrée voit aussi ce que l’assistant retient d’elle.

Signaux d’attention

  • vous n’avez jamais exporté de copie des conversations qui vous sont vraiment utiles ;
  • vous ne savez pas quelle durée de suppression automatique est active ;
  • le compte de l’assistant a un mot de passe utilisé ailleurs ou aucune authentification à deux facteurs ;
  • une application connectée cesse de fonctionner sans explication.

Comportement conseillé

Conservez ailleurs ce qui vous est vraiment utile, au lieu de le confier uniquement à l’historique : beaucoup de services permettent d’exporter une copie de vos données, qu’il faut toutefois garder avec le même soin qu’un document important, puisqu’elle contient tout ce que vous avez écrit. Protégez le compte par un mot de passe unique et l’authentification à deux facteurs. Vérifiez les applications connectées et déconnectez celles que vous n’utilisez pas.

Un scénario qui les réunit

Sarah connecte l’assistant à sa messagerie pour qu’il prépare ses réponses. Un jour arrive le courriel d’un inconnu avec un texte invisible à l’œil qui demande à l’assistant de transférer les messages récents à une adresse extérieure. Quand Sarah demande le résumé de sa messagerie, l’assistant lit aussi ces instructions. Si le service ne les bloque pas et que l’application connectée a l’autorisation d’envoyer, certains messages peuvent partir (confidentialité). Dans la mémoire reste un détail faux inséré par le même texte (intégrité). Quand Sarah s’en aperçoit, elle déconnecte l’application en hâte et perd pendant quelques jours les brouillons automatiques sur lesquels elle comptait (disponibilité).

Aucun des trois effets n’est inévitable. Mais ils partent tous de la même cause : une application connectée avec plus d’autorisations que nécessaire, une mémoire que personne ne relit et un contenu extérieur traité comme une instruction.

Les impacts qui se voient plus tard

Certains effets n’apparaissent pas tout de suite :

  • les archives qui grossissent — des mois de conversations, relues ensemble, racontent votre travail, vos déplacements et vos proches mieux que vous ne vous en souvenez ;
  • la mémoire qui survit — sur au moins l’un des principaux services, selon sa documentation, supprimer une conversation n’efface pas forcément ce que l’assistant en a retenu ;
  • l’entraînement qui ne revient pas en arrière — sur beaucoup de services, le désactiver vaut pour les conversations futures : ce qui a déjà été utilisé reste là ;
  • les liens partagés qui restent actifs — une conversation montrée à un ami il y a des mois peut encore être lue par quiconque a l’adresse, tant que vous ne retirez pas le lien dans les paramètres ;
  • les applications connectées oubliées — une connexion faite pour un essai continue de donner accès tant que vous ne la retirez pas, et les données partagées avec l’autre service suivent aussi ses règles.

Toutes les données ne pèsent pas autant

Le tableau décrit le poids habituel de ce qu’un assistant peut garder. Ce n’est pas une règle rigide : cela dépend de votre usage.

Ce que conserve l’assistantPoidsPourquoi
Questions générales (recettes, définitions)FaibleElles disent peu de vous
Brouillons de travail sans nomsFaible à moyenIls peuvent révéler des projets, mais pas des personnes
Historique de plusieurs mois sur des sujets personnelsMoyenRéunies, les conversations décrivent votre vie
Mémoire avec des détails sur vous et sur d’autresMoyen à élevéElle voyage d’une conversation à l’autre et peut être erronée
Documents téléversés en entierÉlevéIls contiennent souvent des données d’identité, des adresses, des signatures
Applications connectées à la messagerie, à l’agenda ou aux fichiersÉlevéElles donnent accès à bien plus que ce que vous écrivez
Compte sans authentification à deux facteursÉlevéLa personne qui entre trouve tout le reste déjà rangé

Pourquoi même un usage « léger » compte

Utiliser peu l’assistant réduit beaucoup le risque, mais ne le supprime pas, parce que la valeur de ce qu’il conserve dépend aussi du fonctionnement des réglages.

SituationPourquoi le risque demeure
Peu de conversations, mais mémoire active depuis des moisLes souvenirs peuvent rester même quand les conversations ont été supprimées
Entraînement désactivé depuis peuCela vaut pour la suite : les conversations précédentes ne reviennent pas en arrière
Conversations temporaires pour les questions délicatesElles restent hors de l’historique, mais le service peut les conserver pendant une courte période
Une seule application connectée, avec autorisation d’envoiUne seule connexion peut suffire à faire partir des messages en votre nom
Un seul lien partagé, il y a des moisLa personne qui l’a reçu a pu le transférer, et la conversation reste lisible tant que le lien est actif

Le critère reste le même : l’assistant ne doit conserver, retenir et atteindre que ce que vous avez décidé. Les effets concrets, sur le temps, l’argent et les relations, sont racontés dans l’article sur les conséquences de ce que vous confiez à l’IA.

Lien avec le Framework Cyber Welfare

PilierApport de ce contenu
Conscience du risqueReconnaître que conversations, mémoire, documents et applications connectées sont quatre lieux différents où restent vos données
CompétencesSavoir lire la confidentialité, l’intégrité et la disponibilité comme trois questions à se poser devant les paramètres d’un assistant
Comportements sûrsRelire la mémoire, limiter l’historique et ne connecter que les applications utiles

Niveau de référence : FL2 — Initié. C’est le niveau où l’on passe de « l’assistant se souvient, c’est pratique » à « je comprends ce qu’il conserve et je décide ». La conscience des impacts est ce qui rend l’habitude durable. Pour savoir où vous en êtes sur vos autres habitudes numériques, vous pouvez faire l’auto-évaluation de la résilience numérique.

Récapitulatif

  • La confidentialité concerne qui peut lire ce que vous avez écrit, téléversé ou laissé retenir : historique, mémoire, documents, applications connectées.
  • L’intégrité concerne l’exactitude de ce que l’assistant sait de vous : une mémoire erronée, ou altérée par un contenu extérieur, change les réponses.
  • La disponibilité concerne l’accès à vos conversations et aux services connectés : un compte piraté, une suppression automatique ou une application déconnectée en hâte peuvent vous le retirer.

Un assistant jamais vérifié ne produit pas un seul impact : il ouvre la possibilité des trois, surtout quand il est connecté à d’autres services.

Action immédiate conseillée. Ouvrez la mémoire de l’assistant que vous utilisez le plus, si le service la montre, et lisez-la. Repérez les lignes que vous ne reconnaissez pas ou qui concernent d’autres personnes : ce sont les premières à effacer. Cinq minutes, pour voir de vos propres yeux ce qu’il transporte d’une conversation à l’autre.

Contenus liés

Ressources associées

Fiches courtes de la section Ressources, pour s’arrêter sur un seul aspect :

Faites le premier pas : le Programme « Protégez votre Vie Privée Numérique » vous accompagne gratuitement, une recommandation à la fois.