CYBER WELFARE

Protégez votre vie privée numérique

Injection de prompt dans les assistants IA : les instructions cachées et les autres attaques contre les conversations, la mémoire et les applications connectées

Un assistant d’intelligence artificielle semble un espace privé : vous écrivez, il répond, personne d’autre ne regarde. Pour qui veut en profiter, pourtant, cet espace a une valeur précise. Il contient des mois de conversations, une mémoire avec des détails sur vous et, de plus en plus souvent, l’accès à votre messagerie, à votre agenda ou à vos fichiers par les applications connectées.

Cet article explique les techniques les plus courantes par lesquelles quelqu’un tente de lire, d’utiliser ou de manipuler ce qu’un assistant conserve et atteint. Parmi elles figure l’injection de prompt dans les assistants IA (prompt injection) : des instructions cachées dans une page web, un document ou un courriel, que l’assistant lit pendant qu’il travaille pour vous et qu’il peut prendre pour des demandes de votre part. Les autres techniques sont plus classiques, du vol du compte aux fausses applications, mais toutes deviennent plus efficaces quand l’historique, la mémoire et les applications connectées restent ceux du premier jour.

C’est le complément, du côté des menaces, de la recommandation sur la façon de vérifier les paramètres de données de l’assistant IA. La façon dont une connexion par un bouton « Se connecter avec… » peut ouvrir la voie à d’autres services est en revanche le sujet de l’article sur les attaques via les applications connectées.

Une précision utile : il s’agit ici d’expliquer comment fonctionnent ces abus du point de vue de la personne qui les subit, pour les reconnaître et les prévenir. Ce ne sont pas des instructions opérationnelles.

Scénario de départ

Votre assistant a un historique d’un an : des brouillons de travail, un déménagement, un voyage, une lettre au syndic de copropriété. La mémoire retient votre métier, votre ville et le prénom de deux membres de votre famille. Vous avez connecté votre messagerie pour qu’il prépare vos réponses, et un espace de fichiers pour un essai, il y a des mois. Vous avez partagé quelques conversations par un lien.

Aucun de ces choix, pris seul, n’est un problème. Ensemble, pourtant, ils forment des archives riches et un outil capable d’agir en votre nom. Et quiconque parvient à entrer dans le compte, ou à faire lire ses propres instructions à l’assistant, trouve tout prêt.

Quand on connecte une application par commodité, il est normal de ne pas y penser. Ceux qui veulent en profiter, eux, comptent justement là-dessus.

Pourquoi l’injection de prompt dans les assistants IA profite des réglages par défaut

Toutes les techniques décrites ici ont un point commun : elles n’ont pas besoin de vous convaincre de donner quelque chose de nouveau ; elles utilisent ce que l’assistant a déjà ou peut déjà faire.

Plus l’historique est long, plus il y a à lire. Plus la mémoire est riche, plus il est facile de construire un message crédible sur vous. Plus il y a d’applications connectées, et avec plus d’autorisations, plus une mauvaise instruction peut se traduire par une action réelle. Le National Cyber Security Centre britannique (NCSC), dans un article du 8 décembre 2025, explique que les modèles de langage actuels ne maintiennent pas de frontière de sécurité entre les instructions et les données contenues dans une requête, et qu’il est très possible que l’injection de prompt ne puisse jamais être entièrement éliminée : l’objectif réaliste est d’en réduire la probabilité et l’impact.

1. Le vol du compte et la lecture des conversations et de la mémoire

En termes simples. Quelqu’un entre dans votre compte d’assistant et lit ce qu’il contient.

Comment cela fonctionne. Les voies sont les mêmes que pour n’importe quel compte : un mot de passe réutilisé et exposé dans une fuite de données d’un autre service, un message d’hameçonnage (phishing) qui imite la page de connexion, un appareil laissé déverrouillé. Une fois entrée, la personne trouve l’historique, la mémoire et les applications connectées bien rangés, prêts à être feuilletés.

Pourquoi les réglages le favorisent. Un historique sans durée et une mémoire jamais relue transforment un accès en archives complètes de votre vie récente.

Impacts possibles. Des données personnelles et professionnelles lues par des inconnus ; des informations utilisées pour des arnaques ciblées ; des souvenirs modifiés qui influencent les réponses futures.

Signaux d’attention. Des alertes de connexion depuis des appareils que vous ne reconnaissez pas ; des conversations que vous ne vous souvenez pas d’avoir commencées ; de nouvelles lignes dans la mémoire.

Comment se protéger. Utiliser un mot de passe que vous n’utilisez nulle part ailleurs et activer l’authentification à deux facteurs. Choisir une durée pour l’historique et relire la mémoire. Sur un appareil partagé, fermer la session.

2. Les instructions cachées dans les pages, les documents et les courriels

En termes simples. Un contenu que vous demandez à l’assistant de lire contient, cachées, des phrases qui s’adressent à lui et non à vous.

Comment cela fonctionne. C’est la technique appelée injection de prompt indirecte. Quand vous demandez de résumer une page, d’analyser un document ou de répondre à un courriel, l’assistant lit ce texte en même temps que votre demande. Si le texte contient des instructions, parfois écrites de façon invisible à l’œil, le modèle peut les traiter comme des demandes. Si l’assistant est connecté à votre messagerie ou à vos fichiers, une instruction cachée peut tenter de lui faire chercher des informations, les envoyer à l’extérieur ou enregistrer un faux souvenir. Les fournisseurs mettent en place des défenses, mais le NCSC prévient que le problème n’a pas de solution complète.

Pourquoi les réglages le favorisent. Un assistant qui ne lit que ce que vous écrivez peut au pire mal répondre. Un assistant connecté à la messagerie et aux fichiers, autorisé à envoyer ou à modifier, peut faire quelque chose de concret.

Impacts possibles. Des messages envoyés à votre insu ; des données copiées hors des services connectés ; une mémoire altérée par des détails faux.

Signaux d’attention. Une action sur la messagerie, l’agenda ou les fichiers que vous n’avez pas demandée ; une réponse qui change de sujet ou vous pousse vers un lien ; un nouveau souvenir que vous ne reconnaissez pas, apparu après avoir fait lire un contenu extérieur.

Comment se protéger. Ne connecter que les applications que vous utilisez, avec des autorisations minimales : lecture plutôt qu’envoi, quand cela suffit. Quand l’assistant propose une action, la lire avant de la confirmer. Faire lire avec plus de prudence les contenus d’origine inconnue, surtout quand des applications sont connectées.

3. Les liens partagés devenus publics

En termes simples. Une conversation partagée par un lien se retrouve sous les yeux de personnes à qui elle n’était pas destinée.

Comment cela fonctionne. Beaucoup de services permettent de créer un lien vers une conversation pour la montrer à quelqu’un. Quiconque a le lien peut la lire. Si le lien est transféré, publié dans un groupe ou sur un forum, la personne qui le trouve lit tout ce que contenait la conversation, documents et détails personnels compris. Ceux qui cherchent des informations pour une arnaque savent que ces pages peuvent en contenir beaucoup.

Pourquoi les réglages le favorisent. Les liens restent souvent actifs tant que vous ne les révoquez pas, même quand vous avez oublié les avoir créés.

Impacts possibles. Des adresses, des numéros de téléphone et des données d’autres personnes exposés ; des arnaques construites sur des faits réels de votre vie.

Signaux d’attention. Quelqu’un vous dit avoir lu une de vos conversations ; vous recevez des messages qui citent des détails présents seulement dans une conversation.

Comment se protéger. Pour montrer un texte, copier la partie utile au lieu de partager toute la conversation. Revoir la liste des liens actifs, si le service la montre, et révoquer ceux qui ne servent plus.

4. Les fausses applications et extensions qui collectent les conversations

En termes simples. Une application ou une extension du navigateur se présente comme utile pour l’IA, mais collecte vos conversations.

Comment cela fonctionne. Une extension est un petit programme qui ajoute des fonctions au navigateur. Certaines demandent l’autorisation de lire toutes les pages que vous visitez : avec cette autorisation, elles peuvent aussi lire les pages des conversations. D’autres applications imitent le nom ou l’apparence d’un assistant connu pour se faire installer et demander l’accès au compte. Dans les deux cas, les conversations peuvent partir vers les créateurs du programme.

Pourquoi les réglages le favorisent. Plus il reste de conversations dans l’historique, plus il y a à collecter quand les pages sont ouvertes.

Impacts possibles. Des conversations, des documents et des souvenirs copiés par des tiers ; des identifiants du compte dérobés.

Signaux d’attention. Une extension qui demande l’autorisation de lire et de modifier les données de tous les sites que vous visitez ; une application au nom proche d’un service connu mais d’un autre développeur ; une demande d’accès au compte par un programme dont vous ne vous souvenez pas.

Comment se protéger. N’installer applications et extensions que depuis les sources officielles et vérifier le développeur, comme l’explique la recommandation sur la façon de vérifier l’authenticité d’une application. Supprimer les extensions inutilisées.

5. Les fuites de données chez le fournisseur

En termes simples. Un problème dans les systèmes du service rend visibles des données qui devaient rester privées.

Comment cela fonctionne. Comme tout service en ligne, un assistant IA peut subir une erreur technique ou une intrusion. L’autorité italienne de protection des données (Garante per la protezione dei dati personali), dans son communiqué du 31 mars 2023, a indiqué qu’un service d’IA très répandu avait subi le 20 mars une fuite de données concernant les conversations des utilisateurs et les informations de paiement des abonnés.

Pourquoi les réglages la favorisent. Vous ne pouvez pas empêcher un incident chez le fournisseur. Vous pouvez en revanche décider de ce qu’il y a à exposer : un historique court et une mémoire réduite à l’essentiel limitent ce qu’un incident peut toucher.

Impacts possibles. Des titres ou des contenus de conversations visibles par d’autres ; des données du compte exposées.

Signaux d’attention. Une communication du service sur un incident de sécurité ; des informations venant de sources officielles.

Comment se protéger. Garder l’historique le temps nécessaire, ne pas téléverser de documents d’identité entiers quand un extrait suffit et, après un incident annoncé, changer de mot de passe en suivant les indications du service.

6. Les connecteurs aux autorisations trop larges

En termes simples. Une application connectée peut faire plus que ce dont vous avez besoin, et ce surplus reste à la disposition de quiconque parvient à guider l’assistant.

Comment cela fonctionne. Un connecteur est le lien entre l’assistant et un autre service. Si vous accordez lecture, modification et envoi alors que la lecture suffisait, chaque erreur, chaque instruction cachée et chaque accès non autorisé au compte dispose de toutes ces autorisations. Le NCSC cite un principe utile aussi pour les utilisateurs : quand un modèle traite les contenus de quelqu’un d’autre, il ne devrait pas avoir plus de pouvoirs que cette personne.

Pourquoi les réglages le favorisent. Les connexions restent actives tant que vous ne les retirez pas, même celles faites pour un essai.

Impacts possibles. Des courriels envoyés, des rendez-vous modifiés, des fichiers partagés ou lus à votre insu ; des données qui finissent dans l’autre service et suivent ses règles.

Signaux d’attention. Des applications connectées dont vous ne vous souvenez pas ; des autorisations d’envoi ou de modification que vous n’utilisez pas ; des actions que vous n’avez pas demandées.

Comment se protéger. Revoir la liste des applications connectées, déconnecter celles que vous n’utilisez pas et réduire les autorisations des autres. La logique est la même que dans la recommandation sur la façon de contrôler les autorisations des applications sur le téléphone.

Tableau récapitulatif

TechniqueRisque principalSignaux d’attentionDéfenses efficaces
Vol du compteConversations et mémoire lues par des inconnusConnexions inconnues, nouveaux souvenirsMot de passe unique, authentification à deux facteurs, historique court
Instructions cachées (injection de prompt)Actions en votre nom, mémoire altéréeActions non demandées, réponses qui changent de sujetAutorisations minimales, confirmation des actions, prudence avec les contenus extérieurs
Liens partagés devenus publicsConversations lues par n’importe quiContacts qui citent vos conversationsCopier le texte, révoquer les liens
Fausses applications et extensionsConversations collectées par des tiersAutorisations larges, développeurs inconnusSources officielles, extensions supprimées
Fuites chez le fournisseurDonnées exposées par un incidentCommunications du serviceHistorique court, documents réduits, mot de passe changé
Connecteurs trop largesPlus de pouvoirs que nécessaireApplications oubliées, autorisations d’envoiDéconnecter, réduire les autorisations

Ce qu’elles ont en commun

Six techniques différentes, trois défenses qui valent pour presque toutes :

  • Moins d’archives — un historique de la durée que vous choisissez et une mémoire relue réduisent ce que quiconque peut lire ou utiliser.
  • Moins de pouvoirs — peu d’applications connectées, avec des autorisations minimales, limitent ce qu’une mauvaise instruction peut faire.
  • Un compte protégé — un mot de passe unique et l’authentification à deux facteurs tiennent à l’écart ceux qui ne devraient pas entrer.

Ce ne sont pas des mesures avancées : ce sont des réglages qui se vérifient en quelques minutes.

Checklist de protection

  • ☐ Le compte de l’assistant a un mot de passe unique et l’authentification à deux facteurs
  • ☐ L’historique a une durée que j’ai choisie
  • ☐ J’ai relu la mémoire et effacé ce que je ne reconnais pas
  • ☐ Les applications connectées sont seulement celles que j’utilise, avec des autorisations minimales
  • ☐ Je lis les actions proposées par l’assistant avant de les confirmer
  • ☐ Je n’ai pas de liens partagés actifs dont je n’ai plus besoin
  • ☐ Je n’ai que des extensions et des applications issues de sources officielles

Lien avec le Framework Cyber Welfare

PilierApport de ce contenu
Conscience du risqueComprendre qu’un assistant lit tout ce que vous lui faites lire, et qu’un contenu extérieur peut contenir des instructions
CompétencesReconnaître les techniques, du vol du compte à l’injection de prompt et aux connecteurs aux autorisations trop larges
Comportements sûrsGarder peu d’archives, peu de pouvoirs et un compte protégé, et ne confirmer les actions qu’après les avoir lues

Niveau de référence : FL3 — Autonome, avec des éléments de FL2 — Initié dans les parties sur l’historique, la mémoire et la protection du compte.

Conclusion

Les techniques décrites ici n’exigent pas d’entrer dans votre téléphone. Elles s’appuient sur ce que l’assistant a déjà, des archives de conversations et une mémoire, et sur ce qu’il peut déjà faire, par les applications connectées.

C’est pourquoi la défense la plus efficace n’est pas de renoncer à l’assistant, mais de choisir : moins d’archives, moins de pouvoirs, un compte protégé. Pour savoir si votre assistant conserve déjà plus que vous ne le pensez, l’étape suivante est de lire les signes que l’IA se souvient trop de vous ; pour une vue plus large de vos habitudes numériques, vous pouvez commencer par l’auto-évaluation de la résilience numérique.

Question de réflexion. Si une page web pouvait demander quelque chose à votre assistant, que pourrait-elle faire aujourd’hui avec les applications que vous avez connectées ?

Ressources associées

Fiches courtes de la section Ressources, pour s’arrêter sur un seul aspect :

Contenus liés

Faites le premier pas : le Programme « Protégez votre Vie Privée Numérique » vous accompagne gratuitement, une recommandation à la fois.