CYBER WELFARE

Proteja a sua privacidade digital

Prompt injection nos assistentes de IA: as instruções escondidas e os outros ataques às conversas, à memória e às aplicações ligadas

Um assistente de inteligência artificial parece um espaço privado: escreves, ele responde, mais ninguém vê. Para quem quer tirar proveito disso, porém, esse espaço tem um valor preciso. Contém meses de conversas, uma memória com pormenores sobre ti e, cada vez mais, o acesso ao teu e-mail, ao calendário ou aos teus ficheiros através das aplicações ligadas.

Este artigo explica as técnicas mais comuns com que alguém tenta ler, usar ou manipular o que um assistente guarda e alcança. Entre elas está a prompt injection nos assistentes de IA: instruções escondidas numa página web, num documento ou num e-mail, que o assistente lê enquanto trabalha para ti e pode confundir com pedidos teus. As outras técnicas são mais tradicionais, do roubo da conta às aplicações falsas, mas todas se tornam mais eficazes quando o histórico, a memória e as aplicações ligadas ficam como no primeiro dia.

É o lado das ameaças da recomendação para verificar as definições de dados do assistente de IA. A forma como o acesso com um botão «Iniciar sessão com…» pode abrir caminho a outros serviços é, por sua vez, o tema do artigo sobre os ataques através das aplicações ligadas.

Uma precisão útil: este artigo explica como funcionam estes abusos do ponto de vista de quem os sofre, para que possam ser reconhecidos e prevenidos. Não são instruções operacionais.

Nota de variante: este texto está em português europeu. Onde se lê palavra-passe, no Brasil diz-se senha; aplicação é aplicativo e ficheiro é arquivo.

Cenário de partida

O teu assistente tem um histórico de um ano: rascunhos de trabalho, uma mudança de casa, uma viagem, uma carta ao administrador do condomínio. A memória recorda o teu trabalho, a tua cidade e o nome de dois familiares. Ligaste o e-mail para que te prepare as respostas e um arquivo de ficheiros para uma experiência, há meses. Algumas conversas partilhaste-as com uma ligação.

Nenhuma destas escolhas, sozinha, é um problema. Juntas, porém, formam um arquivo rico e uma ferramenta capaz de agir em teu nome. E quem conseguir entrar na conta, ou fazer o assistente ler as suas próprias instruções, encontra tudo pronto.

Quando se liga uma aplicação por comodidade, é normal não pensar nisto. Quem quer tirar proveito, pelo contrário, conta precisamente com isso.

Porque é que as definições predefinidas aumentam o risco

Todas as técnicas aqui descritas têm uma coisa em comum: não precisam de te convencer a dar nada de novo; usam o que o assistente já tem ou já pode fazer.

Quanto mais longo o histórico, mais há para ler. Quanto mais rica a memória, mais fácil é construir uma mensagem credível sobre ti. Quanto mais aplicações estiverem ligadas, e com mais permissões, mais uma instrução errada se pode traduzir numa ação real. O National Cyber Security Centre britânico (NCSC), num artigo de 08/12/2025, explica que os modelos de linguagem atuais não mantêm uma fronteira de segurança entre as instruções e os dados contidos num pedido, e que é muito possível que a prompt injection nunca possa ser eliminada por completo: o objetivo realista é reduzir a sua probabilidade e o seu impacto.

1. O roubo da conta e a leitura das conversas e da memória

Em palavras simples. Alguém entra na tua conta do assistente e lê o que ela contém.

Como funciona. Os caminhos são os mesmos de qualquer conta: uma palavra-passe reutilizada que acabou numa fuga de dados de outro serviço, uma mensagem de phishing que imita a página de início de sessão, um dispositivo deixado desbloqueado. Lá dentro, quem entrou encontra o histórico, a memória e as aplicações ligadas arrumados, prontos a folhear.

Porque é que as definições o favorecem. Um histórico sem duração e uma memória nunca relida transformam um acesso num arquivo completo da tua vida recente.

Impactos possíveis. Dados pessoais e de trabalho lidos por estranhos; informações usadas em burlas dirigidas; memórias alteradas que influenciam as respostas futuras.

Sinais de atenção. Alertas de início de sessão a partir de dispositivos que não reconheces; conversas que não te lembras de ter começado; linhas novas na memória.

Como te proteger. Usa uma palavra-passe que não uses noutro sítio e ativa a autenticação de dois fatores. Escolhe uma duração para o histórico e relê a memória. Num dispositivo partilhado, termina a sessão.

2. As instruções escondidas em páginas, documentos e e-mails

Em palavras simples. Um conteúdo que pedes ao assistente para ler contém, escondidas, frases dirigidas a ele e não a ti.

Como funciona. É a técnica chamada prompt injection indireta. Quando pedes para resumir uma página, analisar um documento ou responder a um e-mail, o assistente lê esse texto juntamente com o teu pedido. Se o texto tiver instruções, por vezes escritas de forma invisível a olho nu, o modelo pode tratá-las como pedidos. Se o assistente estiver ligado ao teu e-mail ou aos teus ficheiros, uma instrução escondida pode tentar fazê-lo procurar informações, enviá-las para fora ou guardar uma falsa memória. Os fornecedores introduzem defesas, mas o NCSC avisa que o problema não tem uma solução completa.

Porque é que as definições o favorecem. Um assistente que só lê o que tu escreves pode, no máximo, responder mal. Um assistente ligado ao e-mail e aos ficheiros, com permissão para enviar ou alterar, pode fazer algo concreto.

Impactos possíveis. Mensagens enviadas sem o saberes; dados copiados para fora dos serviços ligados; memória alterada com pormenores falsos.

Sinais de atenção. Uma ação no e-mail, no calendário ou nos ficheiros que não pediste; uma resposta que muda de assunto ou te empurra para uma ligação; uma memória nova que não reconheces, surgida depois de lhe pedires para ler um conteúdo externo.

Como te proteger. Liga só as aplicações que usas, com as permissões mínimas: leitura em vez de envio, quando chega. Quando o assistente propuser uma ação, lê-a antes de a confirmares. Pede-lhe com mais prudência que leia conteúdos de origem desconhecida, sobretudo quando as aplicações estão ligadas.

3. As ligações partilhadas tornadas públicas

Em palavras simples. Uma conversa partilhada com uma ligação acaba diante de pessoas a quem não se destinava.

Como funciona. Muitos serviços permitem criar uma ligação para uma conversa, para a mostrar a alguém. Qualquer pessoa que tenha a ligação pode lê-la. Se a ligação for reencaminhada, publicada num grupo ou num fórum, quem a encontrar lê tudo o que a conversa continha, incluindo documentos e pormenores pessoais. Quem procura informações para uma burla sabe que estas páginas podem conter muitas.

Porque é que as definições o favorecem. As ligações ficam muitas vezes ativas até as revogares, mesmo quando já te esqueceste de as ter criado.

Impactos possíveis. Moradas, números de telefone e dados de outras pessoas expostos; burlas construídas sobre factos verdadeiros da tua vida.

Sinais de atenção. Alguém te diz que leu uma conversa tua; recebes mensagens que citam pormenores que só estavam numa conversa.

Como te proteger. Para mostrares um texto, copia a parte necessária em vez de partilhares a conversa inteira. Revê a lista das ligações ativas, se o serviço a mostrar, e revoga as que não servem.

4. As aplicações e extensões falsas que recolhem as conversas

Em palavras simples. Uma aplicação ou uma extensão do navegador apresenta-se como útil para a IA, mas recolhe as tuas conversas.

Como funciona. Uma extensão é um pequeno programa que acrescenta funções ao navegador. Algumas pedem permissão para ler todas as páginas que visitas: com essa permissão, podem ler também as páginas das conversas. Outras aplicações imitam o nome ou o aspeto de um assistente conhecido para serem instaladas e pedirem acesso à conta. Em ambos os casos, as conversas podem sair para quem criou o programa.

Porque é que as definições o favorecem. Quanto mais conversas ficam no histórico, mais há para recolher quando as páginas são abertas.

Impactos possíveis. Conversas, documentos e memórias copiados por terceiros; credenciais da conta roubadas.

Sinais de atenção. Uma extensão que pede permissão para ler e alterar os dados de todos os sites que visitas; uma aplicação com um nome parecido com o de um serviço conhecido, mas de outro programador; um pedido de acesso à conta vindo de um programa de que não te lembras.

Como te proteger. Instala aplicações e extensões só de fontes oficiais e verifica o programador, como explica a recomendação para verificar a autenticidade de uma aplicação. Remove as extensões que não usas.

5. As fugas de dados do fornecedor

Em palavras simples. Um problema nos sistemas do serviço torna visíveis dados que deviam continuar privados.

Como funciona. Como qualquer serviço online, também um assistente de IA pode sofrer um erro técnico ou uma intrusão. A autoridade italiana de proteção de dados (Garante per la protezione dei dati personali), num comunicado de 31/03/2023, referiu que um serviço de IA muito difundido tinha sofrido, a 20 de março, uma perda de dados relativa às conversas dos utilizadores e às informações de pagamento dos assinantes.

Porque é que as definições o favorecem. Não podes impedir um incidente do fornecedor. Podes, porém, decidir quanto há para expor: um histórico curto e uma memória essencial reduzem o que um incidente pode atingir.

Impactos possíveis. Títulos ou conteúdos de conversas visíveis para outros; dados da conta expostos.

Sinais de atenção. Uma comunicação do serviço sobre um incidente de segurança; notícias de fontes oficiais.

Como te proteger. Guarda o histórico durante o tempo que te é útil, não carregues documentos inteiros com dados de identificação quando chega um excerto e, depois de um incidente comunicado, muda a palavra-passe seguindo as indicações do serviço.

6. Os conectores com permissões a mais

Em palavras simples. Uma aplicação ligada pode fazer mais do que precisas, e esse excesso fica à disposição de quem conseguir guiar o assistente.

Como funciona. Um conector é a ligação entre o assistente e outro serviço. Se concedes leitura, alteração e envio quando só precisavas de ler, cada erro, cada instrução escondida e cada acesso não autorizado à conta tem à disposição todas essas permissões. O NCSC retoma um princípio útil também para quem usa estas ferramentas: quando um modelo trata conteúdos de outra pessoa, não deveria ter mais poderes do que essa pessoa.

Porque é que as definições o favorecem. As ligações ficam ativas até as retirares, mesmo as que foram feitas para uma experiência.

Impactos possíveis. E-mails enviados, compromissos alterados, ficheiros partilhados ou lidos sem que saibas; dados que acabam no outro serviço e seguem as regras dele.

Sinais de atenção. Aplicações ligadas de que não te lembras; permissões de envio ou alteração que não usas; ações que não pediste.

Como te proteger. Revê a lista das aplicações ligadas, desliga as que não usas e reduz as permissões das outras. A lógica é a mesma da recomendação para verificar as permissões das aplicações no telemóvel.

Tabela-resumo

TécnicaRisco principalSinais de atençãoDefesas eficazes
Roubo da contaConversas e memória lidas por estranhosAcessos desconhecidos, memórias novasPalavra-passe única, autenticação de dois fatores, histórico curto
Instruções escondidas (prompt injection)Ações em teu nome, memória alteradaAções não pedidas, respostas que mudam de assuntoPermissões mínimas, confirmação das ações, prudência com conteúdos externos
Ligações partilhadas tornadas públicasConversas lidas por qualquer pessoaContactos que citam as tuas conversasCopiar o texto, revogar as ligações
Aplicações e extensões falsasConversas recolhidas por terceirosPermissões amplas, programadores desconhecidosFontes oficiais, extensões removidas
Fugas de dados do fornecedorDados expostos por um incidenteComunicações do serviçoHistórico curto, documentos reduzidos, palavra-passe mudada
Conectores com permissões a maisMais poderes do que o necessárioAplicações esquecidas, permissões de envioDesligar, reduzir as permissões

A prompt injection nos assistentes de IA e os outros ataques: o que têm em comum

Seis técnicas diferentes, três defesas que valem para quase todas:

  • Menos arquivo — um histórico com a duração que escolhes e uma memória relida reduzem o que qualquer pessoa pode ler ou usar.
  • Menos poderes — poucas aplicações ligadas, com as permissões mínimas, limitam o que uma instrução errada pode fazer.
  • Uma conta protegida — uma palavra-passe única e a autenticação de dois fatores mantêm de fora quem não deveria entrar.

Não são medidas avançadas: são definições que se verificam em poucos minutos.

Lista de proteção

  • ☐ A conta do assistente tem uma palavra-passe única e a autenticação de dois fatores
  • ☐ O histórico tem uma duração escolhida por mim
  • ☐ Reli a memória e apaguei o que não reconheço
  • ☐ As aplicações ligadas são só as que uso, com as permissões mínimas
  • ☐ Leio as ações propostas pelo assistente antes de as confirmar
  • ☐ Não tenho ligações partilhadas ativas de que não preciso
  • ☐ Só tenho extensões e aplicações de fontes oficiais

Ligação ao Framework Cyber Welfare

PilarContributo deste conteúdo
ConsciênciaPerceber que um assistente lê tudo o que lhe dás a ler, e que um conteúdo externo pode conter instruções
CompetênciasReconhecer as técnicas, do roubo da conta à prompt injection e aos conectores com permissões a mais
Comportamento SeguroManter pouco arquivo, poucos poderes e uma conta protegida, e só confirmar as ações depois de as ler

Nível de referência: FL3 – Autónomo, com elementos de FL2 – Inicial nas partes sobre o histórico, a memória e a proteção da conta.

Conclusão

As técnicas aqui descritas não exigem entrar no teu telemóvel. Apoiam-se no que o assistente já tem, um arquivo de conversas e uma memória, e no que já pode fazer, através das aplicações ligadas.

Por isso a defesa mais eficaz não é abdicar do assistente, mas escolher: menos arquivo, menos poderes, uma conta protegida. Para perceberes se o teu assistente já guarda mais do que pensas, o passo seguinte são os sinais de que a IA se lembra demasiado de ti; para uma visão mais ampla dos teus hábitos digitais, podes começar pela Autoavaliação de Resiliência Digital.

Pergunta para pensar. Se uma página web pudesse pedir alguma coisa ao teu assistente, o que é que conseguiria fazer hoje com as aplicações que ligaste?

Recursos relacionados

Para quem quer parar num aspeto só:

Conteúdos relacionados

Dá o primeiro passo: o Programa «Protege a Tua Privacidade Digital» acompanha-te gratuitamente, uma recomendação de cada vez.