CYBER WELFARE

Proteja a sua privacidade digital

Sinais de que a IA se lembra demasiado de ti: como dar por isso e o que significam

A memória de um assistente de inteligência artificial trabalha em silêncio. Recolhe um pormenor numa conversa, reutiliza-o noutra, e normalmente não o anuncia. Quando te evita repetires quem és e que trabalho fazes, é exatamente o que queres. Quando leva para uma resposta algo que não te lembras de ter dito, vale a pena dar por isso: é a forma mais simples de perceberes se as definições estão a decidir por ti.

Este artigo reúne os sinais de que a IA se lembra demasiado de ti: alguns encontras nas definições, outros notas nas respostas. Nenhum destes sinais, sozinho, quer dizer que alguma coisa correu mal. Juntos, dizem-te se é altura de arrumar.

É o lado de diagnóstico da recomendação para verificar as definições de dados do assistente de IA. As formas como conversas, memórias e aplicações ligadas podem ser visadas por outros estão explicadas no artigo sobre a prompt injection nos assistentes de IA.

Nota de variante: este texto está em português europeu. Onde se lê definições, no Brasil diz-se configurações; palavra-passe é senha e telemóvel é celular.

Sinais de que a IA se lembra demasiado de ti: o que são

Em segurança informática fala-se de indicadores: vestígios que sugerem que uma situação merece atenção. No caso de um assistente de IA, os indicadores são de dois tipos:

  • técnicos, ou seja, informações que o serviço mostra nas definições: a memória, o histórico, as aplicações ligadas, as ligações partilhadas, os dispositivos associados à conta;
  • observáveis, ou seja, comportamentos que notas enquanto usas o assistente: uma resposta que sabe demais, um pormenor errado que volta, uma ação que não pediste.

Um indicador não é uma prova. É um convite a olhar melhor.

Vale uma regra já usada noutros contextos: um sinal fraco, sozinho, não é uma prova; um sinal forte, ou dois juntos, merecem uma intervenção. Uma resposta que se lembra do teu trabalho é um sinal fraco. Uma linha da memória que não reconheces, juntamente com uma aplicação ligada de que não te lembras, já é uma boa razão para parar e verificar.

Porque é que contam mais se usas o assistente para muitas coisas

Quem usa um assistente para uma ou outra pergunta ocasional deixa poucos vestígios. Quem o usa todos os dias, para o trabalho, o estudo e a vida privada, com a memória ativa e algumas aplicações ligadas, acumula em poucos meses um perfil pormenorizado: projetos, pessoas, hábitos, lugares. Quanto mais áreas se misturam na mesma conta, mais provável é que um pormenor nascido num contexto reapareça noutro.

Há depois uma diferença entre serviços. Em alguns, a memória atualiza-se sozinha, recolhendo o que parece útil; noutros, só guarda o que lhe pedes para recordar. Saber como funciona o teu é a primeira verificação.

Conta também a forma como usas os dispositivos. Um assistente aberto no tablet de casa, no computador do escritório ou no telemóvel que emprestas a um amigo mostra o teu histórico e responde com a tua memória a quem quer que o use. Muitos sinais nascem precisamente aí: outra pessoa vê uma resposta que fala de ti, e conta-te.

Indicadores técnicos

IndicadorOnde se vêO que pode significarQuanto pesaO que fazer
Memória com muitas linhas que não te lembras de ter dadoNas definições, opções como memória ou personalizaçãoO assistente guarda sozinho pormenores das conversasMédioRelê e apaga o que não queres que fique
Linhas da memória sobre outras pessoasLista das memóriasPormenores de familiares, colegas ou amigos passaram a ser «teus»Médio-altoApaga-as
Linhas que não reconheces de todoLista das memóriasUm erro de resumo, ou uma instrução vinda de um conteúdo externoAltoApaga-as e verifica as aplicações ligadas e os acessos
Histórico longo, sem apagamento automáticoNas definições, opções como histórico ou atividadeAs conversas ficam até as eliminaresBaixo-médioEscolhe uma duração
Aplicações ligadas de que não te lembrasNas definições, opções como aplicações ligadas ou conectoresUma ligação de experiência ainda ativaAltoDesliga-as
Ligações partilhadas ainda ativasLista das ligações, onde o serviço a mostraConversas legíveis por quem tiver a ligaçãoAltoRevoga-as
Dispositivos ou sessões desconhecidosDefinições da contaAlguém pode estar a aceder à tua contaAltoTermina as sessões e muda a palavra-passe

Sinais que podes observar sozinho

SinalQuando o notasO que pode significarQuanto pesaO que fazer
Uma resposta cita um pormenor que não escreveste nessa conversaNuma conversa novaA memória, ou a referência às conversas passadas, está ativaBaixo-médioVerifica a memória
Um pormenor errado volta em várias respostasAo longo do tempoFoi guardada uma memória erradaMédioCorrige-a ou apaga-a
O assistente junta trabalho e vida privadaNuma resposta de trabalhoUma só conta reúne áreas diferentesMédioSepara os usos ou revê a memória
Propõe-te continuar um tema sensível que tinhas encerradoAo abrirO serviço reutiliza o histórico para sugerirMédioElimina a conversa e as memórias associadas
Uma ação no e-mail ou no calendário que não pedisteDepois de lhe pedires para ler uma página ou um documentoUm conteúdo externo pode ter dado instruções ao assistenteAltoDesliga a aplicação e verifica o que foi feito
Alguém te diz que leu uma conversa tuaAtravés de um contactoUma ligação partilhada circulouAltoRevoga a ligação
Quem usa o teu dispositivo vê respostas personalizadas sobre tiNum dispositivo partilhadoA conta e a memória são as mesmas para todosMédioUsem contas separadas ou a conversa temporária

Sinais noutros dispositivos e noutros programas

O assistente não vive só na sua aplicação. Muitas vezes está dentro do navegador, do teclado do telemóvel, de um programa de escrita ou de um serviço de e-mail. Alguns sinais são típicos destas situações:

  • um assistente integrado noutro programa responde com pormenores que deste noutro sítio: a mesma conta pode ligar vários serviços;
  • uma função de IA ficou ativa depois de uma atualização: as definições de dados também devem ser verificadas aí;
  • no computador de casa o assistente já está aberto com a tua conta: quem o usar vê o teu histórico;
  • uma extensão do navegador pede para ler todas as páginas que visitas para «melhorar a IA»: é uma permissão ampla, que convém avaliar com calma.

Em todos estes casos a verificação é a mesma: abrir as definições de dados e perguntar, para cada função, se corresponde a uma escolha tua.

Um exemplo concreto

O Miguel tem 26 anos e usa um assistente para tudo: o currículo, as receitas, o ginásio, as perguntas para um exame de inglês. Uma noite pede uma ideia para um jantar com amigos e a resposta começa assim: «Já que andas à procura de trabalho em Braga e acabaste há pouco com a Inês, porque não…». É tudo verdade. Mas o Miguel nunca escreveu essas duas coisas na mesma conversa, e não pensava que o assistente as tivesse juntado.

Abre a memória e encontra trinta e duas linhas. Algumas úteis, como o seu nível de inglês. Outras não: o nome da ex-namorada, o bairro onde vive, o facto de andar à procura de casa, e uma linha errada segundo a qual tem «dois filhos». Vê também as aplicações ligadas: está lá o calendário, ligado para uma experiência meses antes.

O Miguel apaga as linhas sobre a ex-namorada, sobre a casa e a errada, e mantém as do trabalho. Desliga o calendário. Depois decide usar a conversa temporária para as coisas pessoais.

Não aconteceu nada de grave. Mas o sinal estava lá: uma resposta que sabia mais do que o Miguel tinha decidido dizer.

Na semana seguinte, o Miguel volta a verificar. Na memória há duas linhas novas, ambas sobre o trabalho, e ambas corretas: deixa-as ficar. Repara que o serviço lhe permite ver quando uma memória é acrescentada, e decide dar uma vista de olhos sempre que fala de algo pessoal. Desde então, a verificação demora-lhe um minuto.

O que verificar já

Se um dos sinais das tabelas te parece familiar, estas são as verificações a fazer primeiro, por esta ordem:

  1. Há aplicações ligadas ou ligações partilhadas que não reconheces? São as primeiras a retirar, porque abrem o acesso a outros.
  2. A conta está aberta em dispositivos que não conheces? Se sim, termina as sessões e muda a palavra-passe.
  3. O que está na memória? Relê-a e apaga os pormenores errados, os que dizem respeito a outros e os que não queres que fiquem.
  4. O histórico tem uma duração? Se não tiver, escolhe uma.
  5. O treino é uma escolha tua? Verifica a definição, sabendo que vale para as conversas futuras.
  6. Usas a mesma conta para o trabalho e a vida privada? Pondera separá-las.

A sequência completa para pôr tudo em ordem, da prevenção à recuperação, está no guia sobre como apagar conversas e memória da IA.

Se encontrares um sinal suspeito

Mantém a calma: na maior parte dos casos trata-se de uma memória mais ativa do que pensavas. Se, porém, o sinal disser respeito a uma ação no e-mail ou no calendário que não pediste, a uma memória que não reconheces de todo ou a um acesso a partir de um dispositivo desconhecido, convém:

  • desligar as aplicações ligadas e verificar o e-mail enviado e os compromissos alterados;
  • mudar a palavra-passe da conta, usar uma que não uses noutros sítios e ativar a autenticação de dois fatores;
  • apagar as memórias que não reconheces;
  • se a conta for do trabalho, avisar o serviço de informática da tua organização.

Nos dias seguintes, presta atenção a duas coisas: alertas de início de sessão a partir de locais ou dispositivos que não reconheces, e mensagens invulgares em teu nome assinaladas pelos teus contactos. Se não aparecer nada, é muito provável que não tenha havido consequências. Os sinais típicos de um serviço ligado que se comporta de forma estranha estão reunidos também no artigo sobre os sinais de aplicações ligadas suspeitas.

O que não é um indicador

Algumas situações parecem suspeitas mas, em regra, são normais:

  • o assistente lembra-se do teu nome ou da tua profissão: se lho disseste e a memória está ativa, é a função dela;
  • uma resposta retoma a conversa de há uma hora: em muitos serviços o assistente pode fazer referência às conversas recentes, se a opção estiver ativa;
  • a conversa temporária não aparece no histórico: é precisamente o que deve fazer, mesmo que o serviço a guarde durante um curto período;
  • depois de desativares o treino, as conversas continuam no histórico: em muitos serviços as duas definições são separadas;
  • uma sugestão baseada no que acabaste de escrever: dentro da mesma conversa o assistente usa tudo o que está acima, e é normal que o tenha em conta;
  • uma resposta genérica sobre a tua cidade: o assistente pode deduzir a zona a partir da ligação, sem que isso seja uma memória.

O critério para distinguir é sempre o mesmo: uma memória é normal quando foste tu a dá-la e sabes que lá está; é um sinal quando não a reconheces. Se tiveres uma dúvida, a escolha prudente não custa nada: abrir a memória e ver.

Com que frequência verificar

MomentoO que verificar
Quando uma resposta sabe mais do que esperavasA memória e o histórico recente
Quando ligas uma nova aplicaçãoAs permissões concedidas e as aplicações já ligadas
Uma vez por anoMemória, histórico, treino, aplicações ligadas e ligações partilhadas
Quando o serviço anuncia uma função novaAs definições de dados, que podem ter mudado

Dois avisos importantes

Primeiro aviso: nenhum sinal é definitivo. Um assistente pode lembrar-se de muito sem que ninguém tenha feito nada de mal, e pode comportar-se normalmente mesmo quando uma aplicação ligada tem permissões a mais. A verificação mais fiável continua a ser a mais simples: abrir as definições com regularidade.

Segundo aviso: os menus mudam. Os nomes das funções e os caminhos nas definições variam entre serviços e versões, e mudam muitas vezes com as atualizações. Se não encontrares uma opção, procura no guia oficial do serviço palavras como «memória», «personalização», «atividade» ou «aplicações ligadas». E se uma função nova aparecer depois de uma atualização, trata-a como um assistente novo: antes de a usares, vê o que guarda.

Ligação ao Framework Cyber Welfare

PilarContributo deste conteúdo
ConsciênciaReconhecer que uma resposta que «sabe demais» é um sinal, mesmo quando parece inofensiva
CompetênciasSaber ler a memória, a lista das aplicações ligadas, as ligações partilhadas e os dispositivos da conta
Comportamento SeguroParar diante de memórias desconhecidas ou ações não pedidas, e verificar as definições com regularidade

Nível de referência: FL2 – Inicial. É o nível em que se começa a reparar no que o assistente faz sozinho e a perguntar porquê. Para perceberes em que ponto estás nos outros hábitos digitais, podes fazer a Autoavaliação de Resiliência Digital.

Conclusão

O sinal mais comum é também o mais simples: uma resposta que sabe mais sobre ti do que te lembravas de ter dito. Na maior parte dos casos é a memória a fazer o seu trabalho. Às vezes é uma memória errada, uma aplicação ligada esquecida ou um conteúdo externo que deu instruções. Em todos os casos a resposta é a mesma: abrir as definições, ver e decidir.

Dar por isso é o primeiro passo. O segundo é fazer com que o assistente se lembre só do que tu decidiste.

Recursos relacionados

Para quem quer parar num aspeto só:

Conteúdos relacionados

Dá o primeiro passo: o Programa «Protege a Tua Privacidade Digital» acompanha-te gratuitamente, uma recomendação de cada vez.