Cyber Welfare

Proteggi la tua privacy digitale

Rischi per la privacy dei chatbot: che cosa si espone quando l’assistente conserva, ricorda e collega

Quando si parla di intelligenza artificiale e privacy, l’attenzione va quasi sempre al momento in cui scrivi: questa informazione posso darla? È una domanda giusta. Ma c’è una parte della storia che comincia dopo l’invio. La conversazione resta nella cronologia, un dettaglio finisce nella memoria dell’assistente, un documento caricato rimane allegato alla chat, un’app collegata continua a dare accesso alla tua posta.

Questo post spiega i rischi per la privacy dei chatbot guardando ai tre aspetti su cui si misura la sicurezza di qualsiasi informazione: che resti riservata, che resti corretta, che resti disponibile. Sono la traduzione pratica di tre parole tecniche, confidenzialità, integrità e disponibilità, e servono a capire che i rischi non sono di un tipo solo.

La domanda utile, quindi, non è soltanto “posso scrivere questo?”, ma: che cosa comporta il fatto che il mio assistente conservi, ricordi e raggiunga ciò che gli ho dato?

È l’approfondimento della raccomandazione su come controllare le impostazioni dei dati dell’assistente IA. Che cosa conviene scrivere, e che cosa no, è invece il tema della risorsa su cosa non condividere con i chatbot.

Tre domande per misurare un impatto

Davanti alle impostazioni di un assistente, le domande giuste sono queste:

  • Chi può leggere ciò che ho scritto, caricato o lasciato ricordare, e per quanto tempo? — è la domanda sulla confidenzialità.
  • Ciò che l’assistente sa di me è corretto, e lo usa come penso? — è la domanda sull’integrità.
  • Che cosa perderei, o smetterei di poter fare, se l’account o le chat non fossero più accessibili? — è la domanda sulla disponibilità.

Non servono competenze tecniche per rispondere: bastano le impostazioni del servizio aperte davanti a te e qualche minuto di attenzione. Applicate a un assistente usato per qualche ricetta, producono risposte modeste. Applicate a un assistente collegato alla posta, con una memoria piena e due anni di cronologia, la risposta cambia molto. Il criterio è questo: una conversazione pesa poco se resta una risposta, e molto se diventa archivio, ricordo o accesso ad altri servizi.

1. Confidenzialità: ciò che scrivi resta tuo

La confidenzialità è la garanzia che un’informazione sia leggibile solo da chi è autorizzato. In un assistente IA le informazioni stanno in quattro posti diversi: le chat nella cronologia, i dettagli nella memoria, i documenti caricati e i dati raggiunti attraverso le app collegate. Ognuno ha le sue regole, e un controllo fatto su uno non vale per gli altri. A questi si aggiunge un quinto posto, spesso dimenticato: i link condivisi, cioè gli indirizzi che molti servizi creano quando vuoi mostrare una conversazione a qualcuno. Chiunque abbia il link può leggerla, e un link inoltrato o pubblicato in un forum viaggia ben oltre la persona a cui l’avevi mandato.

Esempio pratico

Sara usa un assistente per riordinare le spese di casa, preparare un colloquio di lavoro e riscrivere una lettera al vicino per una questione di parcheggio. Nessuna di queste conversazioni è segreta. Messe in fila nella cronologia, però, raccontano quanto guadagna, che sta cercando un altro lavoro e con chi ha un disaccordo.

Scenario di incidente

Per avere un consiglio sul contratto d’affitto, Sara carica la scansione del contratto intero, con il suo indirizzo, il numero di un documento d’identità e la firma. Mesi dopo presta il portatile, con l’assistente aperto, a un’amica per una ricerca veloce. L’amica non ha cattive intenzioni, ma scorrendo la cronologia vede il titolo “Contratto via…”, lo apre, e il documento è lì. Su alcuni servizi, inoltre, una parte delle conversazioni può essere esaminata da revisori umani per controllare la qualità: la documentazione di uno dei principali fornitori lo dice in modo esplicito.

Segnali di attenzione

  • la cronologia contiene chat di mesi o anni fa che non riapri mai;
  • hai caricato documenti interi quando bastava un estratto;
  • l’assistente è aperto su un dispositivo che condividi o presti;
  • non sai se una parte delle chat può essere letta da revisori;
  • hai condiviso il link di una conversazione e non ricordi con chi.

Comportamento consigliato

Decidi quanto tenere la cronologia ed elimina le chat che non servono. Quando carichi un documento, chiediti se basta una parte: la raccomandazione su come condividere un documento con solo ciò che serve spiega il principio. Per le domande delicate usa la chat temporanea, se c’è.

2. Integrità: ciò che l’assistente sa di te è corretto

L’integrità è la garanzia che un’informazione sia esatta e non alterata. Qui il punto è la memoria: la funzione, presente su molti servizi, con cui l’assistente conserva dettagli su di te da una conversazione all’altra. È comoda, perché ti evita di ripeterti. Ma la memoria è un riassunto, e un riassunto può sbagliare.

Esempio pratico

Sara aveva chiesto un aiuto per un regalo destinato a un collega che fa l’istruttore di equitazione. Settimane dopo, l’assistente comincia a darle consigli “visto che lavori con i cavalli”. Ha scambiato un dettaglio del collega per un dato su di lei, e lo usa in ogni risposta.

Scenario di incidente

Sara chiede all’assistente di riassumere una pagina web trovata in un forum. La pagina contiene, nascosta nel testo, una frase rivolta all’assistente che gli chiede di ricordare una falsa preferenza di chi lo usa. Su un servizio che aggiorna la memoria da solo, un’istruzione così può finire tra i ricordi e influenzare le risposte successive. È una forma di prompt injection, cioè un’istruzione nascosta in un contenuto che l’assistente legge: il fenomeno è descritto nel post sulla prompt injection negli assistenti IA.

Segnali di attenzione

  • l’assistente cita dettagli su di te che non ricordi di avergli dato;
  • una risposta parte da un’informazione sbagliata e la ripete;
  • nella memoria trovi righe che non riconosci;
  • l’assistente ha letto pagine o documenti di altri prima di aggiornare i ricordi.

Comportamento consigliato

Rileggi la memoria con regolarità, correggi ciò che è sbagliato e cancella ciò che non vuoi resti. Se il servizio lo permette, scegli di confermare tu i ricordi nuovi. I segnali da osservare sono raccolti nel post sui segnali che l’IA ricorda troppo di te.

3. Disponibilità: le tue conversazioni ci sono quando ti servono

La disponibilità è la garanzia di poter usare i tuoi dati e i tuoi servizi quando ne hai bisogno. Con un assistente IA la si perde in modi meno evidenti, ma concreti: un account bloccato, una cancellazione automatica che non ricordavi, un’app collegata che smette di funzionare.

Esempio pratico

Sara ha costruito, in una lunga conversazione, il piano di un trasloco: date, preventivi, elenco delle cose da fare. Non ne ha una copia altrove. Quando il servizio applica il periodo di cancellazione automatica impostato fin dall’inizio, che non ricordava più, la conversazione sparisce.

Scenario di incidente

L’account di Sara viene usato da qualcuno che ha indovinato la sua password, riutilizzata da un vecchio servizio. Chi è entrato legge le chat, cambia la password e la esclude. Per giorni Sara non può accedere né alla cronologia né alle app collegate, e deve chiedere al servizio di recuperare l’account. Nel frattempo chi è entrato vede anche ciò che l’assistente ricorda di lei.

Segnali di attenzione

  • non hai mai esportato una copia delle conversazioni che ti servono davvero;
  • non sai quale periodo di cancellazione automatica è attivo;
  • l’account dell’assistente ha una password usata anche altrove o nessuna verifica in due passaggi;
  • un’app collegata smette di funzionare senza spiegazione.

Comportamento consigliato

Conserva altrove ciò che ti serve davvero, invece di affidarlo solo alla cronologia: molti servizi permettono di esportare una copia dei tuoi dati, che però va custodita con la stessa cura di un documento importante, perché contiene tutto ciò che hai scritto. Proteggi l’account con una password unica e la verifica in due passaggi. Controlla le app collegate e scollega quelle che non usi.

Uno scenario che li mette insieme

Sara collega l’assistente alla posta per farsi preparare le risposte. Un giorno arriva un’email da uno sconosciuto con un testo invisibile all’occhio che chiede all’assistente di inoltrare i messaggi recenti a un indirizzo esterno. Quando Sara chiede il riassunto della posta, l’assistente legge anche quelle istruzioni. Se il servizio non le blocca e l’app collegata ha il permesso di inviare, alcuni messaggi possono partire (confidenzialità). Nella memoria resta un dettaglio falso inserito dallo stesso testo (integrità). Quando Sara se ne accorge, scollega l’app in fretta e perde per qualche giorno le bozze automatiche su cui contava (disponibilità).

Nessuno dei tre effetti è inevitabile. Ma partono tutti dalla stessa causa: un’app collegata con più permessi del necessario, una memoria che nessuno rilegge e un contenuto esterno trattato come un’istruzione.

Gli impatti che si vedono più tardi

Alcuni effetti non si vedono subito:

  • l’archivio che cresce — mesi di conversazioni, rilette tutte insieme, raccontano lavoro, spostamenti e persone meglio di quanto ricordi;
  • la memoria che sopravvive — su almeno uno dei principali servizi, secondo la documentazione, eliminare una chat non elimina necessariamente ciò che l’assistente ne ha ricordato;
  • l’addestramento che non torna indietro — su molti servizi disattivarlo vale per le chat future: ciò che è già stato usato resta lì;
  • i link condivisi che restano attivi — una conversazione mostrata a un amico mesi fa può essere ancora leggibile da chiunque abbia quell’indirizzo, finché non togli il link dalle impostazioni;
  • le app collegate dimenticate — un collegamento fatto per una prova continua a dare accesso finché non lo togli, e i dati condivisi con l’altro servizio seguono anche le sue regole.

Non tutti i dati pesano uguale

La tabella descrive il peso tipico di ciò che un assistente può tenere. Non è una regola rigida: dipende da come lo usi.

Che cosa conserva l’assistentePesoPerché
Domande generiche (ricette, definizioni)BassoDicono poco di te
Bozze di lavoro senza nomiBasso-medioPossono rivelare progetti, ma non persone
Cronologia di mesi su temi personaliMedioMesse insieme, le chat descrivono la tua vita
Memoria con dettagli su di te e su altriMedio-altoViaggia da una chat all’altra e può essere sbagliata
Documenti caricati interiAltoContengono spesso dati di identità, indirizzi, firme
App collegate a posta, calendario o fileAltoDanno accesso a molto più di ciò che scrivi
Account senza verifica in due passaggiAltoChi entra trova tutto il resto già in ordine

Perché anche un uso “leggero” conta

Usare poco l’assistente riduce molto il rischio, ma non lo toglie, perché il valore di ciò che conserva dipende anche da come funzionano le impostazioni.

SituazionePerché resta rilevante
Poche chat, ma memoria attiva da mesiI ricordi possono restare anche quando le chat sono state eliminate
Addestramento disattivato da pocoVale in avanti: le conversazioni precedenti non tornano indietro
Chat temporanee per le domande delicateRestano fuori dalla cronologia, ma il servizio può conservarle per un breve periodo
Una sola app collegata, con permesso di invioUn solo collegamento può bastare a far partire messaggi a tuo nome
Un solo link condiviso, mesi faChi lo ha ricevuto può averlo inoltrato, e la conversazione resta leggibile finché il link è attivo

Il criterio resta lo stesso: l’assistente deve conservare, ricordare e raggiungere solo ciò che hai deciso tu. Gli effetti concreti, su tempo, denaro e relazioni, sono raccontati nel post sulle conseguenze di ciò che condividi con l’IA.

Collegamento al Framework Cyber Welfare

PilastroContributo di questo contenuto
ConsapevolezzaRiconoscere che chat, memoria, documenti e app collegate sono quattro luoghi diversi in cui restano i tuoi dati
CompetenzeSaper leggere confidenzialità, integrità e disponibilità come tre domande da fare guardando le impostazioni di un assistente
Comportamento SicuroRileggere la memoria, limitare la cronologia e collegare solo le app che servono

Livello di riferimento: FL2 — Iniziato. È il livello in cui si passa dal “l’assistente ricorda, che comodo” al “capisco che cosa conserva e decido io”. La consapevolezza degli impatti è ciò che rende stabile l’abitudine nel tempo. Per capire a che punto sei sulle altre abitudini digitali, puoi fare l’autovalutazione della resilienza digitale.

  • La confidenzialità riguarda chi può leggere ciò che hai scritto, caricato o lasciato ricordare: cronologia, memoria, documenti, app collegate.
  • L’integrità riguarda l’esattezza di ciò che l’assistente sa di te: una memoria sbagliata, o alterata da un contenuto esterno, cambia le risposte.
  • La disponibilità riguarda l’accesso alle tue conversazioni e ai servizi collegati: un account violato, una cancellazione automatica o un’app scollegata in fretta possono togliertelo.

Un assistente mai controllato non produce un impatto solo: apre la possibilità di tutti e tre, soprattutto quando è collegato ad altri servizi.

Azione concreta da fare oggi. Apri la memoria dell’assistente che usi di più, se il servizio la mostra, e leggila. Segna le righe che non riconosci o che riguardano altre persone: sono le prime da cancellare. Sono cinque minuti, e ti mostrano con i tuoi occhi che cosa porta con sé da una conversazione all’altra.

Contenuti collegati

Risorse correlate

Approfondimenti brevi della sezione Risorse, per chi vuole fermarsi su un singolo aspetto:

Inizia dal primo passo: il Programma “Proteggi la Tua Privacy Digitale” ti accompagna gratuitamente, una raccomandazione alla volta.