CYBER WELFARE

Schützen Sie Ihre digitale Privatsphäre

Datenschutzrisiken von KI-Chatbots: was offenliegt, wenn der Assistent speichert, sich erinnert und verknüpft

Wenn von künstlicher Intelligenz und Privatsphäre die Rede ist, richtet sich der Blick fast immer auf den Moment des Schreibens: Darf ich diese Information weitergeben? Das ist eine berechtigte Frage. Aber ein Teil der Geschichte beginnt erst nach dem Absenden. Das Gespräch bleibt im Verlauf, eine Einzelheit landet im Gedächtnis des Assistenten, ein hochgeladenes Dokument bleibt am Chat hängen, eine verbundene App gewährt weiterhin Zugriff auf Ihr E-Mail-Postfach.

Dieser Beitrag erklärt die Datenschutzrisiken von KI-Chatbots anhand der drei Gesichtspunkte, an denen sich die Sicherheit jeder Information messen lässt: dass sie vertraulich bleibt, dass sie richtig bleibt, dass sie verfügbar bleibt. Das ist die praktische Übersetzung von drei Fachbegriffen – Vertraulichkeit, Integrität und Verfügbarkeit –, und sie helfen zu verstehen, dass die Risiken nicht nur von einer Art sind.

Die hilfreiche Frage lautet deshalb nicht nur: „Darf ich das schreiben?“, sondern: Was bedeutet es, dass mein Assistent speichert, sich merkt und erreicht, was ich ihm gegeben habe?

Er vertieft die Empfehlung, die Datenschutzeinstellungen des KI-Assistenten zu prüfen. Was Sie besser schreiben und was nicht, ist dagegen Thema der Ressource darüber, was Sie nicht in einen Chatbot eingeben sollten.

Drei Fragen, um die Datenschutzrisiken von KI-Chatbots zu messen

Vor den Einstellungen eines Assistenten sind dies die richtigen Fragen:

  • Wer kann lesen, was ich geschrieben, hochgeladen oder mir habe merken lassen, und wie lange? – das ist die Frage nach der Vertraulichkeit.
  • Ist das, was der Assistent über mich weiß, richtig, und nutzt er es so, wie ich denke? – das ist die Frage nach der Integrität.
  • Was würde ich verlieren oder nicht mehr tun können, wenn das Konto oder die Chats nicht mehr zugänglich wären? – das ist die Frage nach der Verfügbarkeit.

Um sie zu beantworten, braucht es keine technischen Kenntnisse: Es genügen die geöffneten Einstellungen des Dienstes und ein paar Minuten Aufmerksamkeit. Auf einen Assistenten angewandt, der für ein paar Rezepte genutzt wird, fallen die Antworten bescheiden aus. Auf einen Assistenten angewandt, der mit dem E-Mail-Postfach verbunden ist, ein volles Gedächtnis und zwei Jahre Verlauf hat, sieht die Antwort ganz anders aus. Der Maßstab lautet: Ein Gespräch wiegt wenig, wenn es eine Antwort bleibt, und viel, wenn es zu Archiv, Erinnerung oder Zugang zu anderen Diensten wird.

1. Vertraulichkeit: Was Sie schreiben, bleibt Ihres

Vertraulichkeit ist die Gewähr, dass eine Information nur für Berechtigte lesbar ist. In einem KI-Assistenten liegen Informationen an vier verschiedenen Stellen: die Chats im Verlauf, die Einzelheiten im Gedächtnis, die hochgeladenen Dokumente und die Daten, die über verbundene Apps erreicht werden. Jede Stelle hat ihre eigenen Regeln, und eine Prüfung an der einen gilt nicht für die anderen. Dazu kommt eine fünfte, oft vergessene Stelle: die geteilten Links, also die Adressen, die viele Dienste erzeugen, wenn Sie jemandem ein Gespräch zeigen möchten. Wer den Link hat, kann es lesen, und ein weitergeleiteter oder in einem Forum veröffentlichter Link reist weit über die Person hinaus, der Sie ihn geschickt haben.

Praxisbeispiel

Sara nutzt einen Assistenten, um die Haushaltsausgaben zu ordnen, ein Vorstellungsgespräch vorzubereiten und einen Brief an den Nachbarn wegen eines Parkplatzstreits umzuformulieren. Keines dieser Gespräche ist geheim. Hintereinander im Verlauf gelesen erzählen sie jedoch, wie viel sie verdient, dass sie eine andere Stelle sucht und mit wem sie uneins ist.

Vorfallszenario

Um einen Rat zu ihrem Mietvertrag zu bekommen, lädt Sara den Scan des gesamten Vertrags hoch, mit ihrer Adresse, der Nummer eines Ausweisdokuments und ihrer Unterschrift. Monate später leiht sie einer Freundin für eine schnelle Recherche den Laptop, auf dem der Assistent geöffnet ist. Die Freundin hat keine bösen Absichten, aber beim Scrollen durch den Verlauf sieht sie den Titel „Mietvertrag …straße“, öffnet ihn, und das Dokument ist da. Bei manchen Diensten kann außerdem ein Teil der Gespräche von menschlichen Prüferinnen und Prüfern zur Qualitätskontrolle gesichtet werden: Die Dokumentation eines der großen Anbieter sagt das ausdrücklich.

Warnsignale

  • der Verlauf enthält Chats von vor Monaten oder Jahren, die Sie nie wieder öffnen;
  • Sie haben ganze Dokumente hochgeladen, obwohl ein Auszug genügt hätte;
  • der Assistent ist auf einem Gerät geöffnet, das Sie teilen oder verleihen;
  • Sie wissen nicht, ob ein Teil der Chats von Prüfern gelesen werden kann;
  • Sie haben den Link zu einem Gespräch geteilt und wissen nicht mehr, mit wem.

Empfohlenes Verhalten

Entscheiden Sie, wie lange der Verlauf bleibt, und löschen Sie die Chats, die Sie nicht brauchen. Wenn Sie ein Dokument hochladen, fragen Sie sich, ob ein Teil genügt: Die Empfehlung, Dokumente nur mit dem Nötigsten zu teilen, erklärt den Grundsatz. Nutzen Sie für heikle Fragen den temporären Chat, falls es ihn gibt.

2. Integrität: Was der Assistent über Sie weiß, ist richtig

Integrität ist die Gewähr, dass eine Information genau und unverfälscht ist. Hier geht es um das Gedächtnis: die Funktion, die es auf vielen Diensten gibt und mit der der Assistent Einzelheiten über Sie von einem Gespräch zum nächsten aufbewahrt. Sie ist bequem, weil Sie sich nicht wiederholen müssen. Aber das Gedächtnis ist eine Zusammenfassung, und eine Zusammenfassung kann sich irren.

Praxisbeispiel

Sara hatte um Hilfe bei einem Geschenk für einen Kollegen gebeten, der Reitlehrer ist. Wochen später gibt ihr der Assistent Ratschläge, „da Sie mit Pferden arbeiten“. Er hat eine Einzelheit über den Kollegen für eine Angabe über sie gehalten und verwendet sie in jeder Antwort.

Vorfallszenario

Sara bittet den Assistenten, eine Webseite zusammenzufassen, die sie in einem Forum gefunden hat. Die Seite enthält, im Text versteckt, einen Satz an den Assistenten, der ihn auffordert, sich eine falsche Vorliebe der Person zu merken, die ihn benutzt. Bei einem Dienst, der das Gedächtnis selbstständig aktualisiert, kann eine solche Anweisung unter den Erinnerungen landen und spätere Antworten beeinflussen. Das ist eine Form der Prompt-Injection, also einer Anweisung, die in einem Inhalt versteckt ist, den der Assistent liest: Das Phänomen beschreibt der Beitrag über Prompt-Injection-Angriffe.

Warnsignale

  • der Assistent nennt Einzelheiten über Sie, an deren Weitergabe Sie sich nicht erinnern;
  • eine Antwort geht von einer falschen Information aus und wiederholt sie;
  • im Gedächtnis finden Sie Zeilen, die Sie nicht wiedererkennen;
  • der Assistent hat fremde Seiten oder Dokumente gelesen, bevor er die Erinnerungen aktualisiert hat.

Empfohlenes Verhalten

Lesen Sie das Gedächtnis regelmäßig, korrigieren Sie Falsches und löschen Sie, was nicht bleiben soll. Wenn der Dienst es erlaubt, bestätigen Sie neue Erinnerungen selbst. Die Signale, auf die Sie achten sollten, sind im Beitrag KI-Assistent merkt sich zu viel zusammengestellt.

3. Verfügbarkeit: Ihre Gespräche sind da, wenn Sie sie brauchen

Verfügbarkeit ist die Gewähr, Ihre Daten und Dienste nutzen zu können, wenn Sie sie brauchen. Bei einem KI-Assistenten geht sie auf weniger offensichtliche, aber konkrete Weise verloren: ein gesperrtes Konto, ein automatisches Löschen, an das Sie nicht mehr gedacht haben, eine verbundene App, die nicht mehr funktioniert.

Praxisbeispiel

Sara hat in einem langen Gespräch den Plan für einen Umzug ausgearbeitet: Termine, Kostenvoranschläge, eine Liste der Aufgaben. Eine Kopie davon hat sie nirgendwo sonst. Als der Dienst den Zeitraum für das automatische Löschen anwendet, der von Anfang an eingestellt war und den sie längst vergessen hatte, verschwindet das Gespräch.

Vorfallszenario

Saras Konto wird von jemandem benutzt, der ihr Passwort erraten hat – sie hatte es bei einem alten Dienst schon einmal verwendet. Der Eindringling liest die Chats, ändert das Passwort und sperrt sie aus. Tagelang kann Sara weder auf den Verlauf noch auf die verbundenen Apps zugreifen und muss den Dienst bitten, das Konto wiederherzustellen. In der Zwischenzeit sieht der Eindringling auch, was sich der Assistent über sie gemerkt hat.

Warnsignale

  • Sie haben nie eine Kopie der Gespräche exportiert, die Sie wirklich brauchen;
  • Sie wissen nicht, welcher Zeitraum für das automatische Löschen aktiv ist;
  • das Konto des Assistenten hat ein Passwort, das Sie auch anderswo nutzen, oder keine Bestätigung in zwei Schritten;
  • eine verbundene App funktioniert ohne Erklärung nicht mehr.

Empfohlenes Verhalten

Bewahren Sie, was Sie wirklich brauchen, an anderer Stelle auf, statt es nur dem Verlauf anzuvertrauen: Viele Dienste erlauben es, eine Kopie Ihrer Daten zu exportieren, die Sie allerdings so sorgfältig verwahren sollten wie ein wichtiges Dokument, denn sie enthält alles, was Sie geschrieben haben. Schützen Sie das Konto mit einem einmaligen Passwort und mit Zwei-Faktor-Authentifizierung (2FA). Prüfen Sie die verbundenen Apps und trennen Sie die, die Sie nicht nutzen.

Ein Szenario, das alles zusammenbringt

Sara verbindet den Assistenten mit ihrem E-Mail-Postfach, um sich Antworten vorbereiten zu lassen. Eines Tages kommt eine E-Mail von einem Unbekannten mit einem Text, der für das Auge unsichtbar ist und den Assistenten auffordert, die letzten Nachrichten an eine fremde Adresse weiterzuleiten. Als Sara um eine Zusammenfassung ihrer E-Mails bittet, liest der Assistent auch diese Anweisungen. Blockiert der Dienst sie nicht und hat die verbundene App die Berechtigung zu senden, können einige Nachrichten hinausgehen (Vertraulichkeit). Im Gedächtnis bleibt eine falsche Einzelheit zurück, die derselbe Text eingefügt hat (Integrität). Als Sara es bemerkt, trennt sie die App in Eile und verliert für einige Tage die automatischen Entwürfe, auf die sie sich verlassen hatte (Verfügbarkeit).

Keine der drei Auswirkungen ist unvermeidlich. Aber alle gehen auf dieselbe Ursache zurück: eine verbundene App mit mehr Berechtigungen als nötig, ein Gedächtnis, das niemand liest, und ein fremder Inhalt, der wie eine Anweisung behandelt wird.

Die Auswirkungen, die erst später sichtbar werden

Manche Auswirkungen zeigen sich nicht sofort:

  • das Archiv, das wächst – monatelange Gespräche, zusammen gelesen, erzählen von Arbeit, Wegen und Menschen besser, als Sie sich selbst erinnern;
  • das Gedächtnis, das überdauert – bei mindestens einem der großen Dienste löscht das Entfernen eines Chats laut Dokumentation nicht unbedingt, was sich der Assistent daraus gemerkt hat;
  • das Training, das sich nicht zurückdrehen lässt – auf vielen Diensten gilt das Abschalten für künftige Chats: Was bereits verwendet wurde, bleibt dort;
  • geteilte Links, die aktiv bleiben – ein Gespräch, das Sie vor Monaten einem Freund gezeigt haben, kann für jeden mit dieser Adresse noch lesbar sein, bis Sie den Link in den Einstellungen entfernen;
  • vergessene verbundene Apps – eine Verbindung aus einem Test gewährt weiterhin Zugriff, bis Sie sie trennen, und Daten, die mit dem anderen Dienst geteilt werden, unterliegen auch dessen Regeln.

Nicht alle Daten wiegen gleich viel

Die Tabelle beschreibt das typische Gewicht dessen, was ein Assistent behalten kann. Sie ist keine starre Regel: Es hängt davon ab, wie Sie ihn nutzen.

Was der Assistent aufbewahrtGewichtWarum
Allgemeine Fragen (Rezepte, Begriffe)GeringSie sagen wenig über Sie
Arbeitsentwürfe ohne NamenGering bis mittelSie können Vorhaben verraten, aber keine Menschen
Monatelanger Verlauf zu persönlichen ThemenMittelZusammen beschreiben die Chats Ihr Leben
Gedächtnis mit Einzelheiten über Sie und andereMittel bis hochEs wandert von Chat zu Chat und kann falsch sein
Vollständig hochgeladene DokumenteHochSie enthalten oft Identitätsdaten, Adressen, Unterschriften
Mit E-Mail, Kalender oder Dateien verbundene AppsHochSie öffnen den Zugang zu viel mehr als dem, was Sie schreiben
Konto ohne Bestätigung in zwei SchrittenHochWer hineingelangt, findet alles Übrige bereits geordnet vor

Warum auch eine „leichte“ Nutzung zählt

Einen Assistenten wenig zu nutzen verringert das Risiko stark, beseitigt es aber nicht, denn der Wert dessen, was er aufbewahrt, hängt auch davon ab, wie die Einstellungen funktionieren.

SituationWarum sie wichtig bleibt
Wenige Chats, aber seit Monaten aktives GedächtnisErinnerungen können bleiben, auch wenn die Chats gelöscht wurden
Training erst vor Kurzem abgeschaltetEs gilt für die Zukunft: Frühere Gespräche kommen nicht zurück
Temporäre Chats für heikle FragenSie bleiben außerhalb des Verlaufs, aber der Dienst kann sie für kurze Zeit aufbewahren
Nur eine verbundene App, mit Berechtigung zum SendenEine einzige Verbindung kann genügen, um Nachrichten in Ihrem Namen zu verschicken
Nur ein geteilter Link, vor MonatenWer ihn bekommen hat, kann ihn weitergeleitet haben, und das Gespräch bleibt lesbar, solange der Link aktiv ist

Der Maßstab bleibt derselbe: Der Assistent soll nur speichern, sich merken und erreichen, was Sie entschieden haben. Die konkreten Auswirkungen auf Zeit, Geld und Beziehungen erzählt der Beitrag über die Folgen der Datenweitergabe an die KI.

Bezug zum Framework Cyber Welfare

SäuleBeitrag dieses Inhalts
BewusstseinErkennen, dass Chats, Gedächtnis, Dokumente und verbundene Apps vier verschiedene Orte sind, an denen Ihre Daten bleiben – digitales Bewusstsein für das, was nach dem Absenden geschieht
KompetenzenVertraulichkeit, Integrität und Verfügbarkeit als drei Fragen lesen können, die Sie an die Einstellungen eines Assistenten stellen
Sicheres VerhaltenDas Gedächtnis lesen, den Verlauf begrenzen und nur die Apps verbinden, die gebraucht werden

Referenzstufe: FL2 – Einsteiger. Auf dieser Stufe kommen Sie vom „Der Assistent merkt sich etwas, wie praktisch“ zum „Ich verstehe, was er speichert, und entscheide selbst“. Das Bewusstsein für die Auswirkungen macht die Gewohnheit dauerhaft. Wenn Sie wissen möchten, wo Sie bei Ihren übrigen digitalen Gewohnheiten stehen, können Sie die Selbstbewertung der digitalen Resilienz machen.

Zusammenfassung

  • Die Vertraulichkeit betrifft die Frage, wer lesen kann, was Sie geschrieben, hochgeladen oder sich haben merken lassen: Verlauf, Gedächtnis, Dokumente, verbundene Apps.
  • Die Integrität betrifft die Genauigkeit dessen, was der Assistent über Sie weiß: Ein falsches oder durch fremde Inhalte verändertes Gedächtnis verändert die Antworten.
  • Die Verfügbarkeit betrifft den Zugang zu Ihren Gesprächen und den verbundenen Diensten: Ein gehacktes Konto, ein automatisches Löschen oder eine in Eile getrennte App können ihn Ihnen nehmen.

Ein nie geprüfter Assistent erzeugt nicht nur eine Auswirkung: Er öffnet die Möglichkeit für alle drei, vor allem wenn er mit anderen Diensten verbunden ist. Die Datenschutzrisiken von KI-Chatbots lassen sich aber mit wenigen Einstellungen deutlich verringern.

Empfohlener erster Schritt. Öffnen Sie das Gedächtnis des Assistenten, den Sie am meisten nutzen, wenn der Dienst es anzeigt, und lesen Sie es. Markieren Sie die Zeilen, die Sie nicht wiedererkennen oder die andere Menschen betreffen: Sie sind die ersten, die Sie löschen sollten. Das sind fünf Minuten, und sie zeigen Ihnen mit eigenen Augen, was er von einem Gespräch ins nächste mitnimmt.

Verwandte Inhalte

Verwandte Ressourcen

Kurze Beiträge aus dem Bereich Ressourcen, für alle, die bei einem einzelnen Aspekt verweilen möchten:

Machen Sie den ersten Schritt: Das Programm „Schützen Sie Ihre digitale Privatsphäre“ begleitet Sie kostenlos, eine Empfehlung nach der anderen.