CYBER WELFARE

Schützen Sie Ihre digitale Privatsphäre

KI-Assistent merkt sich zu viel? Die Anzeichen, wie Sie es bemerken und was sie bedeuten

Das Gedächtnis eines Assistenten mit künstlicher Intelligenz arbeitet leise. Es nimmt in einem Gespräch eine Einzelheit auf, verwendet sie in einem anderen wieder und kündigt das meist nicht an. Wenn es Ihnen erspart, immer wieder zu sagen, wer Sie sind und was Sie beruflich machen, ist das genau, was Sie möchten. Wenn es in einer Antwort etwas mitbringt, an das Sie sich nicht erinnern, es gesagt zu haben, lohnt es sich hinzusehen: Das ist der einfachste Weg zu erkennen, ob die Einstellungen an Ihrer Stelle entscheiden.

Ihr KI-Assistent merkt sich zu viel? Dieser Beitrag sammelt die Anzeichen dafür: Manche finden Sie in den Einstellungen, andere bemerken Sie in den Antworten. Keines dieser Anzeichen bedeutet für sich genommen, dass etwas schiefgegangen ist. Zusammen sagen sie Ihnen, ob es Zeit ist, aufzuräumen.

Er ist die diagnostische Seite der Empfehlung, die Datenschutzeinstellungen des KI-Assistenten zu prüfen. Wie Chats, Erinnerungen und verbundene Apps von anderen ins Visier genommen werden können, erklärt der Beitrag über Prompt-Injection-Angriffe.

Der KI-Assistent merkt sich zu viel? Was die Anzeichen sind

In der IT-Sicherheit ist von Indikatoren die Rede: Spuren, die darauf hindeuten, dass eine Situation Aufmerksamkeit verdient. Bei einem KI-Assistenten gibt es zwei Arten von Indikatoren:

  • technische, also Informationen, die der Dienst in den Einstellungen anzeigt: das Gedächtnis, den Verlauf, die verbundenen Apps, die geteilten Links, die mit dem Konto verbundenen Geräte;
  • beobachtbare, also Verhaltensweisen, die Ihnen bei der Nutzung auffallen: eine Antwort, die zu viel weiß, eine falsche Einzelheit, die wiederkehrt, eine Aktion, um die Sie nicht gebeten haben.

Ein Indikator ist kein Beweis. Er ist eine Einladung, genauer hinzusehen.

Es gilt eine Regel, die sich auch anderswo bewährt hat: Ein schwaches Anzeichen allein ist kein Beweis; ein starkes Anzeichen oder zwei zusammen verdienen ein Eingreifen. Eine Antwort, die sich an Ihren Beruf erinnert, ist ein schwaches Anzeichen. Eine Zeile im Gedächtnis, die Sie nicht wiedererkennen, zusammen mit einer verbundenen App, an die Sie sich nicht erinnern, ist schon ein guter Grund, innezuhalten und zu prüfen.

Warum sie mehr zählen, wenn Sie den Assistenten für vieles nutzen

Wer einem Assistenten gelegentlich eine Frage stellt, hinterlässt wenige Spuren. Wer ihn jeden Tag nutzt, für Arbeit, Studium und Privatleben, mit aktivem Gedächtnis und einigen verbundenen Apps, sammelt in wenigen Monaten ein detailliertes Profil an: Vorhaben, Menschen, Gewohnheiten, Orte. Je mehr Lebensbereiche sich im selben Konto mischen, desto wahrscheinlicher taucht eine Einzelheit, die in einem Zusammenhang entstanden ist, in einem anderen wieder auf.

Dazu kommt ein Unterschied zwischen den Diensten. Bei manchen aktualisiert sich das Gedächtnis selbstständig und sammelt, was nützlich erscheint; bei anderen speichert es nur, was Sie ausdrücklich merken lassen. Zu wissen, wie Ihr Dienst funktioniert, ist die erste Prüfung.

Auch die Art, wie Sie Geräte nutzen, spielt eine Rolle. Ein Assistent, der auf dem Tablet zu Hause, am Bürocomputer oder auf dem Smartphone geöffnet ist, das Sie einem Freund leihen, zeigt jedem, der ihn benutzt, Ihren Verlauf und antwortet mit Ihrem Gedächtnis. Viele Anzeichen entstehen genau dort: Jemand anderes sieht eine Antwort, die von Ihnen erzählt, und berichtet Ihnen davon.

Technische Indikatoren

IndikatorWo Sie ihn sehenWas er bedeuten kannGewichtWas zu tun ist
Gedächtnis mit vielen Zeilen, an deren Weitergabe Sie sich nicht erinnernIn den Einstellungen, Einträge wie Gedächtnis oder PersonalisierungDer Assistent speichert selbstständig Einzelheiten aus den GesprächenMittelLesen und löschen, was nicht bleiben soll
Zeilen im Gedächtnis über andere MenschenListe der ErinnerungenEinzelheiten über Angehörige, Kollegen oder Freunde sind zu „Ihren“ gewordenMittel bis hochLöschen
Zeilen, die Sie überhaupt nicht wiedererkennenListe der ErinnerungenEin Fehler beim Zusammenfassen oder eine Anweisung aus einem fremden InhaltHochLöschen und verbundene Apps sowie Anmeldungen prüfen
Langer Verlauf ohne automatisches LöschenIn den Einstellungen, Einträge wie Verlauf oder AktivitätDie Chats bleiben, bis Sie sie löschenGering bis mittelEine Dauer wählen
Verbundene Apps, an die Sie sich nicht erinnernIn den Einstellungen, Einträge wie verbundene Apps oder KonnektorenEine Testverbindung ist noch aktivHochTrennen
Geteilte Links, die noch aktiv sindListe der Links, wo der Dienst sie anzeigtGespräche, die jeder mit dem Link lesen kannHochWiderrufen
Unbekannte Geräte oder SitzungenKontoeinstellungenJemand könnte auf Ihr Konto zugreifenHochSitzungen beenden und Passwort ändern

Anzeichen, die Sie selbst beobachten können

AnzeichenWann es Ihnen auffälltWas es bedeuten kannGewichtWas zu tun ist
Eine Antwort nennt eine Einzelheit, die Sie in diesem Chat nicht geschrieben habenIn einem neuen GesprächDas Gedächtnis oder der Bezug auf frühere Chats ist aktivGering bis mittelDas Gedächtnis prüfen
Eine falsche Einzelheit kehrt in mehreren Antworten wiederMit der ZeitEine falsche Erinnerung wurde gespeichertMittelKorrigieren oder löschen
Der Assistent vermischt Arbeit und PrivatlebenIn einer beruflichen AntwortEin einziges Konto sammelt verschiedene LebensbereicheMittelDie Nutzungen trennen oder das Gedächtnis durchsehen
Er schlägt vor, ein heikles Thema fortzusetzen, das Sie abgeschlossen hattenBeim ÖffnenDer Dienst nutzt den Verlauf für VorschlägeMittelDen Chat und die zugehörigen Erinnerungen löschen
Eine Aktion in E-Mail oder Kalender, um die Sie nicht gebeten habenNachdem Sie eine Seite oder ein Dokument haben lesen lassenEin fremder Inhalt könnte dem Assistenten Anweisungen gegeben habenHochDie App trennen und prüfen, was getan wurde
Jemand sagt Ihnen, er habe ein Gespräch von Ihnen gelesenDurch einen KontaktEin geteilter Link ist im UmlaufHochDen Link widerrufen
Wer Ihr Gerät benutzt, sieht auf Sie zugeschnittene AntwortenAuf einem gemeinsam genutzten GerätKonto und Gedächtnis sind für alle dieselbenMittelGetrennte Konten oder den temporären Chat nutzen

Anzeichen auf anderen Geräten und in anderen Programmen

Der Assistent lebt nicht nur in seiner eigenen App. Oft steckt er im Browser, in der Tastatur des Smartphones, in einem Schreibprogramm oder in einem E-Mail-Dienst. Manche Anzeichen sind typisch für diese Situationen:

  • ein in ein anderes Programm eingebauter Assistent antwortet mit Einzelheiten, die Sie anderswo angegeben haben: Dasselbe Konto kann mehrere Dienste verbinden;
  • eine KI-Funktion hat sich nach einem Update eingeschaltet: Auch dort sollten Sie die Datenschutzeinstellungen prüfen;
  • auf dem Computer zu Hause ist der Assistent bereits mit Ihrem Konto geöffnet: Wer ihn benutzt, sieht Ihren Verlauf;
  • eine Browsererweiterung möchte alle Seiten lesen, die Sie besuchen, „um die KI zu verbessern“: Das ist eine weitreichende Berechtigung, die Sie in Ruhe abwägen sollten.

In all diesen Fällen ist die Prüfung dieselbe: die Datenschutzeinstellungen öffnen und sich bei jeder Funktion fragen, ob sie einer eigenen Entscheidung entspricht.

Ein konkretes Beispiel

Max ist 26 und nutzt einen Assistenten für alles: den Lebenslauf, Rezepte, das Fitnessstudio, Fragen für eine Englischprüfung. Eines Abends bittet er um eine Idee für ein Abendessen mit Freunden, und die Antwort beginnt so: „Da Sie eine Stelle in Köln suchen und sich gerade von Julia getrennt haben, warum nicht …“. Alles stimmt. Aber Max hat diese beiden Dinge nie im selben Gespräch geschrieben und hatte nicht gedacht, dass der Assistent sie zusammengeführt hat.

Er öffnet das Gedächtnis und findet zweiunddreißig Zeilen. Einige sind nützlich, etwa sein Englischniveau. Andere nicht: der Name der Ex-Freundin, das Viertel, in dem er wohnt, dass er eine Wohnung sucht, und eine falsche Zeile, nach der er „zwei Kinder“ habe. Er sieht sich auch die verbundenen Apps an: Dort ist der Kalender, vor Monaten zum Ausprobieren verbunden.

Max löscht die Zeilen über die Ex-Freundin, die Wohnung und die falsche, behält die zur Arbeit. Er trennt den Kalender. Dann beschließt er, für persönliche Dinge den temporären Chat zu nutzen.

Es ist nichts Schlimmes passiert. Aber das Anzeichen war da: eine Antwort, die mehr wusste, als Max zu sagen beschlossen hatte.

In der Woche darauf prüft Max noch einmal. Im Gedächtnis stehen zwei neue Zeilen, beide zur Arbeit und beide richtig: Er lässt sie stehen. Er bemerkt, dass der Dienst ihm anzeigt, wenn eine Erinnerung hinzugefügt wird, und beschließt, jedes Mal kurz hinzusehen, wenn er über etwas Persönliches spricht. Seitdem kostet ihn die Prüfung eine Minute.

Was Sie sofort prüfen sollten

Kommt Ihnen eines der Anzeichen aus den Tabellen bekannt vor, sind dies die ersten Prüfungen, in dieser Reihenfolge:

  1. Gibt es verbundene Apps oder geteilte Links, die Sie nicht erkennen? Sie sind als Erstes zu entfernen, weil sie anderen den Zugang öffnen.
  2. Ist das Konto auf Geräten angemeldet, die Sie nicht kennen? Wenn ja, beenden Sie die Sitzungen und ändern Sie das Passwort.
  3. Was steht im Gedächtnis? Lesen Sie es und löschen Sie falsche Einzelheiten, solche über andere und solche, die nicht bleiben sollen.
  4. Hat der Verlauf eine Dauer? Wenn nicht, wählen Sie eine.
  5. Ist das Training Ihre eigene Entscheidung? Prüfen Sie die Einstellung, in dem Wissen, dass sie für künftige Gespräche gilt.
  6. Nutzen Sie dasselbe Konto für Arbeit und Privatleben? Überlegen Sie, ob Sie sie trennen.

Die vollständige Abfolge, um wieder Ordnung zu schaffen, von der Vorbeugung bis zur Wiederherstellung, steht in der Anleitung KI-Chatverlauf und Gedächtnis löschen.

Wenn Sie ein verdächtiges Anzeichen finden

Bleiben Sie ruhig: In den meisten Fällen handelt es sich um ein Gedächtnis, das aktiver ist, als Sie dachten. Betrifft das Anzeichen aber eine Aktion in E-Mail oder Kalender, um die Sie nicht gebeten haben, eine Erinnerung, die Sie überhaupt nicht wiedererkennen, oder eine Anmeldung von einem unbekannten Gerät, empfiehlt es sich:

  • die verbundenen Apps zu trennen und gesendete E-Mails sowie geänderte Termine zu prüfen;
  • das Passwort des Kontos zu ändern, eines zu verwenden, das Sie sonst nirgends nutzen, und die Zwei-Faktor-Authentifizierung (2FA) einzuschalten;
  • die Erinnerungen zu löschen, die Sie nicht wiedererkennen;
  • bei einem Arbeitskonto die IT-Abteilung Ihrer Organisation zu informieren.

Achten Sie in den folgenden Tagen auf zwei Dinge: Hinweise auf Anmeldungen von Orten oder Geräten, die Sie nicht erkennen, und ungewöhnliche Nachrichten in Ihrem Namen, auf die Ihre Kontakte Sie aufmerksam machen. Erscheint nichts, ist es sehr wahrscheinlich, dass es keine Folgen gab. Die typischen Anzeichen eines verbundenen Dienstes, der sich seltsam verhält, sind auch im Beitrag über die Anzeichen verdächtiger verknüpfter Apps zusammengestellt.

Was kein Indikator ist

Manche Situationen wirken verdächtig, sind aber meist normal:

  • der Assistent erinnert sich an Ihren Namen oder Beruf: Wenn Sie ihn genannt haben und das Gedächtnis aktiv ist, ist das seine Aufgabe;
  • eine Antwort knüpft an das Gespräch von vor einer Stunde an: Auf vielen Diensten kann der Assistent auf kürzliche Chats Bezug nehmen, wenn die Option eingeschaltet ist;
  • der temporäre Chat erscheint nicht im Verlauf: Genau das soll er tun, auch wenn der Dienst ihn für kurze Zeit aufbewahrt;
  • nach dem Abschalten des Trainings bleiben die Chats im Verlauf: Auf vielen Diensten sind die beiden Einstellungen getrennt;
  • ein Vorschlag, der auf dem beruht, was Sie gerade geschrieben haben: Innerhalb desselben Gesprächs nutzt der Assistent alles, was darüber steht, und es ist normal, dass er es berücksichtigt;
  • eine allgemeine Antwort zu Ihrer Stadt: Der Assistent kann die Gegend aus der Verbindung ableiten, ohne dass es sich um eine Erinnerung handelt.

Der Maßstab zur Unterscheidung ist immer derselbe: Eine Erinnerung ist normal, wenn Sie sie selbst gegeben haben und wissen, dass sie da ist; sie ist ein Anzeichen, wenn Sie sie nicht wiedererkennen. Im Zweifel kostet die vorsichtige Wahl nichts: das Gedächtnis öffnen und nachsehen.

Wie oft Sie prüfen sollten

ZeitpunktWas zu prüfen ist
Wenn eine Antwort mehr weiß, als Sie erwartenDas Gedächtnis und der jüngste Verlauf
Wenn Sie eine neue App verbindenDie erteilten Berechtigungen und die bereits verbundenen Apps
Einmal im JahrGedächtnis, Verlauf, Training, verbundene Apps und geteilte Links
Wenn der Dienst eine neue Funktion ankündigtDie Datenschutzeinstellungen, die sich geändert haben können

Zwei wichtige Hinweise

Erster Hinweis: Kein Anzeichen ist endgültig. Ein Assistent kann sich viel merken, ohne dass jemand etwas Falsches getan hat, und er kann sich normal verhalten, auch wenn eine verbundene App zu viele Berechtigungen hat. Die verlässlichste Prüfung bleibt die einfachste: die Einstellungen regelmäßig öffnen.

Zweiter Hinweis: Menüs ändern sich. Die Bezeichnungen der Funktionen und die Wege in den Einstellungen unterscheiden sich je nach Dienst und Version und ändern sich oft mit Updates. Finden Sie einen Eintrag nicht, suchen Sie in der offiziellen Hilfe des Dienstes nach Wörtern wie „Gedächtnis“, „Personalisierung“, „Aktivität“ oder „verbundene Apps“. Und erscheint nach einem Update eine neue Funktion, behandeln Sie sie wie einen neuen Assistenten: Sehen Sie vor der Nutzung nach, was sie aufbewahrt.

Bezug zum Framework Cyber Welfare

SäuleBeitrag dieses Inhalts
BewusstseinErkennen, dass eine Antwort, die „zu viel weiß“, ein Anzeichen ist, auch wenn sie harmlos wirkt – digitales Bewusstsein für leise Signale
KompetenzenDas Gedächtnis, die Liste der verbundenen Apps, die geteilten Links und die Geräte des Kontos lesen können
Sicheres VerhaltenBei unbekannten Erinnerungen oder nicht erbetenen Aktionen innehalten und die Einstellungen regelmäßig prüfen

Referenzstufe: FL2 – Einsteiger. Auf dieser Stufe beginnen Sie zu bemerken, was der Assistent von sich aus tut, und sich zu fragen, warum. Wenn Sie wissen möchten, wo Sie bei Ihren übrigen digitalen Gewohnheiten stehen, können Sie die Selbstbewertung der digitalen Resilienz machen.

Fazit

Das häufigste Anzeichen ist zugleich das einfachste: eine Antwort, die mehr über Sie weiß, als Sie gesagt zu haben glaubten. Meist erledigt das Gedächtnis einfach seine Aufgabe. Manchmal ist es eine falsche Erinnerung, eine vergessene verbundene App oder ein fremder Inhalt, der Anweisungen gegeben hat. In allen Fällen ist die Antwort dieselbe: die Einstellungen öffnen, hinsehen und entscheiden.

Es zu bemerken ist der erste Schritt. Der zweite ist, dafür zu sorgen, dass sich der Assistent nur merkt, was Sie entschieden haben.

Verwandte Ressourcen

Kurze Beiträge aus dem Bereich Ressourcen, für alle, die bei einem einzelnen Aspekt verweilen möchten:

Verwandte Inhalte

Machen Sie den ersten Schritt: Das Programm „Schützen Sie Ihre digitale Privatsphäre“ begleitet Sie kostenlos, eine Empfehlung nach der anderen.