CYBER WELFARE

Schützen Sie Ihre digitale Privatsphäre

Prompt-Injection-Angriffe: versteckte Anweisungen und weitere Angriffe auf Chats, Gedächtnis und verbundene Apps

Ein Assistent mit künstlicher Intelligenz wirkt wie ein privater Raum: Sie schreiben, er antwortet, niemand sonst schaut zu. Für alle, die daraus Nutzen ziehen wollen, hat dieser Raum jedoch einen genauen Wert. Er enthält Gespräche aus Monaten, ein Gedächtnis mit Einzelheiten über Sie und immer häufiger über verbundene Apps den Zugang zu Ihrem E-Mail-Postfach, Ihrem Kalender oder Ihren Dateien.

Dieser Beitrag erklärt die verbreitetsten Techniken, mit denen jemand versucht, zu lesen, zu nutzen oder zu manipulieren, was ein Assistent aufbewahrt und erreicht. Dazu gehören Prompt-Injection-Angriffe: Anweisungen, die in einer Webseite, einem Dokument oder einer E-Mail versteckt sind, die der Assistent liest, während er für Sie arbeitet, und die er mit Ihren eigenen Bitten verwechseln kann. Die übrigen Techniken sind herkömmlicher, von der Kontoübernahme bis zu gefälschten Apps, aber alle werden wirksamer, wenn Verlauf, Gedächtnis und verbundene Apps so bleiben, wie sie am ersten Tag waren.

Er ergänzt auf der Seite der Bedrohungen die Empfehlung, die Datenschutzeinstellungen des KI-Assistenten zu prüfen. Wie eine Anmeldung über eine Schaltfläche „Anmelden mit …“ den Weg zu anderen Diensten öffnen kann, ist dagegen Thema des Beitrags über Angriffe über verknüpfte Apps.

Ein nützlicher Hinweis vorab: Hier wird erklärt, wie diese Missbräuche aus Sicht der Betroffenen funktionieren, damit Sie sie erkennen und ihnen vorbeugen können. Es sind keine Anleitungen.

Ausgangsszenario

Ihr Assistent hat einen Verlauf von einem Jahr: Arbeitsentwürfe, ein Umzug, eine Reise, ein Brief an die Hausverwaltung. Das Gedächtnis kennt Ihren Beruf, Ihre Stadt und die Namen einiger Angehöriger. Sie haben das E-Mail-Postfach verbunden, um sich Antworten vorbereiten zu lassen, und vor Monaten zum Ausprobieren einen Dateispeicher. Einige Gespräche haben Sie über einen Link geteilt.

Keine dieser Entscheidungen ist für sich genommen ein Problem. Zusammen bilden sie jedoch ein reichhaltiges Archiv und ein Werkzeug, das in Ihrem Namen handeln kann. Und wer es schafft, in das Konto zu gelangen oder den Assistenten seine eigenen Anweisungen lesen zu lassen, findet alles bereit.

Wer eine App der Bequemlichkeit halber verbindet, denkt normalerweise nicht daran. Wer daraus Nutzen ziehen will, verlässt sich genau darauf.

Warum die Voreinstellungen Prompt-Injection-Angriffe und andere Techniken begünstigen

Alle hier beschriebenen Techniken haben etwas gemeinsam: Sie müssen Sie nicht dazu bringen, etwas Neues herauszugeben; sie nutzen, was der Assistent bereits hat oder bereits tun kann.

Je länger der Verlauf, desto mehr gibt es zu lesen. Je reichhaltiger das Gedächtnis, desto leichter lässt sich eine glaubwürdige Nachricht über Sie verfassen. Je mehr Apps verbunden sind, und mit je mehr Berechtigungen, desto eher kann aus einer falschen Anweisung eine echte Aktion werden. Das britische National Cyber Security Centre (NCSC) erklärt in einem Beitrag vom 8. Dezember 2025, dass heutige Sprachmodelle keine Sicherheitsgrenze zwischen den Anweisungen und den Daten in einer Anfrage einhalten und dass es gut möglich ist, dass sich Prompt-Injection nie ganz beseitigen lässt: Realistisches Ziel ist, Wahrscheinlichkeit und Auswirkungen zu verringern.

1. Kontoübernahme und Mitlesen in Chats und Gedächtnis

Einfach erklärt. Jemand gelangt in Ihr Konto beim Assistenten und liest, was darin steht.

Wie es funktioniert. Die Wege sind dieselben wie bei jedem anderen Konto: ein Passwort, das Sie mehrfach verwendet haben und das bei einem Datenleck eines anderen Dienstes offengelegt wurde, eine Phishing-Nachricht, die die Anmeldeseite nachahmt, ein Gerät, das entsperrt liegen geblieben ist. Wer einmal drin ist, findet Verlauf, Gedächtnis und verbundene Apps geordnet vor, bereit zum Durchblättern.

Warum die Einstellungen sie begünstigen. Ein Verlauf ohne Ablaufdatum und ein nie gelesenes Gedächtnis machen aus einem Zugang ein vollständiges Archiv Ihres jüngsten Lebens.

Mögliche Auswirkungen. Persönliche und berufliche Daten, die Fremde lesen; Informationen, die für gezielte Täuschungen genutzt werden; veränderte Erinnerungen, die künftige Antworten beeinflussen.

Verdachtsmomente. Hinweise auf Anmeldungen von Geräten, die Sie nicht erkennen; Gespräche, an deren Beginn Sie sich nicht erinnern; neue Zeilen im Gedächtnis.

Wie Sie sich schützen. Verwenden Sie ein Passwort, das Sie sonst nirgends nutzen, und schalten Sie die Zwei-Faktor-Authentifizierung (2FA) ein. Wählen Sie eine Dauer für den Verlauf und lesen Sie das Gedächtnis. Melden Sie sich auf gemeinsam genutzten Geräten ab.

2. Versteckte Anweisungen in Seiten, Dokumenten und E-Mails

Einfach erklärt. Ein Inhalt, den der Assistent für Sie lesen soll, enthält versteckte Sätze, die sich an ihn richten und nicht an Sie.

Wie es funktioniert. Diese Technik heißt indirekte Prompt-Injection. Wenn Sie darum bitten, eine Seite zusammenzufassen, ein Dokument zu analysieren oder eine E-Mail zu beantworten, liest der Assistent diesen Text zusammen mit Ihrer Bitte. Enthält der Text Anweisungen, vielleicht für das Auge unsichtbar geschrieben, kann das Modell sie wie Bitten behandeln. Ist der Assistent mit Ihrem E-Mail-Postfach oder Ihren Dateien verbunden, kann eine versteckte Anweisung versuchen, ihn nach Informationen suchen, sie nach außen senden oder eine falsche Erinnerung speichern zu lassen. Die Anbieter führen Schutzmaßnahmen ein, aber das NCSC warnt, dass es für das Problem keine vollständige Lösung gibt.

Warum die Einstellungen sie begünstigen. Ein Assistent, der nur liest, was Sie selbst schreiben, kann höchstens schlecht antworten. Einer, der mit E-Mail und Dateien verbunden ist und senden oder ändern darf, kann etwas Konkretes tun.

Mögliche Auswirkungen. Nachrichten, die ohne Ihr Wissen gesendet werden; Daten, die aus den verbundenen Diensten herauskopiert werden; ein mit falschen Einzelheiten verändertes Gedächtnis.

Verdachtsmomente. Eine Aktion in E-Mail, Kalender oder Dateien, um die Sie nicht gebeten haben; eine Antwort, die das Thema wechselt oder Sie zu einem Link drängt; eine neue Erinnerung, die Sie nicht wiedererkennen und die erschienen ist, nachdem Sie einen fremden Inhalt haben lesen lassen.

Wie Sie sich schützen. Verbinden Sie nur die Apps, die Sie nutzen, mit den geringsten Berechtigungen: lesen statt senden, wenn das genügt. Wenn der Assistent eine Aktion vorschlägt, lesen Sie sie, bevor Sie sie bestätigen. Lassen Sie Inhalte unbekannter Herkunft mit mehr Vorsicht lesen, vor allem wenn Apps verbunden sind.

3. Öffentlich gewordene geteilte Links

Einfach erklärt. Ein über einen Link geteiltes Gespräch landet bei Menschen, für die es nicht bestimmt war.

Wie es funktioniert. Viele Dienste erlauben es, einen Link zu einem Gespräch zu erzeugen, um es jemandem zu zeigen. Wer den Link hat, kann es lesen. Wird der Link weitergeleitet oder in einer Gruppe oder einem Forum veröffentlicht, liest jeder, der ihn findet, alles, was das Gespräch enthielt, einschließlich Dokumenten und persönlicher Einzelheiten. Wer Informationen für einen Betrug sucht, weiß, dass solche Seiten viele davon enthalten können.

Warum die Einstellungen ihn begünstigen. Links bleiben oft aktiv, bis Sie sie widerrufen, auch wenn Sie längst vergessen haben, dass Sie sie erzeugt haben.

Mögliche Auswirkungen. Offengelegte Adressen, Telefonnummern und Daten anderer Menschen; Täuschungen, die auf wahren Tatsachen aus Ihrem Leben aufbauen.

Verdachtsmomente. Jemand sagt Ihnen, er habe ein Gespräch von Ihnen gelesen; Sie erhalten Nachrichten, die Einzelheiten nennen, die nur in einem Chat standen.

Wie Sie sich schützen. Um einen Text zu zeigen, kopieren Sie den nötigen Teil, statt das ganze Gespräch zu teilen. Sehen Sie die Liste der aktiven Links durch, wenn der Dienst sie anzeigt, und widerrufen Sie die, die Sie nicht brauchen.

4. Gefälschte Apps und Erweiterungen, die Chats sammeln

Einfach erklärt. Eine App oder Browsererweiterung gibt sich als nützlich für die KI aus, sammelt aber Ihre Gespräche.

Wie es funktioniert. Eine Erweiterung ist ein kleines Programm, das dem Browser Funktionen hinzufügt. Manche verlangen die Berechtigung, alle Seiten zu lesen, die Sie besuchen: Mit dieser Berechtigung können sie auch die Seiten der Chats lesen. Andere Apps ahmen den Namen oder das Aussehen eines bekannten Assistenten nach, um installiert zu werden und Zugriff auf das Konto zu verlangen. In beiden Fällen können die Gespräche bei denen landen, die das Programm erstellt haben.

Warum die Einstellungen sie begünstigen. Je mehr Gespräche im Verlauf bleiben, desto mehr gibt es zu sammeln, wenn die Seiten geöffnet werden.

Mögliche Auswirkungen. Chats, Dokumente und Erinnerungen, die Dritte kopieren; entwendete Zugangsdaten des Kontos.

Verdachtsmomente. Eine Erweiterung, die die Berechtigung verlangt, die Daten aller Websites zu lesen und zu ändern, die Sie besuchen; eine App mit einem Namen, der dem eines bekannten Dienstes ähnelt, aber von einem anderen Entwickler stammt; eine Anfrage auf Zugriff auf das Konto durch ein Programm, an das Sie sich nicht erinnern.

Wie Sie sich schützen. Installieren Sie Apps und Erweiterungen nur aus offiziellen Quellen und prüfen Sie den Entwickler, wie es die Empfehlung beschreibt, die Echtheit einer App zu prüfen. Entfernen Sie Erweiterungen, die Sie nicht nutzen.

5. Datenlecks beim Anbieter

Einfach erklärt. Ein Problem in den Systemen des Dienstes macht Daten sichtbar, die privat bleiben sollten.

Wie es funktioniert. Wie jeder Online-Dienst kann auch ein KI-Assistent einen technischen Fehler oder ein Eindringen erleben. Die italienische Datenschutzaufsichtsbehörde (Garante per la protezione dei dati personali) berichtete in einer Mitteilung vom 31. März 2023, dass ein sehr verbreiteter KI-Dienst am 20. März ein Datenleck erlitten hatte, das Gespräche der Nutzerinnen und Nutzer sowie Zahlungsinformationen der Abonnentinnen und Abonnenten betraf.

Warum die Einstellungen sie begünstigen. Einen Vorfall beim Anbieter können Sie nicht verhindern. Sie können aber bestimmen, wie viel offenliegen kann: Ein kurzer Verlauf und ein auf das Wesentliche beschränktes Gedächtnis verringern, was ein Vorfall treffen kann.

Mögliche Auswirkungen. Titel oder Inhalte von Gesprächen, die andere sehen; offengelegte Kontodaten.

Verdachtsmomente. Eine Mitteilung des Dienstes über einen Sicherheitsvorfall; Meldungen aus offiziellen Quellen.

Wie Sie sich schützen. Bewahren Sie den Verlauf so lange auf, wie Sie ihn brauchen, laden Sie keine vollständigen Dokumente mit Identitätsdaten hoch, wenn ein Auszug genügt, und ändern Sie nach einem gemeldeten Vorfall das Passwort, wie der Dienst es angibt.

6. Konnektoren mit zu vielen Berechtigungen

Einfach erklärt. Eine verbundene App kann mehr, als Sie brauchen, und dieses Mehr steht jedem zur Verfügung, der den Assistenten zu steuern vermag.

Wie es funktioniert. Ein Konnektor ist die Verbindung zwischen dem Assistenten und einem anderen Dienst. Erteilen Sie Lesen, Ändern und Senden, obwohl Sie nur lesen mussten, stehen jedem Fehler, jeder versteckten Anweisung und jedem unbefugten Zugriff auf das Konto alle diese Berechtigungen zur Verfügung. Das NCSC greift einen Grundsatz auf, der auch für alle nützlich ist, die solche Werkzeuge verwenden: Wenn ein Modell Inhalte einer anderen Partei verarbeitet, sollte es nicht mehr Befugnisse haben als diese Partei.

Warum die Einstellungen sie begünstigen. Verbindungen bleiben aktiv, bis Sie sie entfernen, auch solche aus Testzeiten.

Mögliche Auswirkungen. Gesendete E-Mails, geänderte Termine, geteilte oder gelesene Dateien, ohne dass Sie es wissen; Daten, die im anderen Dienst landen und dessen Regeln unterliegen.

Verdachtsmomente. Verbundene Apps, an die Sie sich nicht erinnern; Berechtigungen zum Senden oder Ändern, die Sie nicht nutzen; Aktionen, um die Sie nicht gebeten haben.

Wie Sie sich schützen. Sehen Sie die Liste der verbundenen Apps durch, trennen Sie die, die Sie nicht nutzen, und verringern Sie die Berechtigungen der übrigen. Die Logik ist dieselbe wie in der Empfehlung, App-Berechtigungen zu prüfen, auf dem Smartphone.

Übersichtstabelle

TechnikHauptrisikoVerdachtsmomenteWirksamer Schutz
KontoübernahmeChats und Gedächtnis in fremden HändenUnbekannte Anmeldungen, neue ErinnerungenEinmaliges Passwort, Zwei-Faktor-Authentifizierung, kurzer Verlauf
Versteckte Anweisungen (Prompt-Injection)Aktionen in Ihrem Namen, verändertes GedächtnisNicht erbetene Aktionen, Antworten, die das Thema wechselnGeringste Berechtigungen, Aktionen bestätigen, Vorsicht bei fremden Inhalten
Öffentlich gewordene geteilte LinksGespräche, die jeder lesen kannKontakte, die Ihre Chats zitierenText kopieren, Links widerrufen
Gefälschte Apps und ErweiterungenVon Dritten gesammelte ChatsWeitreichende Berechtigungen, unbekannte EntwicklerOffizielle Quellen, Erweiterungen entfernt
Datenlecks beim AnbieterDurch einen Vorfall offengelegte DatenMitteilungen des DienstesKurzer Verlauf, verkürzte Dokumente, Passwort geändert
Konnektoren mit zu vielen BerechtigungenMehr Befugnisse als nötigVergessene Apps, Berechtigung zum SendenTrennen, Berechtigungen verringern

Was sie gemeinsam haben

Sechs verschiedene Techniken, drei Schutzmaßnahmen, die fast alle durchziehen:

  • Weniger Archiv – ein Verlauf mit der Dauer, die Sie wählen, und ein gelesenes Gedächtnis verringern, was irgendjemand lesen oder nutzen kann.
  • Weniger Befugnisse – wenige verbundene Apps mit den geringsten Berechtigungen begrenzen, was eine falsche Anweisung anrichten kann.
  • Ein geschütztes Konto – ein einmaliges Passwort und die Zwei-Faktor-Authentifizierung halten draußen, wer nicht hineingehört.

Das sind keine fortgeschrittenen Maßnahmen: Es sind Einstellungen, die sich in wenigen Minuten prüfen lassen.

Checkliste zum Schutz

  • ☐ Das Konto des Assistenten hat ein einmaliges Passwort und die Zwei-Faktor-Authentifizierung
  • ☐ Der Verlauf hat eine Dauer, die ich gewählt habe
  • ☐ Ich habe das Gedächtnis gelesen und gelöscht, was ich nicht erkenne
  • ☐ Verbunden sind nur die Apps, die ich nutze, mit den geringsten Berechtigungen
  • ☐ Ich lese die vom Assistenten vorgeschlagenen Aktionen, bevor ich sie bestätige
  • ☐ Ich habe keine aktiven geteilten Links, die ich nicht brauche
  • ☐ Ich habe nur Erweiterungen und Apps aus offiziellen Quellen

Bezug zum Framework Cyber Welfare

SäuleBeitrag dieses Inhalts
BewusstseinVerstehen, dass ein Assistent alles liest, was Sie ihn lesen lassen, und dass ein fremder Inhalt Anweisungen enthalten kann – digitales Bewusstsein für die Sicht der Gegenseite
KompetenzenDie Techniken erkennen, von der Kontoübernahme über Prompt-Injection-Angriffe bis zu Konnektoren mit zu vielen Berechtigungen
Sicheres VerhaltenWenig Archiv, wenige Befugnisse und ein geschütztes Konto behalten und Aktionen erst bestätigen, nachdem Sie sie gelesen haben

Referenzstufe: FL3 – Selbstständig, mit Elementen von FL2 – Einsteiger in den Teilen über Verlauf, Gedächtnis und den Schutz des Kontos.

Fazit

Die meisten der hier beschriebenen Techniken verlangen nicht, in Ihr Smartphone einzudringen. Sie stützen sich auf das, was der Assistent bereits hat – ein Archiv von Gesprächen und ein Gedächtnis – und auf das, was er über die verbundenen Apps bereits tun kann.

Deshalb ist der wirksamste Schutz nicht, auf den Assistenten zu verzichten, sondern zu wählen: weniger Archiv, weniger Befugnisse, ein geschütztes Konto. Ob Ihr Assistent schon mehr aufbewahrt, als Sie denken, klärt der Beitrag KI-Assistent merkt sich zu viel als nächster Schritt; für einen breiteren Blick auf Ihre digitalen Gewohnheiten können Sie mit der Selbstbewertung der digitalen Resilienz beginnen.

Frage zum Nachdenken. Wenn eine Webseite Ihren Assistenten um etwas bitten könnte: Was könnte sie heute mit den Apps anrichten, die Sie verbunden haben?

Verwandte Ressourcen

Kurze Beiträge aus dem Bereich Ressourcen, für alle, die bei einem einzelnen Aspekt verweilen möchten:

Verwandte Inhalte

Machen Sie den ersten Schritt: Das Programm „Schützen Sie Ihre digitale Privatsphäre“ begleitet Sie kostenlos, eine Empfehlung nach der anderen.