Der KI-Beichtstuhl fühlt sich privat an, ist es aber nicht automatisch. Ein Chatbot hört geduldig zu, urteilt nicht und ist nachts um drei erreichbar. Genau diese Kombination bringt Menschen dazu, Familienprobleme, Ängste, Gesundheitsfragen und andere Geheimnisse einzugeben. Eine neue Umfrage zeigt nun, wie weit diese Vertrautheit reicht – und wie wenig viele Nutzer über die möglichen Leser ihrer Gespräche wissen.
Das Problem ist nicht nur, ob ein Anbieter Chats zum Training verwendet. Ein Gespräch kann auch auf dem Gerät landen, in Unternehmenssystemen gespeichert, von Administratoren exportiert oder in einem Gerichtsverfahren offengelegt werden. „Privat“ ist deshalb keine einzelne Einstellung. Es ist eine Kette, die nur so stark ist wie ihr offenstes Glied.
Ein Drittel vertraut dem KI-Beichtstuhl echte Geheimnisse an
Die Ausgangszahlen stammen aus einer von DuckDuckGo beauftragten Umfrage unter 1.944 Erwachsenen in den USA. Die Antworten wurden vom 17. bis 27. Juni 2026 über ein Online-Panel erhoben.
- 32 Prozent der KI-Nutzer sagten, sie hätten einem Chatbot etwas erzählt, das sie engen Freunden, Eltern, Kollegen, Ärzten oder Therapeuten verschwiegen.
- Unter selbst erklärten KI-Enthusiasten lag der Wert bei 56 Prozent.
- 43 Prozent der Eltern mit KI-Nutzung hatten dem System etwas anvertraut, das sie keinem Menschen erzählt hatten. Bei Nutzern ohne Kinder im Haushalt waren es 25 Prozent.
- 53 Prozent wussten nicht oder waren unsicher, ob ihre Gespräche zum Modelltraining verwendet werden.
- Nur 25 Prozent wussten, dass Chatprotokolle per Gerichtsbeschluss oder behördlicher Anforderung herausverlangt werden können.
Das sind keine globalen Bevölkerungszahlen. Die Studie misst eine US-amerikanische Online-Stichprobe und wurde von einem Unternehmen finanziert, das private KI-Nutzung als Produktversprechen verkauft. Trotzdem ist das Muster relevant: Emotionale Nähe entsteht schneller als Datenschutzverständnis.
Der von dir verlinkte Bericht von TechTimes greift diese Zahlen auf und verbindet sie mit Fällen, in denen Chatprotokolle in Gerichtsakten oder öffentlich auffindbaren Freigabelinks auftauchten.
Warum sich ein Chatbot vertraulicher anfühlt, als er ist
Menschen bewerten Vertraulichkeit intuitiv über das Gegenüber. Ein Chatbot hat keinen Gesichtsausdruck, unterbricht nicht und erzählt einem Freund nichts weiter. Daraus entsteht ein psychologischer Kurzschluss: kein sichtbarer Zuhörer, also kein Publikum.
Technisch ist das Gegenteil der Fall. Eine Eingabe kann mehrere Systeme durchlaufen: Browser, Gerät, Firmenkonto, Anbieter, Sicherheitsfilter, Speicher, verbundene Apps und Sicherungssysteme. Jeder Übergang hat eigene Regeln.
Mein älterer Beitrag über ChatGPT als vermeintlichen Therapeuten ohne Schweigepflicht behandelt vor allem die rechtliche Schutzlücke. Die neue Umfrage ergänzt die andere Hälfte: Nicht nur einzelne Menschen nutzen Chatbots für sensible Gespräche. Das Verhalten ist bereits breit genug, dass Datenhaltung und Zugriff zu einem Alltagsrisiko werden.
Vier Publikumskreise, die deine KI-Chats erreichen können
Statt Datenschutz als Ja-Nein-Frage zu behandeln, hilft ein einfaches Modell. Jeder sensible Chat kann vier mögliche Publikumskreise haben.
1. Der Anbieter und seine Dienstleister
Je nach Produkt, Tarif und Einstellung können Inhalte gespeichert, auf Missbrauch geprüft, von Menschen kontrolliert oder zur Verbesserung von Modellen genutzt werden. Die Regeln unterscheiden sich stark. Sie ändern sich außerdem häufiger als das Nutzungsverhalten.
Eine Stanford-Analyse der Datenschutzrichtlinien von sechs großen US-Anbietern kam zu dem Ergebnis, dass Verbraucher-Chats laut den untersuchten Richtlinien standardmäßig für Training oder Verbesserung herangezogen werden konnten. Einige Anbieter erlaubten ein Opt-out, andere nicht. Die Studie fand außerdem lange oder unklare Aufbewahrungsfristen sowie Lücken beim Umgang mit Daten Minderjähriger.
Wichtig: Das lässt sich nicht pauschal auf jede API oder jedes Unternehmenskonto übertragen. OpenAI erklärt beispielsweise, Geschäftsdaten in seinen Business- und Enterprise-Angeboten standardmäßig nicht zum Training zu verwenden.
2. Der Arbeitgeber oder Workspace-Administrator
Ein Firmenkonto ist kein persönliches Tagebuch. Administratoren können je nach Produkt und Konfiguration Inhalte, Dateien, Verlauf und Nutzungsdaten verwalten oder für Compliance-Zwecke exportieren.
OpenAI schreibt in seiner Dokumentation zu verwalteten ChatGPT-Konten ausdrücklich, dass Organisationsadministratoren unter anderem Prompts, hochgeladene Dateien, Ausgaben und den Gesprächsverlauf zugänglich machen, prüfen, aufbewahren oder löschen können. Das ist kein heimliches Mitlesen, sondern eine Funktion für Governance, eDiscovery und Datensicherheit.
Die Konsequenz ist trotzdem klar: Private Fragen gehören nicht in ein vom Arbeitgeber verwaltetes Konto. Auch dann nicht, wenn das Chatfenster wie dein persönlicher Assistent aussieht.
3. Polizei, Gerichte und Prozessgegner
Die Washington Post fand zwölf Gerichtsverfahren innerhalb von zwei Jahren, in denen Chatbot-Protokolle auftauchten. Entscheidend ist ein Detail, das in dramatischen Zusammenfassungen oft fehlt: Die Gespräche kamen häufig durch die Untersuchung der Geräte der Betroffenen ans Licht – nicht durch eine direkte Herausgabe des Anbieters.
Das erweitert das Risikomodell. Selbst perfekte Server-Einstellungen schützen einen Chat nicht, wenn er im Browser-Verlauf, in Screenshots, exportierten Daten, Backups oder auf einem beschlagnahmten Telefon erhalten bleibt.
4. Die Öffentlichkeit
Freigabelinks, Screenshots und falsch verstandene Veröffentlichungsfunktionen können private Gespräche öffentlich machen. Wer einen Chat aktiv teilt, erzeugt eine neue Kopie außerhalb der ursprünglichen Schutzgrenze. Wird der Link indexiert oder weitergeleitet, hilft das spätere Löschen im eigenen Konto möglicherweise nicht mehr.
Der generelle Überblick zum Datenschutz bei KI-Systemen erklärt Rechte und Grundeinstellungen. Beim KI-Beichtstuhl kommt eine zusätzliche Regel hinzu: Auch eine gute Datenschutzeinstellung kann eine freiwillig veröffentlichte Kopie nicht zurückholen.
Training ist nur eines von mehreren Risiken
In Debatten über KI-Datenschutz dominiert die Frage: „Trainiert das Modell mit meinem Chat?“ Sie ist wichtig, aber zu eng.
Für eine Person kann ein einziger originaler Gesprächsverlauf vor Gericht oder beim Arbeitgeber viel konkreter schaden als eine abstrakte Nutzung im Training. Umgekehrt kann ein gelöschter Chat aus der sichtbaren Oberfläche verschwinden und dennoch in zulässigen Aufbewahrungs-, Sicherheits- oder Beweisprozessen weiterexistieren.
Deshalb sollte man fünf getrennte Fragen stellen:
- Wird der Inhalt gespeichert?
- Wie lange bleibt er gespeichert?
- Wird er zum Training oder zur Produktverbesserung genutzt?
- Wer kann ihn administrativ, rechtlich oder technisch abrufen?
- Welche weiteren Kopien entstehen auf Geräten, in Backups oder durch Freigaben?
Erst zusammen ergeben diese Antworten ein realistisches Datenschutzbild.
Die 30-Sekunden-Regel vor einem sensiblen Prompt
Chatbots können beim Strukturieren von Gedanken helfen. Man muss dafür aber nicht die eigene Identität, den Arbeitgeber und die gesamte Familiengeschichte mitliefern. Vor einem sensiblen Prompt lohnt sich diese kurze Prüfung:
- Zweck reduzieren: Welche Information braucht das Modell wirklich für eine hilfreiche Antwort?
- Identitäten entfernen: Namen, Orte, Arbeitgeber, Aktenzeichen, Geburtsdaten und seltene Kombinationen durch neutrale Rollen ersetzen.
- Kontotyp prüfen: Ist es ein privates oder ein verwaltetes Firmenkonto? Welche Speicher- und Trainingseinstellungen gelten?
- Folgen simulieren: Könnte ich mit dem Text leben, wenn ihn ein Administrator, Anwalt oder Familienmitglied liest?
- Passendes Gegenüber wählen: Bei medizinischen, rechtlichen oder psychischen Krisen sind Fachpersonen nicht nur kompetenter. Für sie gelten häufig auch klarere Vertraulichkeitsregeln.
Besonders bei psychischer Belastung ist diese Grenze wichtig. Der Fall rund um Character.AI und psychische Gesundheit zeigt, dass emotionale Verfügbarkeit nicht mit professioneller Verantwortung gleichzusetzen ist.
Was Unternehmen daraus lernen sollten
Ein Verbot mit dem Satz „Keine vertraulichen Daten in ChatGPT“ reicht nicht. Mitarbeitende brauchen freigegebene Werkzeuge und klare Datenklassen.
- Grün: öffentliche Informationen, frei verfügbare Texte, allgemeines Brainstorming.
- Gelb: interne Inhalte, die nur in einem vertraglich und technisch freigegebenen Workspace verarbeitet werden dürfen.
- Rot: Geheimnisse, Gesundheitsdaten, Zugangsdaten, unveröffentlichte Personaldaten und rechtlich geschützte Kommunikation.
Dazu gehören technische Kontrollen: Single Sign-on, Aufbewahrungsregeln, Deaktivierung öffentlicher Freigaben, Datenverlustprävention und nachvollziehbare Admin-Zugriffe. Datenschutz entsteht nicht durch die Hoffnung, dass alle Nutzer immer aufpassen. Er entsteht durch eine Umgebung, in der ein Fehler begrenzte Folgen hat.
Fazit: Ein hilfreiches Gespräch ist noch kein vertrauliches Gespräch
Die neue Umfrage zeigt nicht, dass Chatbots grundsätzlich unsicher sind. Sie zeigt eine Lücke zwischen gefühlter Intimität und technischer Realität. Ein Drittel der befragten KI-Nutzer hat einem System Geheimnisse anvertraut, während drei Viertel die mögliche rechtliche Herausgabe nicht kannten.
Mein Maßstab ist einfach: Nutze einen Chatbot als Denkwerkzeug, nicht als Tresor. Gib ihm das Problem, aber nicht automatisch alle identifizierenden Details. Und behandle jedes Firmenkonto so, wie es technisch gedacht ist – als verwaltetes Arbeitssystem.
Der KI-Beichtstuhl kann urteilsfrei antworten. Schweigepflicht entsteht daraus nicht.
