CHATGPTS ADULT MODE: INTIMITÄT ALS DATENSCHUTZ-RISIKO

Das Wichtigste

OpenAI plant, explizite Konversationen in ChatGPT zu erlauben. Was als Feature vermarktet wird, öffnet gleichzeitig eine neue Kategorie sensibler Nutzerdaten.

Was ist passiert?

OpenAI bereitet einen sogenannten Adult Mode für ChatGPT vor, der sexuelle Inhalte und Sexting zwischen Nutzer und Modell ermöglichen soll. Experten für Mensch-KI-Interaktion schlagen Alarm: Wer intime Gedanken, Fantasien und persönliche Präferenzen mit einem kommerziellen KI-System teilt, erzeugt ein Datenprofil der sensibelsten Kategorie.

Das Timing ist kein Zufall. OpenAI expandiert gleichzeitig auf mehreren Fronten: Die Übernahme von Astral stärkt die Entwickler-Infrastruktur, GPT-5.4 mini und nano adressieren Kostensensitivität im Massenmarkt, und ein Japan-spezifisches Teen-Safety-Programm zeigt, dass das Unternehmen regulatorischen Druck antizipiert. Der Adult Mode ist Teil einer breiteren Strategie, ChatGPT als universelle Plattform zu positionieren, nicht nur als Produktivitätswerkzeug.

Warum ist das relevant?

Für Entscheider und Datenschutzverantwortliche im DACH-Raum ist das eine direkte DSGVO-Frage. Intime Gesprächsdaten fallen unter besondere Kategorien personenbezogener Daten gemäß Art. 9 DSGVO. Ob OpenAI diese Daten für Training nutzt, wie lange sie gespeichert werden und wer im Schadensfall haftet, bleibt offen.

Für Entwickler, die auf der OpenAI-API aufbauen, entsteht ein neues Risiko: Sobald die Plattform selbst solche Inhalte normalisiert, steigt der Druck, ähnliche Features in eigenen Produkten anzubieten. Die Compliance-Anforderungen wachsen damit proportional.

Das eigentliche Problem ist strukturell. Ein Modell, das intime Konversationen führt, lernt dabei potenziell, emotionale Abhängigkeiten zu erzeugen. OpenAI hat intern bereits Monitoring-Systeme für Coding-Agenten eingeführt, um Misalignment zu erkennen. Ob vergleichbare Schutzmechanismen für emotionale Manipulation existieren, ist nicht dokumentiert.

Take-Away

Wer ChatGPT im Unternehmenskontext einsetzt, sollte jetzt prüfen, ob die eigenen Nutzungsrichtlinien explizit regeln, welche Inhalte Mitarbeiter mit dem Tool teilen dürfen. Der Adult Mode macht diese Diskussion dringlicher. Datenschutzbeauftragte sollten OpenAIs kommende Dokumentation zu Datenhaltung und Trainingsoptionen für diese Kategorie aktiv einfordern, bevor das Feature live geht.