OPENAI FÜHRT VERTRAUENSKONTAKT FÜR SELBSTGEFÄHRDUNG IN CHATGPT EIN

Das Wichtigste

OpenAI führt eine neue Sicherheitsfunktion namens Trusted Contact ein. Wenn ChatGPT-Gespräche auf Selbstgefährdung hindeuten, kann das System künftig eine vom Nutzer hinterlegte Vertrauensperson benachrichtigen.

Was ist passiert?

OpenAI erweitert seine Schutzmechanismen für vulnerable Nutzer. Die neue Funktion Trusted Contact erlaubt es ChatGPT-Nutzern, eine Vertrauensperson zu hinterlegen. Erkennt das System in einer Konversation Anzeichen von Selbstgefährdung, kann diese Person kontaktiert werden.

Der Schritt kommt nicht aus dem Nichts. In den vergangenen Monaten gab es wiederholt öffentliche Diskussionen über die Verantwortung von KI-Anbietern, wenn Nutzer in emotionalen Krisen mit Chatbots interagieren. OpenAI reagiert mit einem proaktiven Ansatz, der über die bisherigen Krisenressourcen - etwa das Einblenden von Hotline-Nummern - hinausgeht.

Warum ist das relevant?

Für Unternehmen im DACH-Raum, die ChatGPT in Kundenkontakt oder interne Tools integrieren, hat das mehrere Implikationen:

• Regulatorische Signalwirkung: Die EU und deutsche Aufsichtsbehörden beobachten genau, wie KI-Anbieter mit psychischer Gesundheit umgehen. OpenAI setzt hier einen Standard, an dem sich auch B2B-Implementierungen messen lassen müssen.
• Datenschutzfragen: Eine Funktion, die Dritte über den emotionalen Zustand eines Nutzers informiert, berührt unmittelbar die DSGVO. Consent-Management und Datenminimierung werden hier kritisch.
• Produktverantwortung: Wer ChatGPT-basierte Produkte baut - etwa im HR-Bereich oder als Coaching-Tool - muss diese Schutzschicht in der eigenen Risikoanalyse berücksichtigen.

Der Kontext ist auch wirtschaftlich relevant. OpenAI testet parallel Werbung in ChatGPT und baut Voice-Funktionen aus. Je tiefer die Nutzerbeziehung wird, desto höher die Verantwortung. Trusted Contact ist die logische Konsequenz einer Plattform, die sich als täglicher Begleiter positioniert.

Take-Away

Wer ChatGPT in kundennahen Anwendungen einsetzt, sollte jetzt prüfen, wie die eigene Implementierung mit Krisensituationen umgeht. Die Funktion wird vermutlich auch über die API relevant werden. Datenschutzbeauftragte frühzeitig einbinden - bevor die Aufsichtsbehörden fragen.