AI_STACK
System_Menu

Newsletter

Täglich um 07:00 Uhr die wichtigsten KI-News für DACH.

← ArchivTäglich kuratiert · Ausgabe 379
AI_STACK

OPENAI VERSCHÄRFT SCHUTZ GEGEN MODELL-DESTILLATION DURCH ANGREIFER

Core Tech22. November 2026
Teilen:

Das Wichtigste

Angreifer können die Fähigkeiten eines Frontier-Modells kopieren, ohne dessen Sicherheitsmechanismen zu übernehmen. OpenAI hat deshalb die Schutzmassnahmen gegen diese sogenannte adversarial distillation deutlich verschärft, besonders beim Schutz der internen Denkprozesse seiner Modelle.

Was ist passiert?

OpenAI beschreibt in einem aktuellen Blogpost, wie das Unternehmen gegen adversarial distillation vorgeht. Dabei nutzt ein Angreifer die Ausgaben eines fremden Modells, um ein eigenes Modell mit ähnlichen Fähigkeiten zu trainieren, allerdings ohne die Sicherheitsvorkehrungen des Originals.

Besonders heikel: Ein Modell, das bei der Softwaresicherheit hilft, kann auch Angriffswissen vermitteln. Wird dieses Wissen auf ein schwächer abgesichertes Modell übertragen, fallen die ursprünglichen Schutzmechanismen weg.

Im Zentrum der Verteidigung steht das Chain-of-Thought, also die interne Gedankenkette eines Modells auf dem Weg zur Antwort. Diese Reasoning-Traces enthalten oft mehr Information als die finale Antwort und sind deshalb besonders wertvolle Trainingsdaten für Nachahmer-Modelle.

Technische Details

OpenAI hat bei GPT-6.2 Astra und GPT-6.2 Sol die Absicherung der Reasoning-Traces massiv verbessert. In internen Red-Teaming-Tests sank die Erfolgsquote von Extraktionsangriffen von 54,0 Prozent beim Vorgänger auf 0,2 Prozent bei den neuen Modellen.

Eine interne Studie zeigt zudem, warum das wichtig ist: Ein Schüler-Modell, das mit vollständigen Reasoning-Traces eines Lehrer-Modells trainiert wurde, übertraf bei Cybersecurity-Aufgaben ein Modell, das nur mit Zusammenfassungen der Reasoning-Schritte lernte. Selbst bei eigentlich erlaubten Aufgaben wie defensiver Cybersicherheit können vollständige Reasoning-Traces also Fähigkeiten vermitteln, die über die Originalaufgabe hinausgehen.

Die Verteidigung arbeitet auf zwei Ebenen. Auf Request-Ebene blockieren Classifier Extraktionsversuche in Antworten und Tool-Aufrufen, adversariales Training bringt Modellen bei, Extraktionsversuche zu erkennen und abzulehnen. Auf Kampagnen-Ebene sucht OpenAI nach Mustern koordinierter Angriffe über mehrere Accounts hinweg.

Neu bei GPT-6.2 Astra und Sol: Reasoning-Traces sind fest an den Konversationsverlauf gebunden, der sie erzeugt hat. Wird eine frühere Nachricht nachträglich verändert, verwirft die API die zugehörigen Reasoning-Daten automatisch. Zusätzlich können ältere Modellfamilien mit schwächeren Schutzmechanismen die Reasoning-Traces von Astra und Sol nicht mehr auslesen.

Warum ist das relevant?

Für Entwickler und Unternehmen, die auf OpenAI-APIs aufbauen, bedeutet das: Wer eigene Modelle auf Basis von GPT-Ausgaben trainiert, etwa für Fine-Tuning oder Evaluationszwecke, sollte sich der engeren Grenzen bei Reasoning-Traces bewusst sein. Workarounds über mehrere Konversationen oder Modell-Familien hinweg funktionieren nicht mehr.

Für Security-Verantwortliche ist die Botschaft eindeutig: OpenAI behandelt Modell-Destillation inzwischen mit derselben Ernsthaftigkeit wie Bio- und Cyber-Risiken. Das signalisiert, dass Dual-Use-Fähigkeiten von Frontier-Modellen als eigenständige Angriffsfläche gelten, nicht nur als IP-Problem.

Take-Away

Wer eigene Modelle mit OpenAI-Outputs trainiert, sollte die aktuellen API-Nutzungsbedingungen genau prüfen. Die Zeiten, in denen Reasoning-Traces frei kopierbar waren, sind vorbei, und das dürfte branchenweit Schule machen.

OpenAIKI-SicherheitModel DistillationGPT-6.2Cybersecurity