EU-PARLAMENT VERBIETET KI-GENERIERTE SEXUELLE DEEPFAKES

Das Wichtigste

Das EU-Parlament hat ein Verbot von KI-generierten sexualisierten Deepfakes beschlossen. Wer solche Inhalte erstellt oder verbreitet, macht sich künftig strafbar.

Was ist passiert?

Das Europäische Parlament hat eine Regelung verabschiedet, die den Einsatz von KI zur Erstellung sexualisierter Deepfakes explizit unter Strafe stellt. Betroffen sind täuschend echte, KI-generierte Bild- und Videoinhalte, die reale Personen in sexuellen Situationen zeigen, ohne deren Einwilligung.

Der Beschluss fügt sich in das breitere Regulierungspaket der EU ein, das den AI Act flankiert. Während der AI Act primär auf Risikokategorien und Transparenzpflichten abzielt, geht dieses Verbot einen Schritt weiter: Es kriminalisiert eine konkrete Anwendung generativer KI.

Der Hintergrund ist eindeutig. Seit der Massenverbreitung leistungsfähiger Bildgeneratoren und Video-Synthesetools sind sexualisierte Deepfakes zum Werkzeug für Belästigung, Erpressung und Rufschädigung geworden. Betroffen sind überproportional häufig Frauen und Minderjährige.

Warum ist das relevant?

Für Unternehmen, die generative KI in Content-Pipelines einsetzen, steigt der Compliance-Druck. Plattformen, die nutzergenerierte KI-Inhalte hosten, müssen künftig mit strengeren Prüfpflichten rechnen.

Für Entwickler von Bild- und Videogenerierungstools bedeutet das Verbot: Technische Schutzmaßnahmen gegen Missbrauch sind kein Nice-to-have mehr, sondern regulatorische Erwartung. Wer Modelle oder APIs anbietet, die solche Inhalte ermöglichen, steht im Fokus.

Die politische Richtung ist klar. Die EU positioniert sich als härtester Regulierer generativer KI weltweit. Das schafft Rechtssicherheit für Nutzer und Betroffene, erhöht aber gleichzeitig den Aufwand für alle, die KI-Systeme in Europa betreiben oder anbieten.

Take-Away

Wer KI-generierte Inhalte produziert, hostet oder distribuiert, sollte jetzt prüfen, ob die eigenen Systeme und Nutzungsbedingungen mit dem neuen EU-Rahmen kompatibel sind. Das gilt besonders für Plattformen mit nutzergenerierten Inhalten und Anbieter von Bildgenerierungs-APIs. Warten auf finale Umsetzungsgesetze der Mitgliedsstaaten ist keine Strategie.