OpenAI unterstützt den neuen EU-Code für Transparenz bei KI-generierten Inhalten. Der Code soll Herkunftsnachweise, Kennzeichnungen und Prüfverfahren praktikabler machen, damit Nutzer, Plattformen und Behörden digitale Inhalte besser einordnen können.
Übersicht:
Was der EU-Code für KI-Inhalte regelt
Der EU Code of Practice on Transparency of AI-Generated Content konkretisiert, wie Anbieter und Nutzer generativer KI die Transparenzpflichten des AI Act umsetzen können. Er betrifft vor allem die Kennzeichnung und Erkennbarkeit von KI-generierten oder manipulierten Inhalten.
Wichtig ist die Unterscheidung zwischen freiwilligem Rahmen und rechtlicher Pflicht. Die Teilnahme am Code ist freiwillig, die Transparenzpflichten aus Artikel 50 des AI Act gelten jedoch als gesetzlicher Maßstab. Der Code soll Unternehmen helfen, diese Anforderungen nachvollziehbar und einheitlich zu erfüllen.
OpenAI ordnet die Unterstützung als Fortsetzung seiner europäischen Governance-Strategie ein. Bereits 2025 hatte OpenAI den General-Purpose AI Code of Practice unterzeichnet, der sich stärker auf allgemeine KI-Modelle, Dokumentation, Urheberrecht sowie Sicherheitsfragen konzentriert.
Warum Provenienz entscheidend wird
Provenienz bedeutet bei digitalen Inhalten, dass Informationen zur Herkunft, Bearbeitung und technischen Signatur eines Bildes, Videos oder Textes mitgeführt werden. Der Begriff beschreibt also nicht, ob ein Inhalt wahr ist, sondern woher er stammt und welche Bearbeitungsschritte er durchlaufen hat.
Ein gutes Bild dafür ist ein Beipackzettel für digitale Medien. Er sagt nicht, ob der Inhalt korrekt interpretiert wird, liefert aber Hinweise auf Ursprung, Erstellung und Veränderung.
Ein einfaches Mini-Modell macht den Nutzen greifbar: Quelle zeigt, wo ein Inhalt entstanden ist. Spur beschreibt technische Hinweise wie Metadaten oder Wasserzeichen. Kontext hilft Menschen und Plattformen zu prüfen, ob ein Inhalt irreführend eingesetzt wird.
Wie OpenAI Herkunftssignale kombiniert
OpenAI setzt nicht auf ein einzelnes Erkennungsverfahren, sondern auf mehrere Schichten. Das ist entscheidend, weil jedes Signal auf dem Weg durch Plattformen, Apps und Dateiformate beschädigt oder entfernt werden kann.
-
C2PA-Metadaten: OpenAI nutzt den offenen Standard der Coalition for Content Provenance and Authenticity, um Herkunfts- und Bearbeitungsinformationen an Bilder anzuhängen. Diese Daten können unter anderem zeigen, mit welchem System ein Inhalt erstellt oder verändert wurde.
-
Content Credentials: Die Angaben funktionieren wie maschinenlesbare Herkunftsnachweise. Sie sind für Plattformen, Redaktionen und Prüfwerkzeuge leichter auswertbar als rein sichtbare Labels.
-
SynthID-Wasserzeichen: Zusätzlich nutzt OpenAI Wasserzeichen für OpenAI-generierte Bilder. Wasserzeichen können in manchen Fällen länger erhalten bleiben als Metadaten, liefern aber weniger Kontext.
-
Öffentliche Prüfung: Mit OpenAI Verify können Nutzer unterstützte Bilder auf Herkunftssignale prüfen, die mit OpenAI-generierten Bildern verbunden sind.
-
Produktschutz: Provenienz ergänzt interne Regeln, Klassifikatoren, Meldewege und Durchsetzung gegen Täuschung, etwa bei Identitätsmissbrauch oder wahlbezogener Manipulation.
Wo die Technik an Grenzen stößt
Herkunftsnachweise sind nützlich, aber nicht unzerstörbar. Metadaten können beim Hochladen, Herunterladen, Konvertieren oder Komprimieren verschwinden. Wasserzeichen können durch starke Bearbeitung, Screenshots oder Formatwechsel schwächer werden.
Auch ein positives Signal ist kein Wahrheitsbeweis. Wenn ein Bild als OpenAI-generiert erkannt wird, sagt das nur etwas über seine technische Herkunft aus. Es sagt nicht, ob das Bild korrekt beschrieben, aus dem Zusammenhang gerissen oder bewusst manipulativ eingesetzt wurde.
Umgekehrt beweist ein fehlendes Signal nicht, dass ein Inhalt echt ist. Er kann mit einem anderen KI-System erstellt worden sein, aus einer älteren Modellgeneration stammen oder seine Metadaten verloren haben.
Welche Regel in der Praxis hilft
Ein konkretes Praxisbeispiel zeigt die richtige Nutzung. Eine Redaktion erhält kurz vor einer Wahl ein virales Bild, das angeblich eine manipulierte Wahlurne zeigt. Der erste Schritt ist ein Provenienz-Check, etwa über OpenAI Verify oder ein C2PA-Prüfwerkzeug. Findet sich ein Signal, liefert das einen starken Hinweis auf die technische Herkunft.
Die Redaktion darf damit aber nicht aufhören. Sie muss zusätzlich die Originaldatei anfordern, die Quelle prüfen, Rückwärtssuchen nutzen und den Ort oder Zeitpunkt verifizieren. Provenienz ist der Startpunkt der Prüfung, nicht ihr Ende.
Die klare Entscheidungsregel lautet: Nie allein vertrauen. Ein Inhalt sollte erst dann veröffentlicht, entfernt oder als manipuliert bewertet werden, wenn mindestens zwei unabhängige Hinweise zusammenpassen, etwa Herkunftssignal plus Quellenprüfung oder Wasserzeichen plus redaktionelle Verifikation.
Was das für den KI-Markt bedeutet
Der Schritt zeigt, wohin sich der KI-Markt bewegt. Der Wettbewerb dreht sich nicht mehr nur um leistungsfähigere Modelle, sondern zunehmend um Vertrauens-Infrastruktur. Wer KI-Systeme anbietet, muss erklären können, wie Inhalte markiert, geprüft und missbräuchliche Nutzung begrenzt werden.
Für Anbieter wird Transparenz damit zu einem Produktmerkmal. Für Plattformen wird sie zu einem Moderationswerkzeug. Für Nutzer wird sie zu einer Orientierungshilfe in einem Netz, in dem echte, bearbeitete und vollständig synthetische Inhalte nebeneinanderstehen.
OpenAIs Unterstützung des EU-Codes ist deshalb mehr als regulatorische Zustimmung. Sie signalisiert, dass Herkunftsnachweise, offene Standards und interoperable Prüfwerkzeuge zu einem neuen Basislayer für generative KI werden.