OpenAI nutzt Herkunftssignale wie SynthID-Wasserzeichen und Content Credentials (C2PA), damit Menschen erkennen können, ob Inhalte mit OpenAI-Tools erstellt wurden. Herkunftssignale können hilfreiche Hinweise auf den Ursprung geben. Sie garantieren jedoch nicht, dass Inhalte korrekt, unbearbeitet, rechtmäßiges Eigentum oder im richtigen Kontext dargestellt sind.
Was ist der C2PA-Standard und was ermöglicht er?
C2PA ist ein offener technischer Standard, mit dem Verlage, Unternehmen und andere Organisationen Metadaten in Medien einbetten können, um deren Ursprung und zugehörige Informationen zu verifizieren. C2PA ist nicht nur für KI-generierte Inhalte gedacht. Auch Kamerahersteller, Nachrichtenorganisationen und andere setzen diesen Standard ein, um Quelle und Entstehungsgeschichte, also die Herkunft, von Medieninhalten zu bestätigen.
C2PA-Metadaten können beispielsweise angeben, mit welchem Tool oder Dienst eine Datei erstellt wurde, wann sie erstellt wurde und weitere Details zu ihrem Ursprung oder ihrer Entstehungsgeschichte enthalten.
Weitere Informationen zu C2PA.
Was ist SynthID und was ermöglicht es?
SynthID ist eine Technologie für unsichtbare Wasserzeichen, die ein Signal direkt in generierte Medien einbettet. Anders als Metadaten ist das Signal Teil des Inhalts selbst und kann auch nach bestimmten Bearbeitungen oder Umwandlungen erhalten bleiben.
SynthID ergänzt C2PA-Metadaten um ein weiteres Herkunftssignal. Werden beispielsweise die Metadaten aus einer Datei entfernt, kann ein eingebettetes Wasserzeichen weiterhin darauf hinweisen, dass der Inhalt mit unterstützten OpenAI-Tools erstellt wurde.
Welche Arten von OpenAI-generierten Inhalten enthalten Herkunftssignale?
OpenAI verwendet je nach Inhaltstyp unterschiedliche Herkunftssignale.
| Inhaltstyp | Herkunftssignale | Hinweise |
|---|---|---|
| Bilder | C2PA-Metadaten und SynthID-Wasserzeichen | Unterstützte Bilder, die mit ChatGPT, Codex oder der OpenAI API erstellt wurden, enthalten beide Signale. |
| Audio | SynthID-Wasserzeichen | Unterstützte, von OpenAI generierte Audioinhalte enthalten ein unhörbares Wasserzeichen, das direkt in das Audiomaterial eingebettet ist. |
Die Abdeckung kann je nach Produkt, Modell, Exportweg, Dateityp und Erstellungszeitpunkt des Inhalts variieren.
Warum verwenden manche Inhaltstypen unterschiedliche Herkunftssignale?
Unterschiedliche Medienformate bewahren Herkunftsinformationen auf unterschiedliche Weise.
Metadaten wie C2PA Content Credentials können detailliertere Informationen enthalten. Plattformen, Bearbeitungstools oder Dateikonvertierungen können sie jedoch mitunter entfernen.
Wasserzeichen wie SynthID sind direkt in die generierten Medien eingebettet und können bestimmte Umwandlungen besser überstehen. Wasserzeichen liefern jedoch in der Regel weniger Kontext als Metadaten.
Wo es technisch möglich und sinnvoll ist, sorgen beide Ansätze zusammen für aussagekräftigere Herkunftssignale.
Wie kann ich einem mit OpenAI-Tools erstellten Bild ein sichtbares Wasserzeichen hinzufügen?
Du kannst das Modell per Prompt auffordern, Bilder, die mit ChatGPT, Codex oder der OpenAI API erstellt werden, mit einem sichtbaren Hinweis zu versehen. Bei der Bilderstellung kannst du zum Beispiel sagen: „Füge dem Bild ein sichtbares OpenAI-Wasserzeichen hinzu.“
Sichtbare Wasserzeichen sind von eingebetteten Herkunftssignalen wie C2PA-Metadaten und SynthID-Wasserzeichen getrennt. Sie können Betrachtenden zeigen, dass ein Bild mit OpenAI-Tools erstellt wurde. Sie sind jedoch nicht mit maschinenlesbaren Herkunftssignalen gleichzusetzen.
Wie kann ich prüfen, ob Inhalte mit OpenAI-Tools erstellt wurden?
Auf openai.com/verify kannst du prüfen, ob ein unterstütztes Bild oder eine unterstützte Audiodatei Herkunftssignale für Inhalte enthält, die mit OpenAI-Tools erstellt oder exportiert wurden.
Nachdem du eine unterstützte Datei hochgeladen hast, sucht das Tool nach unterstützten OpenAI-Herkunftssignalen, etwa einem SynthID-Wasserzeichen oder einem vertrauenswürdigen C2PA-Manifest mit Bezug zu OpenAI.
Findet das Tool ein unterstütztes OpenAI-Herkunftssignal, weist dies darauf hin, dass der Inhalt mit OpenAI-Tools erstellt oder daraus exportiert wurde.
Was bedeutet ein Verifizierungsergebnis?
Wird ein Signal erkannt, kann das Tool bestätigen, dass der hochgeladene Inhalt ein unterstütztes Herkunftssignal mit Bezug zu OpenAI enthält.
Das Tool bestätigt nicht, dass der Inhalt korrekt, unbearbeitet, rechtmäßiges Eigentum oder im richtigen Kontext dargestellt ist. Es stellt auch nicht fest, wer den Inhalt erstellt hat oder aus welchem Grund.
Was bedeutet es, wenn kein Signal gefunden wird?
Wird kein Signal erkannt, hat das Tool in der hochgeladenen Datei keine von OpenAI ausgegebenen Herkunftssignale gefunden.
Der Inhalt könnte dennoch mit OpenAI erstellt oder daraus exportiert worden sein, wenn:
der Inhalt erstellt wurde, bevor Herkunftssignale verfügbar waren.
der Inhalt aus einem nicht unterstützten Produkt, Modell, Exportweg oder Dateityp stammt.
Metadaten beim Hochladen, Herunterladen, Bearbeiten, Konvertieren oder Teilen entfernt wurden.
ein Wasserzeichen durch Komprimierung, Zuschneiden, Rauschen, Bearbeitungen, Formatkonvertierung oder andere Umwandlungen beeinträchtigt wurde.
ein Audioclip zu kurz ist oder erheblich verändert wurde.
Ist die Unterstützung von Textausgaben geplant?
Im Einklang mit unseren Verpflichtungen aus dem Verhaltenskodex der Europäischen Kommission zur Transparenz KI-generierter Inhalte wollen wir Herkunftssignale auf alle Modalitäten einschließlich Text ausweiten. So erhalten Kundschaft und Entwicklungsteams klare Möglichkeiten, ihre eigenen Transparenzpflichten zu erfüllen, während Standards und Tools weiter ausgereift werden.
Kann OpenAI Verify Inhalte anderer KI-Tools erkennen?
OpenAI Verify wurde entwickelt, um unterstützte Herkunftssignale von Inhalten zu erkennen, die mit OpenAI-Tools erstellt oder exportiert wurden.
Es ist nicht darauf ausgelegt, Inhalte anderer KI-Dienste zu erkennen. Auch von OpenAI generierte Inhalte werden möglicherweise nicht erkannt, wenn das entsprechende Signal fehlt, nicht unterstützt wird oder beeinträchtigt ist.
Können Entwicklungsteams Inhalte über eine API verifizieren?
Entwicklungsteams und Organisationen können mit der Verifizierungs-API von OpenAI unterstützte Inhalte auf OpenAI-Herkunftssignale prüfen und die Verifizierung in ihre eigenen Anwendungen oder Workflows integrieren. Informationen zum API-Zugriff findest du unter openai.com/verify. Organisationen, die höhere Nutzungslimits benötigen, können eine Erhöhung beantragen. Weitere Informationen findest du unter openai.com/verify.