OpenAI gebruikt herkomstsignalen zoals SynthID-watermerken en Content Credentials (C2PA) om mensen te helpen vaststellen of content met OpenAI-tools is gegenereerd. Herkomstsignalen kunnen nuttige aanwijzingen over de oorsprong bieden, maar garanderen niet dat content juist, onbewerkt, rechtmatig eigendom of in de juiste context gepresenteerd is.
Wat is de C2PA-standaard en wat maakt deze mogelijk?
C2PA is een open technische standaard waarmee uitgevers, bedrijven en anderen metadata in media kunnen insluiten om de oorsprong en bijbehorende informatie te verifiëren. C2PA is niet alleen bedoeld voor door AI gegenereerde content. Dezelfde standaard wordt ook ingevoerd door camerafabrikanten, nieuwsorganisaties en anderen om de bron en geschiedenis, oftewel de herkomst, van mediacontent te certificeren.
C2PA-metadata kan informatie bevatten over bijvoorbeeld de tool of dienst waarmee een bestand is gemaakt, wanneer het is gemaakt en andere details over de oorsprong of geschiedenis ervan.
Lees meer over C2PA.
Wat is SynthID en wat maakt het mogelijk?
SynthID is een technologie voor onzichtbare watermerken die rechtstreeks een signaal in gegenereerde media insluit. Anders dan metadata maakt het signaal deel uit van de content zelf en kan het na sommige bewerkingen of transformaties behouden blijven.
SynthID biedt naast C2PA-metadata een aanvullend herkomstsignaal. Als metadata bijvoorbeeld uit een bestand wordt verwijderd, kan een ingesloten watermerk nog steeds aangeven dat de content met ondersteunde OpenAI-tools is gegenereerd.
Welke soorten door OpenAI gegenereerde content bevatten herkomstsignalen?
OpenAI gebruikt verschillende herkomstsignalen voor verschillende soorten content.
| Type content | Herkomstsignalen | Opmerkingen |
|---|---|---|
| Afbeeldingen | C2PA-metadata en SynthID-watermerken | Ondersteunde afbeeldingen die met ChatGPT, Codex en de OpenAI-API zijn gegenereerd, bevatten beide signalen. |
| Audio | SynthID-watermerken | Ondersteunde, door OpenAI gegenereerde audio bevat een onhoorbaar watermerk dat in de audio zelf is ingesloten. |
De dekking kan variëren per product, model, exportmethode, bestandstype en aanmaakdatum van de content.
Waarom gebruiken sommige soorten content verschillende herkomstsignalen?
Verschillende mediaformaten bewaren herkomstinformatie op verschillende manieren.
Metadata, zoals C2PA Content Credentials, kan meer gedetailleerde informatie bevatten, maar kan soms door platforms, bewerkingstools of bestandsconversies worden verwijderd.
Watermerken zoals SynthID worden in de gegenereerde media zelf ingesloten en kunnen bij sommige transformaties beter behouden blijven. Watermerken bieden doorgaans echter minder context dan metadata.
Als het technisch haalbaar is, levert het passende gebruik van beide benaderingen sterkere herkomstsignalen op.
Hoe kan ik een zichtbaar watermerk toevoegen aan een afbeelding die met OpenAI-tools is gegenereerd?
U kunt de model via een prompt vragen om een zichtbare vermelding op te nemen in afbeeldingen die met ChatGPT, Codex en de OpenAI-API worden gegenereerd. Bij het genereren van een afbeelding kunt u bijvoorbeeld zeggen: "Include a visible OpenAI watermark in the image."
Zichtbare watermerken staan los van ingesloten herkomstsignalen zoals C2PA-metadata en SynthID-watermerken. Ze kunnen kijkers helpen herkennen dat een afbeelding met OpenAI-tools is gegenereerd, maar zijn niet hetzelfde als machineleesbare herkomstsignalen.
Hoe kan ik controleren of content met OpenAI-tools is gegenereerd?
Ga naar openai.com/verify om te controleren of een ondersteunde afbeelding of een ondersteund audiobestand herkomstsignalen bevat die verband houden met content die door OpenAI-tools is gegenereerd of geëxporteerd.
Nadat u een ondersteund bestand hebt geüpload, zoekt de tool naar ondersteunde herkomstsignalen van OpenAI, zoals een SynthID-watermerk of een vertrouwd C2PA-manifest dat aan OpenAI is gekoppeld.
Als de tool een ondersteund herkomstsignaal van OpenAI vindt, geeft dit aan dat de content door OpenAI-tools is gegenereerd of daaruit is geëxporteerd.
Wat betekent een verificatieresultaat?
Als er een signaal wordt gedetecteerd, kan de tool helpen bevestigen dat de geüploade content een ondersteund herkomstsignaal bevat dat aan OpenAI is gekoppeld.
De tool bevestigt niet dat de content juist, onbewerkt, rechtmatig eigendom of in de juiste context gepresenteerd is. De tool stelt ook niet vast wie de content heeft gemaakt of waarom.
Wat als er geen signaal wordt gevonden?
Als er geen signaal wordt gedetecteerd, heeft de tool in het geüploade bestand geen door OpenAI uitgegeven herkomstsignalen gevonden.
De content kan toch door OpenAI zijn gegenereerd of geëxporteerd als:
De content is gemaakt voordat herkomstsignalen beschikbaar waren.
De content afkomstig is van een niet-ondersteund product, model, exportmethode of bestandstype.
Metadata tijdens het uploaden, downloaden, bewerken, converteren of delen is verwijderd.
Een watermerk is aangetast door compressie, bijsnijden, ruis, bewerkingen, formaatconversie of andere transformaties.
Een audiofragment te kort is of aanzienlijk is gewijzigd.
Zijn er plannen om tekstuitvoer te ondersteunen?
In overeenstemming met onze toezeggingen op grond van de gedragscode van de Europese Commissie inzake transparantie van door AI gegenereerde content, streven we ernaar herkomstsignalen uit te breiden naar alle modaliteiten, waaronder tekst. Zo krijgen klanten en ontwikkelaars duidelijke manieren om aan hun eigen transparantieverplichtingen te voldoen terwijl standaarden en tools zich verder ontwikkelen.
Kan OpenAI Verify content van andere AI-tools detecteren?
OpenAI Verify is ontworpen om ondersteunde herkomstsignalen te detecteren die verband houden met content die door OpenAI-tools is gegenereerd of geëxporteerd.
Het is niet ontworpen om content te detecteren die door andere AI-diensten is gegenereerd. Ook detecteert het mogelijk geen door OpenAI gegenereerde content als het relevante signaal ontbreekt, niet wordt ondersteund of is aangetast.
Kunnen ontwikkelaars content verifiëren via een API?
Ontwikkelaars en organisaties kunnen de verificatie-API van OpenAI gebruiken om ondersteunde content te controleren op herkomstsignalen van OpenAI en verificatie in hun eigen toepassingen of workflows te integreren. Ga naar openai.com/verify voor informatie over API-toegang. Organisaties die hogere gebruikslimieten nodig hebben, kunnen een verhoging aanvragen. Ga voor meer informatie naar openai.com/verify.