OpenAI utilise des signaux de provenance tels que les filigranes SynthID et les Content Credentials (C2PA) pour aider les utilisateurs à déterminer si un contenu a été généré avec des outils OpenAI. Les signaux de provenance peuvent fournir des indications utiles sur l’origine d’un contenu, mais ne garantissent pas que celui-ci est exact, non modifié, détenu légalement ou présenté dans le bon contexte.
Qu’est-ce que la norme C2PA et que permet-elle ?
C2PA est une norme technique ouverte qui permet aux éditeurs, aux entreprises et à d’autres acteurs d’intégrer des métadonnées aux contenus multimédias afin d’en vérifier l’origine et les informations connexes. C2PA ne concerne pas uniquement le contenu généré par l’IA. Cette même norme est également adoptée par les fabricants d’appareils photo, les organes de presse et d’autres acteurs afin de certifier la source et l’historique, ou provenance, des contenus multimédias.
Les métadonnées C2PA peuvent inclure des informations telles que l’outil ou le service ayant créé un fichier, sa date de création et d’autres détails sur son origine ou son historique.
En savoir plus sur C2PA.
Qu’est-ce que SynthID et que permet-il ?
SynthID est une technologie de filigrane invisible qui intègre directement un signal dans les contenus multimédias générés. Contrairement aux métadonnées, le signal fait partie intégrante du contenu et peut subsister après certaines modifications ou transformations.
SynthID fournit un signal de provenance supplémentaire en complément des métadonnées C2PA. Par exemple, si les métadonnées sont supprimées d’un fichier, un filigrane intégré peut toujours indiquer que le contenu a été généré avec des outils OpenAI compatibles.
Quels types de contenus générés par OpenAI incluent des signaux de provenance ?
OpenAI utilise différents signaux de provenance selon le type de contenu.
| Type de contenu | Signaux de provenance | Remarques |
|---|---|---|
| Images | Métadonnées C2PA et filigranes SynthID | Les images compatibles générées avec ChatGPT, Codex et l’API OpenAI incluent les deux signaux. |
| Audio | Filigranes SynthID | Les contenus audio compatibles générés par OpenAI incluent un filigrane inaudible intégré directement au contenu audio. |
La couverture peut varier selon le produit, le modèle, le mode d’exportation, le type de fichier et la date de création du contenu.
Pourquoi certains types de contenus utilisent-ils des signaux de provenance différents ?
Les différents formats multimédias conservent les informations de provenance de différentes manières.
Les métadonnées, telles que les Content Credentials C2PA, peuvent contenir des informations plus détaillées, mais elles sont parfois supprimées par les plateformes, les outils de retouche ou les conversions de fichiers.
Les filigranes, tels que SynthID, sont intégrés directement aux contenus multimédias générés et peuvent mieux résister à certaines transformations. Cependant, les filigranes fournissent généralement moins de contexte que les métadonnées.
Lorsque cela est techniquement possible, l’utilisation conjointe des deux méthodes, le cas échéant, permet de fournir des signaux de provenance plus fiables.
Comment ajouter un filigrane visible à une image générée avec des outils OpenAI ?
Vous pouvez demander l’ajout d’une mention visible aux images générées avec ChatGPT, Codex et l’API OpenAI en indiquant au modèle de l’inclure. Par exemple, lors de la génération d’une image, vous pouvez indiquer : « Inclure un filigrane OpenAI visible dans l’image. »
Les filigranes visibles sont distincts des signaux de provenance intégrés, tels que les métadonnées C2PA et les filigranes SynthID. Ils peuvent aider le public à reconnaître qu’une image a été générée avec des outils OpenAI, mais ils ne sont pas équivalents aux signaux de provenance lisibles par une machine.
Comment vérifier si un contenu a été généré avec des outils OpenAI ?
Vous pouvez consulter openai.com/verify pour vérifier si une image ou un fichier audio compatible contient des signaux de provenance associés à du contenu généré ou exporté par des outils OpenAI.
Après l’importation d’un fichier compatible, l’outil recherchera les signaux de provenance OpenAI pris en charge, tels qu’un filigrane SynthID ou un manifeste C2PA fiable associé à OpenAI.
Si l’outil détecte un signal de provenance OpenAI pris en charge, cela indique que le contenu a été généré par des outils OpenAI ou exporté depuis ceux-ci.
Que signifie un résultat de vérification ?
Si un signal est détecté, l’outil peut aider à confirmer que le contenu importé comporte un signal de provenance pris en charge et associé à OpenAI.
L’outil ne confirme pas que le contenu est exact, non modifié, détenu légalement ou présenté dans le bon contexte. Il ne permet pas non plus de déterminer qui a créé le contenu ni pourquoi il a été créé.
Que se passe-t-il si aucun signal n’est détecté ?
Si aucun signal n’est détecté, cela signifie que l’outil n’a trouvé aucun signal de provenance émis par OpenAI dans le fichier importé.
Le contenu pourrait néanmoins avoir été généré ou exporté par OpenAI dans les cas suivants :
Le contenu a été créé avant que les signaux de provenance ne soient disponibles.
Le contenu provient d’un produit, d’un modèle, d’un mode d’exportation ou d’un type de fichier non pris en charge.
Les métadonnées ont été supprimées lors de l’importation, du téléchargement, de la modification, de la conversion ou du partage.
Un filigrane a été altéré par la compression, le recadrage, le bruit, des modifications, une conversion de format ou d’autres transformations.
Un extrait audio est trop court ou a été considérablement modifié.
Prévoyez-vous de prendre en charge les sorties textuelles ?
Conformément à nos engagements au titre du Code de bonnes pratiques de la Commission européenne sur la transparence des contenus générés par l’IA, notre objectif est d’étendre les signaux de provenance à toutes les modalités, y compris le texte, afin que les clients et les développeurs disposent de moyens clairs pour respecter leurs propres obligations de transparence à mesure que les normes et les outils évoluent.
OpenAI Verify peut-il détecter du contenu provenant d’autres outils d’IA ?
OpenAI Verify est conçu pour détecter les signaux de provenance pris en charge qui sont associés aux contenus générés ou exportés par des outils OpenAI.
Il n’est pas conçu pour détecter les contenus générés par d’autres services d’IA et peut également ne pas détecter un contenu généré par OpenAI si le signal pertinent est absent, non pris en charge ou altéré.
Les développeurs peuvent-ils vérifier du contenu à l’aide d’une API ?
Les développeurs et les organisations peuvent utiliser l’API de vérification d’OpenAI pour rechercher des signaux de provenance OpenAI dans les contenus compatibles et intégrer la vérification à leurs propres applications ou flux de travail. Consultez openai.com/verify pour obtenir des informations sur l’accès à l’API. Les organisations ayant besoin de limites d’utilisation plus élevées peuvent demander leur augmentation. Pour plus d’informations, consultez openai.com/verify.