A OpenAI usa sinais de proveniência, como marcas d'água SynthID e Credenciais de Conteúdo (C2PA), para ajudar as pessoas a entender se um conteúdo foi gerado com ferramentas da OpenAI. Os sinais de proveniência podem ser indicadores úteis da origem, mas não garantem que o conteúdo seja preciso, não tenha sido editado, seja de propriedade legal de quem o apresenta ou esteja no contexto correto.
O que é o padrão C2PA e o que ele possibilita?
C2PA é um padrão técnico aberto que permite a editoras, empresas e outras organizações incorporar metadados a mídias para verificar sua origem e informações relacionadas. O C2PA não se destina apenas a conteúdo gerado por IA. O mesmo padrão também está sendo adotado por fabricantes de câmeras, organizações de notícias e outras entidades para certificar a fonte e o histórico, ou seja, a proveniência, do conteúdo de mídia.
Os metadados C2PA podem incluir informações como a ferramenta ou o serviço que criou um arquivo, quando ele foi criado e outros detalhes sobre sua origem ou seu histórico.
Saiba mais sobre o C2PA.
O que é o SynthID e o que ele possibilita?
O SynthID é uma tecnologia de marca d'água invisível que incorpora um sinal diretamente à mídia gerada. Ao contrário dos metadados, o sinal faz parte do próprio conteúdo e pode permanecer após algumas edições ou transformações.
O SynthID oferece um sinal de proveniência adicional aos metadados C2PA. Por exemplo, se os metadados forem removidos de um arquivo, uma marca d'água incorporada ainda poderá indicar que o conteúdo foi gerado com ferramentas compatíveis da OpenAI.
Quais tipos de conteúdo gerado pela OpenAI incluem sinais de proveniência?
A OpenAI usa diferentes sinais de proveniência para diferentes tipos de conteúdo.
| Tipo de conteúdo | Sinais de proveniência | Observações |
|---|---|---|
| Imagens | Metadados C2PA e marcas d'água SynthID | As imagens compatíveis geradas com o ChatGPT, o Codex e a API da OpenAI incluem ambos os sinais. |
| Áudio | Marcas d'água SynthID | Os áudios compatíveis gerados pela OpenAI incluem uma marca d'água inaudível incorporada ao próprio áudio. |
A cobertura pode variar conforme o produto, o modelo, o caminho de exportação, o tipo de arquivo e a data de criação do conteúdo.
Por que alguns tipos de conteúdo usam sinais de proveniência diferentes?
Diferentes formatos de mídia preservam informações de proveniência de maneiras distintas.
Metadados, como as Credenciais de Conteúdo C2PA, podem conter informações mais detalhadas, mas às vezes são removidos por plataformas, ferramentas de edição ou conversões de arquivos.
Marcas d'água, como o SynthID, são incorporadas à própria mídia gerada e podem resistir melhor a algumas transformações. No entanto, as marcas d'água geralmente fornecem menos contexto do que os metadados.
Quando for tecnicamente viável, usar as duas abordagens nos casos apropriados ajuda a fornecer sinais de proveniência mais robustos.
Como posso adicionar uma marca d'água visível a uma imagem gerada com ferramentas da OpenAI?
Você pode solicitar uma indicação visível em imagens geradas com o ChatGPT, o Codex e a API da OpenAI, instruindo o modelo a incluí-la. Por exemplo, ao gerar uma imagem, você pode dizer: "Include a visible OpenAI watermark in the image."
As marcas d'água visíveis são diferentes dos sinais de proveniência incorporados, como metadados C2PA e marcas d'água SynthID. Elas podem ajudar as pessoas a reconhecer que uma imagem foi gerada com ferramentas da OpenAI, mas não são o mesmo que sinais de proveniência legíveis por máquina.
Como posso verificar se um conteúdo foi gerado com ferramentas da OpenAI?
Você pode acessar openai.com/verify para verificar se uma imagem ou um arquivo de áudio compatível contém sinais de proveniência associados a conteúdo gerado ou exportado por ferramentas da OpenAI.
Depois que você enviar um arquivo compatível, a ferramenta procurará sinais de proveniência compatíveis da OpenAI, como uma marca d'água SynthID ou um manifesto C2PA confiável associado à OpenAI.
Se a ferramenta encontrar um sinal de proveniência compatível da OpenAI, isso indicará que o conteúdo foi gerado ou exportado por ferramentas da OpenAI.
O que significa um resultado de verificação?
Se um sinal for detectado, a ferramenta poderá ajudar a confirmar que o conteúdo enviado contém um sinal de proveniência compatível associado à OpenAI.
A ferramenta não confirma se o conteúdo é preciso, não foi editado, é de propriedade legal de quem o apresenta ou está no contexto correto. Ela também não identifica quem criou o conteúdo nem por que ele foi criado.
E se nenhum sinal for encontrado?
Se nenhum sinal for detectado, isso significa que a ferramenta não encontrou no arquivo enviado sinais de proveniência emitidos pela OpenAI.
Ainda assim, o conteúdo pode ter sido gerado ou exportado pela OpenAI se:
O conteúdo foi criado antes da disponibilização dos sinais de proveniência.
O conteúdo veio de um produto, modelo, caminho de exportação ou tipo de arquivo incompatível.
Os metadados foram removidos durante o envio, download, edição, conversão ou compartilhamento.
Uma marca d'água foi degradada por compactação, corte, ruído, edições, conversão de formato ou outras transformações.
Um clipe de áudio é curto demais ou foi modificado de forma significativa.
Há planos para oferecer compatibilidade com saídas de texto?
Em conformidade com nossos compromissos previstos no Código de Conduta da Comissão Europeia sobre Transparência de Conteúdo Gerado por IA, nosso objetivo é ampliar os sinais de proveniência para todas as modalidades, inclusive texto, para que clientes e desenvolvedores tenham meios claros de cumprir suas próprias obrigações de transparência à medida que os padrões e as ferramentas continuem evoluindo.
O OpenAI Verify consegue detectar conteúdo de outras ferramentas de IA?
O OpenAI Verify foi desenvolvido para detectar sinais de proveniência compatíveis associados a conteúdo gerado ou exportado por ferramentas da OpenAI.
Ele não foi desenvolvido para detectar conteúdo gerado por outros serviços de IA e também pode não detectar conteúdo gerado pela OpenAI se o sinal relevante estiver ausente, não for compatível ou estiver degradado.
Os desenvolvedores podem verificar conteúdo usando uma API?
Desenvolvedores e organizações podem usar a API de verificação da OpenAI para procurar sinais de proveniência da OpenAI em conteúdos compatíveis e integrar a verificação a seus próprios aplicativos ou fluxos de trabalho. Acesse openai.com/verify para obter informações sobre o acesso à API. As organizações que precisam de limites de uso maiores podem solicitar um aumento. Acesse openai.com/verify para saber mais.