OpenAI utilizza segnali di provenienza, come le filigrane SynthID e le Credenziali dei contenuti (C2PA), per aiutare le persone a capire se un contenuto è stato generato con strumenti OpenAI. I segnali di provenienza possono fornire indicazioni utili sull'origine, ma non garantiscono che un contenuto sia accurato, non modificato, legalmente posseduto o presentato nel contesto corretto.
Che cos'è lo standard C2PA e cosa consente di fare?
C2PA è uno standard tecnico aperto che consente a editori, aziende e altri soggetti di incorporare metadati nei contenuti multimediali per verificarne l'origine e le relative informazioni. C2PA non riguarda soltanto i contenuti generati dall'IA. Lo stesso standard viene adottato anche da produttori di fotocamere, organizzazioni giornalistiche e altri soggetti per certificare la fonte e la storia, ovvero la provenienza, dei contenuti multimediali.
I metadati C2PA possono includere informazioni quali lo strumento o il servizio che ha creato un file, la data di creazione e altri dettagli sulla sua origine o storia.
Scopri di più su C2PA.
Che cos'è SynthID e cosa consente di fare?
SynthID è una tecnologia di filigrana invisibile che incorpora un segnale direttamente nei contenuti multimediali generati. A differenza dei metadati, il segnale fa parte del contenuto stesso e può persistere dopo alcune modifiche o trasformazioni.
SynthID fornisce un ulteriore segnale di provenienza oltre ai metadati C2PA. Ad esempio, se i metadati vengono rimossi da un file, una filigrana incorporata può comunque segnalare che il contenuto è stato generato con strumenti OpenAI supportati.
Quali tipi di contenuti generati da OpenAI includono segnali di provenienza?
OpenAI utilizza segnali di provenienza diversi per i vari tipi di contenuti.
| Tipo di contenuto | Segnali di provenienza | Note |
|---|---|---|
| Immagini | Metadati C2PA e filigrane SynthID | Le immagini supportate generate con ChatGPT, Codex e l'API OpenAI includono entrambi i segnali. |
| Audio | Filigrane SynthID | I contenuti audio supportati generati da OpenAI includono una filigrana non udibile incorporata nell'audio stesso. |
La copertura può variare in base al prodotto, al modello, al metodo di esportazione, al tipo di file e alla data di creazione del contenuto.
Perché alcuni tipi di contenuti utilizzano segnali di provenienza diversi?
I diversi formati multimediali conservano le informazioni sulla provenienza in modi differenti.
I metadati, come le Credenziali dei contenuti C2PA, possono contenere informazioni più dettagliate, ma a volte vengono rimossi dalle piattaforme, dagli strumenti di modifica o durante la conversione dei file.
Le filigrane, come SynthID, sono incorporate direttamente nei contenuti multimediali generati e possono resistere meglio ad alcune trasformazioni. Tuttavia, le filigrane forniscono generalmente meno informazioni contestuali rispetto ai metadati.
Quando è tecnicamente possibile, l'uso combinato dei due approcci nei casi appropriati contribuisce a fornire segnali di provenienza più solidi.
Come posso aggiungere una filigrana visibile a un'immagine generata con gli strumenti OpenAI?
Puoi richiedere un'indicazione visibile sulle immagini generate con ChatGPT, Codex e l'API OpenAI chiedendo al modello di includerla. Ad esempio, quando generi un'immagine, puoi scrivere: «Include a visible OpenAI watermark in the image.»
Le filigrane visibili sono distinte dai segnali di provenienza incorporati, come i metadati C2PA e le filigrane SynthID. Possono aiutare chi guarda a riconoscere che un'immagine è stata generata con strumenti OpenAI, ma non equivalgono ai segnali di provenienza leggibili dalle macchine.
Come posso verificare se un contenuto è stato generato con gli strumenti OpenAI?
Puoi visitare openai.com/verify per verificare se un'immagine o un file audio supportato contiene segnali di provenienza associati a contenuti generati o esportati dagli strumenti OpenAI.
Dopo aver caricato un file supportato, lo strumento cercherà segnali di provenienza OpenAI supportati, come una filigrana SynthID o un manifesto C2PA attendibile associato a OpenAI.
Se lo strumento trova un segnale di provenienza OpenAI supportato, ciò indica che il contenuto è stato generato o esportato dagli strumenti OpenAI.
Che cosa significa il risultato di una verifica?
Se viene rilevato un segnale, lo strumento può aiutare a confermare che il contenuto caricato include un segnale di provenienza supportato associato a OpenAI.
Lo strumento non conferma che il contenuto sia accurato, non modificato, legalmente posseduto o presentato nel contesto corretto. Inoltre, non identifica chi ha creato il contenuto né il motivo per cui è stato creato.
Cosa succede se non viene trovato alcun segnale?
Se non viene rilevato alcun segnale, significa che lo strumento non ha trovato nel file caricato segnali di provenienza emessi da OpenAI.
Il contenuto potrebbe comunque essere stato generato o esportato da OpenAI se:
Il contenuto è stato creato prima che i segnali di provenienza fossero disponibili.
Il contenuto proviene da un prodotto, un modello, un metodo di esportazione o un tipo di file non supportato.
I metadati sono stati rimossi durante il caricamento, il download, la modifica, la conversione o la condivisione.
Una filigrana è stata deteriorata dalla compressione, dal ritaglio, dal rumore, dalle modifiche, dalla conversione del formato o da altre trasformazioni.
Un clip audio è troppo breve o è stato modificato in modo sostanziale.
Prevedete di supportare anche gli output di testo?
In linea con i nostri impegni previsti dal Codice di buone pratiche della Commissione europea sulla trasparenza dei contenuti generati dall'IA, puntiamo a estendere i segnali di provenienza a tutte le modalità, compreso il testo, affinché clienti e sviluppatori dispongano di strumenti chiari per adempiere ai propri obblighi di trasparenza, mentre standard e strumenti continuano a evolversi.
OpenAI Verify può rilevare contenuti provenienti da altri strumenti di IA?
OpenAI Verify è progettato per rilevare i segnali di provenienza supportati associati ai contenuti generati o esportati dagli strumenti OpenAI.
Non è progettato per rilevare i contenuti generati da altri servizi di IA e potrebbe non rilevare neppure quelli generati da OpenAI se il relativo segnale è assente, non supportato o deteriorato.
Gli sviluppatori possono verificare i contenuti tramite un'API?
Gli sviluppatori e le organizzazioni possono utilizzare l'API di verifica di OpenAI per cercare nei contenuti supportati i segnali di provenienza OpenAI e integrare la verifica nelle proprie applicazioni o nei propri flussi di lavoro. Visita openai.com/verify per informazioni sull'accesso all'API. Le organizzazioni che necessitano di limiti di utilizzo più elevati possono richiederne l'aumento. Per ulteriori informazioni, visita openai.com/verify.