OpenAI utiliza señales de procedencia, como las marcas de agua SynthID y las Credenciales de contenido (C2PA), para ayudar a saber si un contenido se ha generado con herramientas de OpenAI. Las señales de procedencia pueden aportar indicios útiles sobre el origen, pero no garantizan que el contenido sea exacto, no se haya editado, sea propiedad legal de quien lo presenta ni aparezca en el contexto correcto.
¿Qué es el estándar C2PA y qué permite hacer?
C2PA es un estándar técnico abierto que permite a editoriales, empresas y otras entidades incorporar metadatos en contenidos multimedia para verificar su origen y otra información relacionada. C2PA no se limita al contenido generado por IA. Este mismo estándar también está siendo adoptado por fabricantes de cámaras, medios de comunicación y otras entidades para certificar la fuente y el historial, o procedencia, del contenido multimedia.
Los metadatos C2PA pueden incluir información como la herramienta o el servicio que creó un archivo, cuándo se creó y otros detalles sobre su origen o historial.
Más información sobre C2PA.
¿Qué es SynthID y qué permite hacer?
SynthID es una tecnología de marcas de agua invisibles que incorpora una señal directamente en el contenido multimedia generado. A diferencia de los metadatos, la señal forma parte del propio contenido y puede persistir tras determinadas ediciones o transformaciones.
SynthID proporciona una señal de procedencia adicional junto con los metadatos C2PA. Por ejemplo, si se eliminan los metadatos de un archivo, una marca de agua incorporada aún puede indicar que el contenido se generó con herramientas compatibles de OpenAI.
¿Qué tipos de contenido generado por OpenAI incluyen señales de procedencia?
OpenAI utiliza distintas señales de procedencia para cada tipo de contenido.
| Tipo de contenido | Señales de procedencia | Notas |
|---|---|---|
| Imágenes | Metadatos C2PA y marcas de agua SynthID | Las imágenes compatibles generadas con ChatGPT, Codex y la API de OpenAI incluyen ambas señales. |
| Audio | Marcas de agua SynthID | El audio compatible generado por OpenAI incluye una marca de agua inaudible incorporada en el propio audio. |
La cobertura puede variar según el producto, el modelo, la vía de exportación, el tipo de archivo y la fecha de creación del contenido.
¿Por qué algunos tipos de contenido utilizan señales de procedencia diferentes?
Los distintos formatos multimedia conservan la información de procedencia de maneras diferentes.
Los metadatos, como las Credenciales de contenido C2PA, pueden incluir información más detallada, pero a veces las plataformas, las herramientas de edición o las conversiones de archivos pueden eliminarlos.
Las marcas de agua, como SynthID, se incorporan al propio contenido multimedia generado y pueden resistir mejor determinadas transformaciones. Sin embargo, las marcas de agua suelen aportar menos contexto que los metadatos.
Cuando sea técnicamente viable, combinar ambos métodos donde corresponda permite ofrecer señales de procedencia más sólidas.
¿Cómo puedo añadir una marca de agua visible a una imagen generada con herramientas de OpenAI?
Puedes solicitar que se incluya un aviso visible en las imágenes generadas con ChatGPT, Codex y la API de OpenAI indicándoselo al modelo. Por ejemplo, al generar una imagen, puedes indicar: «Incluye una marca de agua visible de OpenAI en la imagen».
Las marcas de agua visibles son independientes de las señales de procedencia incorporadas, como los metadatos C2PA y las marcas de agua SynthID. Pueden ayudar a reconocer que una imagen se generó con herramientas de OpenAI, pero no equivalen a señales de procedencia legibles por máquinas.
¿Cómo puedo comprobar si un contenido se generó con herramientas de OpenAI?
Puedes visitar openai.com/verify para comprobar si una imagen o un archivo de audio compatibles contienen señales de procedencia asociadas a contenido generado o exportado por herramientas de OpenAI.
Después de subir un archivo compatible, la herramienta buscará señales de procedencia compatibles de OpenAI, como una marca de agua SynthID o un archivo de manifiesto C2PA de confianza asociado a OpenAI.
Si la herramienta encuentra una señal de procedencia compatible de OpenAI, significa que el contenido se generó o exportó mediante herramientas de OpenAI.
¿Qué significa el resultado de una verificación?
Si se detecta una señal, la herramienta puede ayudar a confirmar que el contenido subido contiene una señal de procedencia compatible asociada a OpenAI.
La herramienta no confirma que el contenido sea exacto, no se haya editado, sea propiedad legal de quien lo presenta ni aparezca en el contexto correcto. Tampoco identifica quién creó el contenido ni por qué se creó.
¿Qué ocurre si no se encuentra ninguna señal?
Si no se detecta ninguna señal, significa que la herramienta no ha encontrado en el archivo subido señales de procedencia emitidas por OpenAI.
Aun así, OpenAI podría haber generado o exportado el contenido si:
El contenido se creó antes de que estuvieran disponibles las señales de procedencia.
El contenido procedía de un producto, modelo, vía de exportación o tipo de archivo no compatible.
Los metadatos se eliminaron durante la subida, la descarga, la edición, la conversión o el intercambio del archivo.
Una marca de agua se deterioró debido a la compresión, el recorte, el ruido, las ediciones, la conversión de formato u otras transformaciones.
Un clip de audio es demasiado corto o se ha modificado considerablemente.
¿Tenéis previsto admitir resultados de texto?
En consonancia con nuestros compromisos en virtud del Código de buenas prácticas sobre la transparencia del contenido generado por IA de la Comisión Europea, nuestro objetivo es ampliar las señales de procedencia a todas las modalidades, incluido el texto, para que los clientes y desarrolladores dispongan de medios claros con los que cumplir sus propias obligaciones de transparencia a medida que los estándares y las herramientas sigan madurando.
¿Puede OpenAI Verify detectar contenido de otras herramientas de IA?
OpenAI Verify está diseñado para detectar señales de procedencia compatibles asociadas a contenido generado o exportado por herramientas de OpenAI.
No está diseñado para detectar contenido generado por otros servicios de IA y también puede no detectar contenido generado por OpenAI si la señal correspondiente no está presente, no es compatible o se ha deteriorado.
¿Pueden los desarrolladores verificar contenido mediante una API?
Los desarrolladores y las organizaciones pueden usar la API de verificación de OpenAI para buscar señales de procedencia de OpenAI en contenido compatible e integrar la verificación en sus propias aplicaciones o flujos de trabajo. Visita openai.com/verify para obtener información sobre el acceso a la API. Las organizaciones que necesiten límites de uso más altos pueden solicitar que se amplíen. Visita openai.com/verify para obtener más información.