OpenAI menggunakan sinyal asal-usul seperti watermark SynthID dan Kredensial Konten (C2PA) untuk membantu orang memahami apakah konten dibuat dengan alat OpenAI. Sinyal asal-usul dapat menjadi petunjuk asal yang berguna, tetapi tidak menjamin bahwa konten tersebut akurat, belum diedit, dimiliki secara sah, atau disajikan dalam konteks yang tepat.
Apa itu standar C2PA dan apa kegunaannya?
C2PA adalah standar teknis terbuka yang memungkinkan penerbit, perusahaan, dan pihak lain menyematkan metadata dalam media untuk memverifikasi asalnya serta informasi terkait. C2PA tidak hanya ditujukan untuk konten buatan AI. Standar yang sama juga mulai digunakan oleh produsen kamera, organisasi berita, dan pihak lain untuk mengesahkan sumber dan riwayat, atau asal-usul, konten media.
Metadata C2PA dapat mencakup informasi seperti alat atau layanan yang membuat file, waktu pembuatannya, serta detail lain tentang asal atau riwayatnya.
Pelajari lebih lanjut tentang C2PA.
Apa itu SynthID dan apa kegunaannya?
SynthID adalah teknologi watermark tak terlihat yang menyematkan sinyal secara langsung ke media yang dihasilkan. Tidak seperti metadata, sinyal ini merupakan bagian dari konten itu sendiri dan dapat tetap bertahan setelah penyuntingan atau transformasi tertentu.
SynthID memberikan sinyal asal-usul tambahan di samping metadata C2PA. Misalnya, jika metadata dihapus dari sebuah file, watermark yang disematkan mungkin masih dapat menunjukkan bahwa konten tersebut dibuat dengan alat OpenAI yang didukung.
Jenis konten buatan OpenAI apa saja yang menyertakan sinyal asal-usul?
OpenAI menggunakan sinyal asal-usul yang berbeda untuk setiap jenis konten.
| Jenis konten | Sinyal asal-usul | Catatan |
|---|---|---|
| Gambar | Metadata C2PA dan watermark SynthID | Gambar yang didukung dan dibuat dengan ChatGPT, Codex, serta API OpenAI menyertakan kedua sinyal tersebut. |
| Audio | Watermark SynthID | Audio buatan OpenAI yang didukung menyertakan watermark yang tidak terdengar dan disematkan langsung dalam audio tersebut. |
Cakupan dapat berbeda-beda menurut produk, model, jalur ekspor, jenis file, dan waktu pembuatan konten.
Mengapa beberapa jenis konten menggunakan sinyal asal-usul yang berbeda?
Format media yang berbeda mempertahankan informasi asal-usul dengan cara yang berbeda.
Metadata, seperti Kredensial Konten C2PA, dapat memuat informasi yang lebih terperinci, tetapi terkadang dapat dihapus oleh platform, alat penyuntingan, atau proses konversi file.
Watermark, seperti SynthID, disematkan dalam media yang dihasilkan dan mungkin lebih tahan terhadap transformasi tertentu. Namun, watermark umumnya memberikan lebih sedikit konteks dibandingkan metadata.
Jika memungkinkan secara teknis, penggunaan kedua pendekatan secara tepat akan membantu memberikan sinyal asal-usul yang lebih kuat.
Bagaimana cara menambahkan watermark yang terlihat ke gambar yang dibuat dengan alat OpenAI?
Anda dapat meminta penanda yang terlihat pada gambar yang dibuat dengan ChatGPT, Codex, dan API OpenAI melalui prompt kepada model agar menyertakannya. Misalnya, saat membuat gambar, Anda dapat mengatakan: “Include a visible OpenAI watermark in the image.”
Watermark yang terlihat terpisah dari sinyal asal-usul yang disematkan, seperti metadata C2PA dan watermark SynthID. Watermark tersebut dapat membantu orang mengenali bahwa gambar dibuat dengan alat OpenAI, tetapi tidak sama dengan sinyal asal-usul yang dapat dibaca mesin.
Bagaimana cara memeriksa apakah konten dibuat dengan alat OpenAI?
Anda dapat mengunjungi openai.com/verify untuk memeriksa apakah gambar atau file audio yang didukung memiliki sinyal asal-usul terkait konten yang dibuat atau diekspor oleh alat OpenAI.
Setelah Anda mengunggah file yang didukung, alat tersebut akan mencari sinyal asal-usul OpenAI yang didukung, seperti watermark SynthID atau manifes C2PA tepercaya yang terkait dengan OpenAI.
Jika menemukan sinyal asal-usul OpenAI yang didukung, alat tersebut menunjukkan bahwa konten dibuat oleh atau diekspor dari alat OpenAI.
Apa arti hasil verifikasi?
Jika sinyal terdeteksi, alat tersebut dapat membantu mengonfirmasi bahwa konten yang diunggah memiliki sinyal asal-usul yang didukung dan terkait dengan OpenAI.
Alat tersebut tidak mengonfirmasi bahwa konten itu akurat, belum diedit, dimiliki secara sah, atau disajikan dalam konteks yang tepat. Alat tersebut juga tidak mengidentifikasi siapa yang membuat konten atau alasan pembuatannya.
Bagaimana jika tidak ada sinyal yang ditemukan?
Jika tidak ada sinyal yang terdeteksi, berarti alat tersebut tidak menemukan sinyal asal-usul yang diterbitkan OpenAI dalam file yang diunggah.
Konten tersebut mungkin tetap dibuat atau diekspor oleh OpenAI jika:
Konten dibuat sebelum sinyal asal-usul tersedia.
Konten berasal dari produk, model, jalur ekspor, atau jenis file yang tidak didukung.
Metadata terhapus selama proses pengunggahan, pengunduhan, penyuntingan, konversi, atau pembagian.
Kualitas watermark menurun akibat kompresi, pemotongan, derau, penyuntingan, konversi format, atau transformasi lainnya.
Klip audio terlalu singkat atau telah banyak dimodifikasi.
Apakah ada rencana untuk mendukung keluaran teks?
Selaras dengan komitmen kami berdasarkan Kode Praktik Komisi Eropa tentang Transparansi Konten Buatan AI, tujuan kami adalah memperluas sinyal asal-usul ke semua modalitas, termasuk teks, agar pelanggan dan pengembang memiliki cara yang jelas untuk memenuhi kewajiban transparansi mereka seiring dengan terus berkembangnya standar dan perangkat pendukung.
Bisakah OpenAI Verify mendeteksi konten dari alat AI lain?
OpenAI Verify dirancang untuk mendeteksi sinyal asal-usul yang didukung dan terkait dengan konten yang dibuat atau diekspor oleh alat OpenAI.
Alat ini tidak dirancang untuk mendeteksi konten yang dibuat oleh layanan AI lain. Alat ini juga mungkin tidak mendeteksi konten buatan OpenAI jika sinyal yang relevan tidak ada, tidak didukung, atau telah mengalami penurunan kualitas.
Bisakah pengembang memverifikasi konten menggunakan API?
Pengembang dan organisasi dapat menggunakan API verifikasi OpenAI untuk memeriksa sinyal asal-usul OpenAI pada konten yang didukung dan mengintegrasikan verifikasi ke aplikasi atau alur kerja mereka sendiri. Kunjungi openai.com/verify untuk mendapatkan informasi tentang akses API. Organisasi yang memerlukan batas penggunaan lebih tinggi dapat mengajukan peningkatan batas. Silakan kunjungi openai.com/verify untuk informasi selengkapnya.