OpenAI는 콘텐츠가 OpenAI 도구로 생성되었는지 사람들이 파악하는 데 도움이 되도록 SynthID 워터마크 및 콘텐츠 자격 증명(C2PA)과 같은 출처 신호를 사용합니다. 출처 신호는 콘텐츠의 출처를 파악하는 데 유용한 지표가 될 수 있지만, 콘텐츠가 정확하거나 편집되지 않았거나 합법적으로 소유되었거나 올바른 맥락에서 제시되었음을 보장하지는 않습니다.
C2PA 표준이란 무엇이며, 어떤 기능을 제공하나요?
C2PA는 게시자, 기업 등이 미디어에 메타데이터를 삽입하여 출처 및 관련 정보를 확인할 수 있게 해주는 개방형 기술 표준입니다. C2PA는 AI 생성 콘텐츠에만 사용되는 것이 아닙니다. 카메라 제조업체와 언론사 등도 미디어 콘텐츠의 출처와 이력, 즉 출처 정보를 인증하기 위해 같은 표준을 도입하고 있습니다.
C2PA 메타데이터에는 파일을 만든 도구나 서비스, 생성 시점, 그 밖의 출처 또는 이력에 관한 세부 정보가 포함될 수 있습니다.
C2PA에 대해 자세히 알아보세요.
SynthID란 무엇이며, 어떤 기능을 제공하나요?
SynthID는 생성된 미디어에 신호를 직접 삽입하는 비가시성 워터마크 기술입니다. 메타데이터와 달리 이 신호는 콘텐츠 자체의 일부이므로 일부 편집이나 변환 후에도 유지될 수 있습니다.
SynthID는 C2PA 메타데이터와 함께 추가 출처 신호를 제공합니다. 예를 들어 파일에서 메타데이터가 삭제되더라도 삽입된 워터마크를 통해 해당 콘텐츠가 지원되는 OpenAI 도구로 생성되었다는 신호를 확인할 수 있습니다.
OpenAI가 생성한 콘텐츠 중 어떤 유형에 출처 신호가 포함되나요?
OpenAI는 콘텐츠 유형에 따라 서로 다른 출처 신호를 사용합니다.
| 콘텐츠 유형 | 출처 신호 | 참고 사항 |
|---|---|---|
| 이미지 | C2PA 메타데이터 및 SynthID 워터마크 | ChatGPT, Codex 및 OpenAI API로 생성된 지원 이미지에는 두 신호가 모두 포함됩니다. |
| 오디오 | SynthID 워터마크 | 지원되는 OpenAI 생성 오디오에는 오디오 자체에 들리지 않는 워터마크가 삽입됩니다. |
지원 범위는 제품, 모델, 내보내기 경로, 파일 형식 및 콘텐츠 생성 시점에 따라 달라질 수 있습니다.
콘텐츠 유형에 따라 서로 다른 출처 신호를 사용하는 이유는 무엇인가요?
미디어 형식마다 출처 정보를 보존하는 방식이 다릅니다.
C2PA 콘텐츠 자격 증명과 같은 메타데이터에는 더 상세한 정보를 담을 수 있지만, 플랫폼이나 편집 도구 또는 파일 변환 과정에서 삭제되기도 합니다.
SynthID와 같은 워터마크는 생성된 미디어 자체에 삽입되므로 일부 변환 후에도 더 잘 유지될 수 있습니다. 하지만 워터마크가 제공하는 맥락 정보는 일반적으로 메타데이터보다 적습니다.
기술적으로 가능하다면 적절한 경우 두 방식을 함께 사용하여 더 강력한 출처 신호를 제공할 수 있습니다.
OpenAI 도구로 생성한 이미지에 보이는 워터마크를 추가하려면 어떻게 해야 하나요?
모델에 표시를 포함하라는 프롬프트를 입력하여 ChatGPT, Codex 및 OpenAI API로 생성하는 이미지에 보이는 고지 문구를 추가하도록 요청할 수 있습니다. 예를 들어 이미지를 생성할 때 다음과 같이 말할 수 있습니다. “Include a visible OpenAI watermark in the image.”
보이는 워터마크는 C2PA 메타데이터 및 SynthID 워터마크처럼 삽입되는 출처 신호와는 별개입니다. 보이는 워터마크는 이미지가 OpenAI 도구로 생성되었음을 알아보는 데 도움이 될 수 있지만, 기계 판독이 가능한 출처 신호와 동일하지는 않습니다.
콘텐츠가 OpenAI 도구로 생성되었는지 어떻게 확인할 수 있나요?
openai.com/verify에서 지원되는 이미지나 오디오 파일에 OpenAI 도구로 생성되거나 내보낸 콘텐츠와 관련된 출처 신호가 있는지 확인할 수 있습니다.
지원되는 파일을 업로드하면 도구가 SynthID 워터마크나 OpenAI와 관련된 신뢰할 수 있는 C2PA 매니페스트 등 지원되는 OpenAI 출처 신호를 검색합니다.
지원되는 OpenAI 출처 신호가 발견되면 해당 콘텐츠가 OpenAI 도구로 생성되었거나 OpenAI 도구에서 내보내졌다는 뜻입니다.
확인 결과는 무엇을 의미하나요?
신호가 감지되면 업로드한 콘텐츠에 OpenAI와 관련하여 지원되는 출처 신호가 포함되어 있음을 확인하는 데 이 도구가 도움이 될 수 있습니다.
이 도구는 콘텐츠가 정확하거나 편집되지 않았거나 합법적으로 소유되었거나 올바른 맥락에서 제시되었음을 확인해 주지 않습니다. 또한 콘텐츠를 누가, 왜 만들었는지도 식별하지 않습니다.
신호가 발견되지 않으면 어떻게 되나요?
신호가 감지되지 않았다는 것은 도구가 업로드된 파일에서 OpenAI가 발급한 출처 신호를 찾지 못했다는 뜻입니다.
다음과 같은 경우에는 콘텐츠가 여전히 OpenAI로 생성되거나 OpenAI에서 내보내졌을 수 있습니다.
출처 신호가 제공되기 전에 콘텐츠가 생성된 경우
지원되지 않는 제품, 모델, 내보내기 경로 또는 파일 형식에서 콘텐츠가 생성된 경우
업로드, 다운로드, 편집, 변환 또는 공유 과정에서 메타데이터가 제거된 경우
압축, 자르기, 노이즈, 편집, 형식 변환 또는 기타 변환으로 워터마크가 손상된 경우
오디오 클립이 너무 짧거나 크게 수정된 경우
텍스트 출력도 지원할 계획인가요?
유럽연합 집행위원회의 AI 생성 콘텐츠 투명성 실천 강령에 따른 약속에 맞춰, OpenAI는 표준과 도구가 계속 발전함에 따라 고객과 개발자가 각자의 투명성 의무를 이행할 명확한 수단을 확보할 수 있도록 출처 신호를 텍스트를 비롯한 모든 양식으로 확대하는 것을 목표로 합니다.
OpenAI Verify로 다른 AI 도구의 콘텐츠도 감지할 수 있나요?
OpenAI Verify는 OpenAI 도구로 생성되거나 내보낸 콘텐츠와 관련하여 지원되는 출처 신호를 감지하도록 설계되었습니다.
다른 AI 서비스로 생성된 콘텐츠를 감지하도록 설계되지 않았으며, 관련 신호가 없거나 지원되지 않거나 손상된 경우 OpenAI가 생성한 콘텐츠도 감지하지 못할 수 있습니다.
개발자가 API를 사용하여 콘텐츠를 확인할 수 있나요?
개발자와 조직은 OpenAI의 확인 API를 사용하여 지원되는 콘텐츠에서 OpenAI 출처 신호를 확인하고, 확인 기능을 자체 애플리케이션이나 워크플로에 통합할 수 있습니다. API 액세스에 관한 정보는 openai.com/verify에서 확인하세요. 더 높은 사용량 한도가 필요한 조직은 한도 상향을 신청할 수 있습니다. 자세한 내용은 openai.com/verify에서 확인하세요.