เราเชื่อในการพัฒนาและการนำไปใช้อย่างมีความรับผิดชอบและเป็นขั้นเป็นตอน เพื่อไปสู่ปัญญาประดิษฐ์ทั่วไปที่ปลอดภัย เราดำเนินการทดสอบและลดความเสี่ยงด้านความปลอดภัยและการจัดแนวเป็นจำนวนมากก่อนเปิดตัวโมเดลสู่สาธารณะ และเรายังมีระบบอัตโนมัติและระบบที่ใช้มนุษย์เพื่อช่วยตรวจจับเนื้อหาที่มีปัญหาซึ่งปรากฏบนบริการของเราสำหรับบุคคลทั่วไป เช่น ChatGPT และ GPTs เราสรุปความพยายามบางส่วนไว้ด้านล่าง

ChatGPT, ImageGen และ SORA

เราใช้เครื่องมืออัตโนมัติ เช่น /moderations API เวอร์ชันภายในของเรา เพื่อตรวจจับเนื้อหา (คำสั่ง, การตอบกลับ, การอัปโหลด) ที่อาจเป็นอันตรายหรือละเมิดนโยบายการใช้งานของเรา หากเราตรวจพบเนื้อหาที่มีปัญหา โดยทั่วไปเราจะแจ้งเตือนว่าคอนเทนต์ของคุณอาจละเมิดนโยบายการใช้งานของเรา หรือบล็อกไม่ให้โมเดลตอบคำสั่งของคุณ เรายังอาจป้องกันไม่ให้มีการแชร์แชตที่มีคำสั่งหรือการตอบกลับที่มีปัญหาด้วย ในบางกรณีที่มีอย่างจำกัดมาก เราอาจแบนบัญชีของคุณจากพฤติกรรมที่ร้ายแรงด้วย

เรายังรับรายงานจากมนุษย์เกี่ยวกับเนื้อหาที่มีปัญหาบน ChatGPT และ SORA ด้วย เราใช้ทั้งระบบอัตโนมัติร่วมกับทีมผู้เชี่ยวชาญที่ผ่านการฝึกอบรมเพื่อตรวจสอบรายงานเหล่านี้

• ChatGPT: หากมีคนแชร์แชตที่คุณเชื่อว่ามีเนื้อหาที่มีปัญหา คุณยังสามารถรายงานให้เราทราบได้

• SORA: หากคุณเห็นวิดีโอหรือรูปภาพในฟีดของคุณที่คุณเชื่อว่ามีเนื้อหาที่มีปัญหา คุณสามารถรายงานให้เราทราบได้

ดูรายละเอียดเพิ่มเติมเกี่ยวกับวิธีรายงานเนื้อหาโดยตรงใน ChatGPT หรือ SORA ได้ที่บทความนี้

GPTs

เรายังใช้เครื่องมืออัตโนมัติ เช่น /moderation API ของเรา เพื่อตรวจดูว่า GPT มีแนวโน้มเป็นปัญหาหรือไม่ หากเราตรวจพบเนื้อหาที่มีปัญหาซึ่งเกี่ยวข้องกับ GPT เราจะดำเนินการ เช่น ป้องกันไม่ให้มีการเผยแพร่ ผู้สร้างสามารถแก้ไขการกำหนดค่าของ GPT หรือ API เพื่อลบเนื้อหาที่มีปัญหา หรืออุทธรณ์การตัดสินใจผ่านโฟลว์ในผลิตภัณฑ์ได้ ในบางกรณีที่มีอย่างจำกัดมาก เราอาจแบนบัญชีของผู้สร้างจากพฤติกรรมที่ร้ายแรงด้วย

เรายังรับรายงานจากมนุษย์เกี่ยวกับ GPTs ที่มีปัญหาด้วย หากคุณเห็น GPT ที่คุณเชื่อว่าละเมิดนโยบายการใช้งานของเราหรือมีเนื้อหาที่มีปัญหาในลักษณะอื่น คุณยังสามารถรายงานให้เราทราบได้ เราใช้ทั้งระบบอัตโนมัติร่วมกับทีมผู้เชี่ยวชาญที่ผ่านการฝึกอบรมเพื่อตรวจสอบรายงานเหล่านี้