Back to top
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

OpenAI เปิดตัวตัวจำแนกภาพตรวจจับสื่อแสวงหาประโยชน์ทางเพศจากเด็ก พร้อมระงับ ChatGPT 24 ชั่วโมง

มือของเจ้าหน้าที่กำลังตรวจดูภาพที่ถูกทำเครื่องหมายเพื่อให้ตรวจสอบบนหน้าจอแท็บเล็ต / TokenPost.ai

OpenAI เปิดตัวเครื่องมือจำแนกภาพที่ตรวจจับสื่อแสวงหาประโยชน์ทางเพศจากเด็กซึ่งสร้างด้วย AI พร้อมเพิ่มคำเตือนและระงับการใช้งาน ChatGPT เป็นเวลา 24 ชั่วโมง เมื่อพบผู้ใช้พยายามค้นหาสื่อดังกล่าว เครื่องมือใหม่นี้วิเคราะห์ลักษณะภาพเพื่อจัดลำดับความสำคัญในการตรวจสอบ

OpenAI แนะนำเครื่องมือดังกล่าวพร้อมมาตรการเตือนใน ChatGPT แนวทางสำหรับนักพัฒนา และเครื่องมือสนับสนุนหน่วยงานบังคับใช้กฎหมาย ในประกาศอย่างเป็นทางการเมื่อวันที่ 16 (เวลาท้องถิ่น) เครื่องมือนี้พัฒนาร่วมกับศูนย์แห่งชาติเพื่อเด็กสูญหายและถูกแสวงหาประโยชน์ (National Center for Missing & Exploited Children: NCMEC) และให้หน่วยงานที่ผ่านการคัดกรองใช้งานผ่าน API โดยไม่มีค่าใช้จ่าย

ตัวจำแนกจะตรวจดูเบาะแสทางภาพและกำหนดคะแนนความเสี่ยง เพื่อช่วยให้เจ้าหน้าที่ตรวจสอบภาพที่ยังไม่เคยพบหรือสื่อที่สร้างด้วย AI ก่อน

ระบบตรวจสอบด้วยแฮชแบบเดิมจะนำลายนิ้วมือดิจิทัลของภาพที่ยืนยันแล้วไปเทียบกับรายการที่มีอยู่ จึงรับมือกับภาพใหม่ที่ยังไม่มีลายนิ้วมือในรายการได้ยาก OpenAI ระบุว่าตัวจำแนกใหม่นี้จะเข้ามาเสริมมาตรการคุ้มครองเดิม

ในการประเมินภายในกับภาพที่ผู้ใช้อัปโหลด ตัวจำแนกพบสื่อแสวงหาประโยชน์ทางเพศจากเด็กได้จำนวนใกล้เคียงกับมาตรการเดิม แต่ทำเครื่องหมายภาพเพื่อส่งตรวจน้อยลง 48% นอกจากนี้ ภาพที่เครื่องมือทำเครื่องหมายมีโอกาสเป็นสื่อดังกล่าวสูงกว่าภาพที่ระบบเดิมทำเครื่องหมายประมาณสองเท่า

การทดสอบภาพจากการใช้งานของ fal ซึ่งเป็นพันธมิตรอีกแห่งหนึ่ง แยกจากการประเมินภาพที่ผู้ใช้อัปโหลดของ OpenAI ในกรณีที่ถูกทำเครื่องหมายด้วยความเชื่อมั่นสูงและผ่านการตรวจโดยมนุษย์ 72% ถูกจัดว่าเป็นสื่อแสวงหาประโยชน์ทางเพศจากเด็กที่ไม่เคยพบมาก่อน

พันธมิตรอีกสองแห่งทำการทดสอบแยกกัน ผลประเมินของ invideo AI พบว่าประมาณหนึ่งในสี่ของกรณีที่ถูกทำเครื่องหมายตามมาด้วยการระงับการใช้งาน ส่วน SafetyKit ระบุว่าตรวจพบ 90% ของกรณีภาพวาดและแอนิเมชันที่นำเสนอเด็กในเชิงทางเพศ

เมื่อ ChatGPT ตรวจพบคำขอค้นหาสื่อดังกล่าว ระบบจะแสดงคำเตือนและหยุดการสนทนา OpenAI ระบุว่าจะซ่อนบทสนทนาของผู้ใช้ที่เข้าสู่ระบบออกจากประวัติ และระงับการเข้าถึง ChatGPT เป็นเวลา 24 ชั่วโมง

การละเมิดซ้ำอาจนำไปสู่การระงับใช้งานนานขึ้นหรือปิดบัญชี และอาจมีการรายงานต่อหน่วยงานที่เกี่ยวข้องด้วย คำเตือนยังมีข้อมูลแนะนำบริการช่วยเหลือเฉพาะทางเพื่อสนับสนุนให้ผู้ใช้หยุดพฤติกรรมที่เป็นอันตราย

หน้าช่วยเหลือผลิตภัณฑ์ของ OpenAI ระบุว่ามาตรการจะทยอยเปิดใช้ทั่วโลก ครอบคลุมแชตและโหมดงานบนบัญชีส่วนบุคคลผ่านเว็บและมือถือ ส่วนผู้ที่ไม่ได้เข้าสู่ระบบก็ยังเห็นคำเตือนได้

ขณะนี้มาตรการยังไม่ครอบคลุมพื้นที่ใช้งาน Business, Enterprise, Education และ Healthcare รวมถึงโหมดเสียง แอปเดสก์ท็อป และ Codex

แนวทางสำหรับนักพัฒนาครอบคลุมการป้องกัน ตรวจจับ และรายงานสื่อที่เป็นอันตราย OpenAI แนะนำให้ใช้การเทียบแฮชสำหรับภาพที่รู้จักแล้ว ควบคู่กับตัวจำแนกเพื่อค้นหาสื่อใหม่ และให้เจ้าหน้าที่ที่ผ่านการฝึกอบรมตรวจสอบ

สำหรับหน่วยงานบังคับใช้กฎหมาย OpenAI สนับสนุนเครื่องมือและการฝึกอบรมเพื่อช่วยตรวจสอบบทสนทนาที่ยาวและเอกสารที่ส่งมาตามกระบวนการทางกฎหมาย เครื่องมือตัวแรกออกแบบมาเพื่อค้นหาสื่อที่อาจเกี่ยวข้อง จัดเรียงตามลำดับเวลา และเชื่อมผลการค้นหากับเอกสารต้นฉบับ

OpenAI ระบุว่ามาตรการชุดนี้ต่อยอดจากแผนงานด้านความปลอดภัยเด็กที่เปิดเผยเมื่อเดือนเมษายนที่ผ่านมา แผนดังกล่าวเสนอการปรับปรุงกฎหมายเพื่อรับมือกับสื่อแสวงหาประโยชน์ทางเพศจากเด็กที่สร้างด้วย AI การเพิ่มความร่วมมือด้านการรายงานและการสืบสวนระหว่างผู้ให้บริการกับหน่วยงานบังคับใช้กฎหมาย ตลอดจนการฝังมาตรการความปลอดภัยไว้ตั้งแต่ขั้นออกแบบ AI

ก่อนหน้านี้ OpenAI ระบุว่าจะจัดสรรเงิน 2 ล้านดอลลาร์ (ประมาณ 2.67 พันล้านวอน) เพื่อพัฒนาเครื่องมือวัดความเสี่ยงและโอกาสของ AI ที่มุ่งเป้าไปยังเด็ก ครั้งนี้บริษัทเพิ่มเครื่องมือตรวจจับ คำเตือนภายในบริการ และการสนับสนุนนักพัฒนากับหน่วยงานบังคับใช้กฎหมาย

NCMEC ประเมินว่าตัวจำแนกใหม่อาจช่วยตรวจจับและรายงานสื่อที่ไม่เคยพบมาก่อน รวมถึงให้ข้อมูลที่จำเป็นต่อการค้นหาและคุ้มครองผู้เสียหาย พร้อมระบุว่าการเปิดให้หลายหน่วยงานใช้เครื่องมือนี้อาจช่วยเสริมการรับมือด้านความปลอดภัยเด็ก

เอกสารอธิบายโมเดลของ OpenAI ระบุว่าตัวจำแนกอาจทำเครื่องหมายภาพปกติผิดพลาด หรือพลาดภาพที่เป็นอันตรายได้ ประสิทธิภาพอาจแตกต่างกันตามองค์ประกอบของภาพและสภาพแวดล้อมการใช้งานในแต่ละบริการ บริษัทจึงระบุว่าควรให้เจ้าหน้าที่ที่ผ่านการฝึกอบรมตรวจสอบก่อนรายงาน

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

Most Popular

Other related articles

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1