404 Media เผย OpenAI จ้างผู้รับเหมาหลายร้อยคนตรวจสอบบทสนทนา ChatGPT

มีรายงานว่า OpenAI(OpenAI) ให้ผู้รับเหมาภายนอกอ่านบทสนทนาจริงของผู้ใช้ ChatGPT(ChatGPT) และประเมินคุณภาพของคำตอบ โดยผู้รับเหมาได้ตรวจสอบทั้งพรอมป์ของผู้ใช้และคำตอบของ ChatGPT ขณะที่วิธีการแจ้งเรื่องข้อมูลส่วนบุคคลกลายเป็นประเด็นที่ถูกจับตา

404 Media(404 Media) รายงานเมื่อวันที่ 14 โดยอ้างอิงเอกสารแนวทางภายใน ช่องทาง Slack และพรอมป์จริงของผู้ใช้ ว่า OpenAI ได้ว่าจ้างผู้รับเหมาหลายร้อยคนผ่านโครงการที่มีชื่อรหัสว่า 'Project Lily' โดยผู้รับเหมาจะสรุปเจตนาของคำถามผู้ใช้ก่อน จากนั้นอ่านคำตอบหลายเวอร์ชันที่ ChatGPT สร้างขึ้น แล้วให้คะแนนคุณภาพตั้งแต่ 1 ถึง 7 คะแนน

หัวข้อการประเมินยังรวมถึงการลดพฤติกรรมที่ ChatGPT แสดงท่าทีเหมือนมนุษย์มากเกินไป หรือเออออตามผู้ใช้มากเกินไปด้วย อย่างไรก็ตาม โครงการนี้มุ่งเป้าไปที่โมเดลใดยังไม่มีการเปิดเผย

มีรายงานว่าผู้รับเหมาถูกว่าจ้างผ่าน Crossing Hurdles และ Mercor คนทำงานรายหนึ่งที่ 404 Media ติดต่อได้ระบุว่าได้รับค่าจ้างมากกว่า 50 ดอลลาร์ต่อชั่วโมง แต่จำนวนผู้รับเหมาทั้งหมดและโครงสร้างค่าตอบแทนไม่ได้ถูกเปิดเผย

OpenAI อธิบายว่าก่อนที่บทสนทนาจะถูกส่งให้ผู้รับเหมา จะมีการใช้ Privacy Filter เพื่อตรวจจับและลบข้อมูลส่วนบุคคล เช่น ชื่อ ที่อยู่ อีเมล หมายเลขโทรศัพท์ และหมายเลขบัญชี โดย Privacy Filter ไม่ใช่เครื่องมือที่สามารถทดแทนเครื่องมือลบข้อมูลระบุตัวตนหรือการรับรองการปฏิบัติตามกฎระเบียบได้

OpenAI ระบุในคำอธิบายอย่างเป็นทางการเกี่ยวกับ Privacy Filterว่าเครื่องมือนี้อาจพลาดตัวระบุตัวตนที่พบได้ยากหรือข้อมูลส่วนบุคคลที่คลุมเครือ พร้อมทั้งอธิบายเพิ่มเติมว่าในสาขาที่มีความอ่อนไหว เช่น กฎหมาย การแพทย์ และการเงิน ยังจำเป็นต้องมีการตรวจสอบโดยมนุษย์และการประเมินแยกต่างหาก

แม้ชื่อหรือข้อมูลบัญชีจะถูกลบไปแล้ว แต่ยังมีความเป็นไปได้ที่จะคาดเดาตัวตนของผู้ใช้ได้จากบริบทของบทสนทนาเพียงอย่างเดียว เนื่องจากเมื่อนำข้อมูลหลายอย่าง เช่น อาชีพ ที่อยู่อาศัย รายละเอียดเหตุการณ์ และความสัมพันธ์ในครอบครัวมารวมกัน อาจสามารถระบุตัวบุคคลใดบุคคลหนึ่งได้

OpenAI เคยเปิดเผยว่าใช้ทั้งระบบอัตโนมัติและการตรวจสอบโดยมนุษย์ร่วมกัน เพื่อยืนยันความปลอดภัยของบริการและการละเมิดข้อกำหนดการใช้งาน อย่างไรก็ตาม กระบวนการยืนยันเนื้อหาที่ละเมิดความปลอดภัย กับการตรวจสอบของผู้รับเหมาเพื่อปรับปรุงน้ำเสียง ความแม่นยำ และแนวโน้มการเออออของโมเดล มีวัตถุประสงค์ที่แตกต่างกัน

404 Media ได้สอบถาม OpenAI ว่าเคยแจ้งผู้ใช้อย่างชัดเจนหรือไม่ว่าพรอมป์ของพวกเขาอาจถูกมนุษย์ตรวจสอบ แต่ OpenAI ไม่ได้ตอบคำถามนี้โดยตรง ประเด็นสำคัญที่รายงานฉบับนี้หยิบยกขึ้นมาไม่ใช่การมีอยู่ของการตรวจสอบโดยมนุษย์ แต่เป็นขอบเขตและวิธีการแจ้งให้ทราบ

ผู้ใช้ทั่วไปสามารถปิดตัวเลือก 'Improve the model for everyone' ในการตั้งค่า เพื่อไม่ให้บทสนทนาใหม่ถูกนำไปใช้ปรับปรุงโมเดลได้ ตามคำแนะนำการจัดการข้อมูลของ OpenAI Temporary Chat จะไม่ถูกนำไปใช้ปรับปรุงโมเดลและจะถูกลบภายใน 30 วัน แต่ยังมีความเป็นไปได้ที่จะถูกตรวจสอบในขอบเขตจำกัดเพื่อวัตถุประสงค์ด้านความปลอดภัย

การปิดตัวเลือก 'Improve the model for everyone' จะมีผลย้อนหลังกับบทสนทนาในอดีตหรือไม่นั้นต้องตรวจสอบแยกต่างหาก 404 Media รายงานว่าการตั้งค่านี้ไม่มีผลย้อนหลังกับบทสนทนาในอดีต ขณะที่หน้าช่วยเหลือของ OpenAI อธิบายเฉพาะหลักการจัดการบทสนทนาใหม่หลังจากเปลี่ยนการตั้งค่าเท่านั้น

บัญชีสำหรับองค์กรอย่าง ChatGPT Business, Enterprise และ Edu โดยพื้นฐานแล้วบทสนทนาจะไม่ถูกนำไปใช้ฝึกโมเดล OpenAI ระบุในคำแนะนำข้อมูลส่วนบุคคลสำหรับองค์กรว่า เพื่อการสืบสวนด้านความปลอดภัยและการใช้งานในทางที่ผิด รวมถึงการปฏิบัติตามกฎหมาย พนักงานที่ได้รับอนุญาตหรือผู้รับเหมาภายนอกที่เชี่ยวชาญสามารถเข้าถึงบทสนทนาได้ในขอบเขตจำกัด

มิคาล ลูเรีย(Michal Luria) นักวิจัยจาก Center for Democracy & Technology ประเมินว่าการตรวจสอบโดยมนุษย์อาจจำเป็นต่อการปรับปรุงพฤติกรรมที่ซับซ้อนของแชทบอท แต่ก็ชี้ว่าอินเทอร์เฟซแบบสนทนาอาจทำให้ผู้ใช้รู้สึกว่าตนเองอยู่ในพื้นที่ส่วนตัวมากกว่าความเป็นจริง ซึ่งหมายความว่ามีช่องว่างระหว่างความจำเป็นในการตรวจสอบกับความคาดหวังของผู้ใช้

ศาสตราจารย์ซาราห์ ที. โรเบิร์ตส์(Sarah T. Roberts) จากมหาวิทยาลัยแคลิฟอร์เนีย ลอสแอนเจลิส (UCLA) ประเมินว่าบทบาทของผู้ตรวจสอบที่เป็นมนุษย์ในบริการ AI ถูกประเมินค่าต่ำเกินไป ขณะที่ผู้ใช้ Reddit วิพากษ์วิจารณ์ข้อจำกัดของตัวกรองข้อมูลส่วนบุคคลและการขาดการแจ้งล่วงหน้าเกี่ยวกับการตรวจสอบโดยผู้รับเหมา แต่ปฏิกิริยาจากชุมชนออนไลน์ไม่อาจถือเป็นหลักฐานข้อเท็จจริงที่เป็นอิสระได้

รายงานฉบับนี้เน้นย้ำไม่ใช่นโยบายเดิมที่ว่าบทสนทนา ChatGPT อาจถูกนำไปใช้ปรับปรุงโมเดล แต่เป็นขอบเขตที่มนุษย์เข้าถึงและอ่านบทสนทนาของผู้ใช้จริง และความชัดเจนของการแจ้งข้อเท็จจริงนี้แก่ผู้ใช้ ผู้ใช้จำเป็นต้องตรวจสอบเงื่อนไขการจัดการบทสนทนาใหม่และบทสนทนาเดิมแยกกันตามประเภทบัญชีและการตั้งค่าข้อมูลของตน