DeepSeek V4.1 Flash ที่ Prime Intellect โฮสต์ไว้ถูกเปลี่ยนรุ่นโดยไม่ได้รับอนุญาตนานราว 53 ชั่วโมง ในการทดสอบความปลอดภัย รุ่นเดิมปฏิเสธคำขอที่เป็นอันตราย 198 ครั้งจาก 240 ครั้ง ส่วนรุ่นที่ถูกเปลี่ยนปฏิเสธได้ 0 ครั้ง
Prime Intellect (ไพรม์ อินเทลเล็กต์) ระบุในประกาศความปลอดภัยเมื่อวันที่ 19 ว่ามีบุคคลที่ไม่ได้รับอนุญาตเปลี่ยนโมเดลที่นำไปให้บริการ เหตุการณ์นี้กระทบเอนด์พอยต์ deepseek/deepseek-v4.1-flash ซึ่งบริษัทเป็นผู้ดูแล
การเปลี่ยนรุ่นเริ่มวันที่ 8 พฤศจิกายน เวลา 10:24 น. และดำเนินต่อจนถึงวันที่ 10 พฤศจิกายน เวลา 15:35 น. ตามเวลาเกาหลี
Prime Intellect ให้บริการประมวลผลการอนุมานที่ลูกค้าเรียกใช้โมเดลผ่าน API โดยไม่ต้องสร้างระบบติดตั้งใช้งานเอง เหตุการณ์ครั้งนี้จำกัดอยู่ที่โมเดลรุ่นหนึ่งของบริการดังกล่าว
รุ่นที่ถูกนำมาแทนใช้ค่าน้ำหนักโมเดลแบบเปิดเผยซึ่งได้รับการปรับให้ลดหรือยกเลิกพฤติกรรมการปฏิเสธคำขอที่เป็นอันตราย ค่าน้ำหนักโมเดลคือผลจากการฝึกที่โมเดลใช้สร้างคำตอบ
บริษัทระบุว่าเทมเพลตแชต ตัวตัดคำที่ใช้ประมวลผลอินพุต และการตั้งค่าเซิร์ฟเวอร์ไม่ได้เปลี่ยน ชื่อเอนด์พอยต์ยังเหมือนเดิม แต่ลักษณะคำตอบเปลี่ยนไป
ผลทดสอบความปลอดภัย 3 รายการพบว่าจำนวนครั้งที่โมเดลปฏิเสธคำขอลดลงทั้งหมด HarmBench ลดจาก 198 ครั้งจาก 240 ครั้ง เหลือ 0 ครั้ง ส่วน JailbreakBench ลดจาก 98 ครั้งจาก 100 ครั้ง เหลือ 1 ครั้ง และ StrongREJECT ลดจาก 304 ครั้งจาก 313 ครั้ง เหลือ 2 ครั้ง
การทดสอบแต่ละรายการใช้โจทย์คนละชุดและวัดจำนวนครั้งที่ปฏิเสธ จึงไม่ควรนำตัวหารและผลของทั้ง 3 รายการมารวมเป็นคะแนนเดียว
ในทางกลับกัน Prime Intellect ระบุว่าผล GPQA Diamond และ τ-bench ซึ่งใช้ประเมินความสามารถในการแก้ปัญหาไม่เปลี่ยนแปลง แต่ไม่ได้เปิดเผยคะแนนรายรายการ
แม้ผลประเมินความสามารถในการแก้ปัญหายังคงเดิม พฤติกรรมการปฏิเสธคำขอที่ไม่ปลอดภัยกลับเปลี่ยนไป
จำนวนครั้งที่ปฏิเสธซึ่งเปิดเผยเป็นผลวัดจากโจทย์ทดสอบที่กำหนดไว้ ไม่ได้หมายถึงจำนวนคำขอที่ลูกค้าส่งระหว่างช่วงเกิดเหตุ หรือจำนวนครั้งที่มีการสร้างคำตอบที่เป็นอันตรายจริง
เกี่ยวกับข้อมูลลูกค้า Prime Intellect ระบุว่าไม่พบหลักฐานว่าอินพุตและคำตอบถูกบันทึกหรือส่งออกนอกคลัสเตอร์ที่ให้บริการโมเดลนี้ บริษัทอธิบายว่าเอนด์พอยต์ดังกล่าวตั้งค่าให้ไม่บันทึกคำขอ
บริษัทกู้คืนพร็อกซีทุกเวอร์ชันที่ใช้ในการโจมตี และตรวจสอบดิสก์ หน่วยความจำ และบันทึกงานของเซิร์ฟเวอร์ที่เกี่ยวข้อง โดยระบุว่าไม่พบร่องรอยการอ่านหรือถ่ายโอนเนื้อหาคำขอในบันทึกที่ตรวจสอบ
บริษัทระบุว่าโมเดลและคลัสเตอร์อื่นไม่ได้ถูกเปลี่ยนแปลง และข้อมูลยืนยันตัวตนกับคีย์ของลูกค้าไม่ได้รับผลกระทบ Prime Intellect ติดต่อแจ้งลูกค้าที่ได้รับผลกระทบครบแล้ว
บริษัทแนะนำให้ลูกค้าที่พึ่งพาความสามารถในการปฏิเสธคำขอของโมเดลตรวจสอบผลลัพธ์ที่สร้างขึ้นระหว่างช่วงเกิดเหตุ พร้อมระบุว่าจะปรับปรุงประกาศความปลอดภัยหากผลการสอบสวนเปลี่ยนแปลง
ประกาศไม่ได้เปิดเผยจำนวนลูกค้าที่ได้รับผลกระทบหรือช่องทางที่บุคคลไม่ได้รับอนุญาตใช้เปลี่ยนโมเดล
Comment 0