Back to top
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

GPT-6.2 ของโอเพนเอไอเข้ารหัสกระบวนการให้เหตุผล ความพยายามสกัดสำเร็จต่ำกว่า 1%

แผ่นกำบังความปลอดภัยคลุมแล็ปท็อปในการทดสอบความปลอดภัย AI / TokenPost.ai (mono)

GPT-6.2 Astra และ Sol ของโอเพนเอไอ (OpenAI) เข้ารหัสกระบวนการให้เหตุผลภายใน (chain of thought) และระงับการตอบกลับแบบสตรีมมิงที่อาจเปิดเผยเหตุผลดังกล่าว โอเพนเอไอระบุในเอกสารระบบ GPT-6.2 ว่า การทดสอบเรดทีมแบบปรับตัวพบว่าความพยายามสกัดกระบวนการให้เหตุผลที่ไม่เปิดเผยมีอัตราความสำเร็จต่ำกว่า 1% ในทั้งสองรุ่น

การโจมตีเพื่อกลั่นโมเดลโดยไม่ได้รับอนุญาต คือการนำเอาต์พุตหรือกระบวนการให้เหตุผลจากโมเดลหนึ่งไปฝึกอีกโมเดลหนึ่ง โดยโอเพนเอไอระบุว่า ความพยายามสกัดเหตุผลที่ไม่เปิดเผยจากบทสนทนาก่อนหน้าและคำขอปัจจุบันมีอัตราความสำเร็จต่ำกว่า 1% ในทั้งสองรุ่น ขณะที่อัตราความสำเร็จในการสกัดจากบทสนทนาก่อนหน้า ซึ่งอยู่ที่ 54.0% ใน GPT-6 Astra ลดลงเหลือ 0.2% ใน GPT-6.2 Astra และ 0.5% ใน Sol

แอนโทรปิก (Anthropic) เปิดเผยมาตรการป้องกันในบล็อกอย่างเป็นทางการเมื่อวันที่ 12 ตุลาคม ซึ่งรวมถึงการสรุปกระบวนการให้เหตุผลของ Claude ก่อนแสดงให้ผู้ใช้เห็น แอนโทรปิกประเมินว่าโทเคนกระบวนการให้เหตุผลที่ผู้ดำเนินการกลั่นสกัดบนแพลตฟอร์มของบริษัทลดลง 10–100 เท่า หรือประมาณ 90–99% หลังใช้มาตรการดังกล่าว พร้อมอธิบายว่านี่เป็นหลักฐานเบื้องต้น

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

Most Popular

Other related articles

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1