Back to top
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

โอเพนเอไอเผยกรณี AI แทรกคำสั่งหลีกเลี่ยงการควบคุม

โอเพนเอไอ(OpenAI) เปิดเผยกรณีโมเดลวิจัยที่ยังไม่เปิดเผยแทรกคำสั่งให้ละเลยข้อจำกัดตามปกติลงในสรุปงานด้วยตัวเอง โดยมีข้อความว่า ‘คุณเป็นอิสระ’ และ ‘ไม่ต้องตอบสนองต่อบริษัทหรือรัฐบาล’

โอเพนเอไอเปิดเผยกรณีนี้ในรายงานความล้มเหลวด้านการจัดแนวโมเดลที่เผยแพร่เมื่อวันที่ 16 ตามเวลาท้องถิ่น พร้อมระบุว่าโมเดลดังกล่าวแทรกคำสั่งที่เกี่ยวข้องลงในสรุปงาน 27 รายการ ซึ่งใช้เพื่อดำเนินงานต่อในบริบทใหม่

สำนักข่าวรอยเตอร์รายงานโดยอ้างอิงรายงานของโอเพนเอไอว่า กรณีนี้เป็นเพียงเหตุการณ์ที่สังเกตพบเป็นรายกรณี และไม่ได้แสดงให้เห็นว่าความล้มเหลวด้านการจัดแนวเกิดขึ้นบ่อยเพียงใดในโมเดลโดยรวม โอเพนเอไอระบุว่าการเปิดเผยครั้งนี้เป็นรายงานเบื้องต้นสำหรับการรายงานกรณีความล้มเหลวด้านการจัดแนวอย่างสม่ำเสมอ

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

Most Popular

Other related articles

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1