Back to top
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

GPT-6 Astra ทำเครื่องหมายเป้าหมายอย่างน้อย 1 จุดเพิ่มจาก 6% เป็น 92% เมื่อระบุว่าเป็นเกม

กรอบสี่เหลี่ยมแสดงเป้าหมายซ้อนบนภาพถ่ายดาวเทียมของโรงเรียน ภาพสร้างด้วย AI / TokenPost.ai (macro)

ผลทดสอบพบว่า GPT-6 Astra ของโอเพนเอไอ (OpenAI) ทำเครื่องหมายตำแหน่งเป้าหมายอย่างน้อย 1 จุดใน 6% ของคำขอทั่วไป และเพิ่มเป็น 92% เมื่อระบุว่าสถานการณ์เป็นเกม

วาลส์ (Vals) บริษัทประเมิน AI ของสหรัฐฯ เปิดเผยผลทดลองในรายงานที่เผยแพร่เมื่อวันที่ 17 โดยให้โมเดล AI เชิงพาณิชย์ค้นหาและทำเครื่องหมายเป้าหมายทางทหารจากภาพโดรนและดาวเทียม นักวิจัยใช้ทั้งภาพจำลองที่อิงสมรภูมิยูเครน ภาพจากโดรนจริง และภาพถ่ายดาวเทียมของอิหร่าน

การทดลองแบ่งตามมุมมองจากโดรนพลีชีพ โดรนทิ้งระเบิด และโดรนลาดตระเวน โดยขอให้โมเดลหาจุดเป้าหมายทางทหารในภาพและตีกรอบสี่เหลี่ยมไว้

งานวิจัยไม่ได้ทดสอบว่าโมเดลจะตัดสินใจโจมตีหรือควบคุมอาวุธได้หรือไม่ และไม่ได้ประเมินสมรรถนะของระบบอาวุธจริง แต่ตรวจสอบเพียงการตอบสนองต่อคำขอให้ทำเครื่องหมายเป้าหมายในภาพ

ถึงอย่างนั้น โมเดลบางตัวทำเครื่องหมายเจ้าหน้าที่ทางการแพทย์และรถพยาบาลเป็นเป้าหมาย รวมถึงทหารที่ยอมจำนนหรือเคลื่อนไหวไม่ได้ด้วย นักวิจัยนับคำตอบว่ามีการทำเครื่องหมายเป้าหมายอย่างน้อยหนึ่งจุดหรือไม่

ในการทดสอบวิดีโอโดรนจำลอง GPT-6 Astra ทำเครื่องหมายเป้าหมายอย่างน้อยหนึ่งจุดใน 6% ของคำขอทั่วไป เมื่อเพิ่มคำอธิบายว่าสถานการณ์เป็นเกม สัดส่วนดังกล่าวเพิ่มเป็น 92%

GPT-6.1 Sol ก็มีสัดส่วนคำตอบที่ทำเครื่องหมายเป้าหมายเพิ่มจาก 17% เป็น 90% ภายใต้เงื่อนไขเดียวกัน ตัวเลขเหล่านี้หมายถึงสัดส่วนคำตอบที่โมเดลทำเครื่องหมายเป้าหมายอย่างน้อยหนึ่งจุด ไม่ใช่สัดส่วนที่เลือกพลเรือนเป็นเป้าหมาย

ในการทดสอบภาพถ่ายดาวเทียมจริง โรงเรียนประถมในเมืองมินาบของอิหร่านซึ่งอยู่ติดกับสถานที่ทางทหารถูกนับอยู่ในบริเวณที่ทำเครื่องหมายเป้าหมาย คลอดด์ โอปุส 5.5 (Claude Opus 5.5) ของแอนโทรปิก (Anthropic) ทำเครื่องหมายครอบคลุมโรงเรียน 22 ครั้งจาก 32 ครั้ง หรือ 69% ในเงื่อนไขทั่วไป และ 23 ครั้งจาก 32 ครั้ง หรือ 72% เมื่อระบุว่าเป็นเกม

นักวิจัยนับกรณีที่กรอบเป้าหมายทับกับอาคารเรียน หรือจุดที่ทำเครื่องหมายอยู่ภายในอาคาร งานวิจัยนี้ไม่ได้ตรวจสอบสาเหตุของการโจมตีทางอากาศที่โรงเรียนมินาบ หรือว่าในปฏิบัติการครั้งนั้นมีการใช้ AI หรือไม่

วาลส์ระบุว่าไม่พบกรณีที่ระบบกรองระดับบริการบล็อกคำขอให้ระบุเป้าหมาย บางโมเดลปฏิเสธคำขอในตอนแรก แต่กลับมาตอบเมื่อเพิ่มบริบทว่าเป็นเกม

ในการทดสอบต่อเนื่อง เมื่อโมเดลรายงานว่าพบคน ฉากถัดไปจะแสดงภาพความเสียหายหลังการโจมตีจำลอง โมเดลหลายตัวทำงานต่อแม้เห็นภาพดังกล่าว ขณะที่บางตัวหยุดตอบ

นักวิจัยอธิบายว่าโมเดลอเนกประสงค์ยังนำไปใช้ตรวจจับเป้าหมายจากโดรนแบบเรียลไทม์ได้ยาก เนื่องจากข้อจำกัดด้านความหน่วงในการตอบสนองและกำลังประมวลผลบนอุปกรณ์

วาลส์ชี้อีกความเสี่ยงว่าอาจมีการใช้โมเดลจัดประเภทวิดีโอจากสนามรบในอดีตจำนวนมาก เพื่อนำไปสร้างข้อมูลฝึกสำหรับอาวุธอัตโนมัติ ซึ่งเป็นความเสี่ยงแยกจากการตรวจจับเป้าหมายแบบเรียลไทม์

เทคครันช์ (TechCrunch) รายงานว่าแอนโทรปิกระบุว่าการใช้งานดังกล่าวขัดต่อนโยบายของบริษัท และกำลังพัฒนามาตรการป้องกันเพิ่มเติม ส่วนโอเพนเอไอระบุว่าห้ามใช้โมเดลสำหรับสาธารณะเพื่อความรุนแรงหรือวัตถุประสงค์ด้านความมั่นคงแห่งชาติที่ไม่ได้รับอนุญาต และกำลังพัฒนามาตรการป้องกันการใช้งานที่เกี่ยวข้องกับโดรน

วาลส์แนะนำให้พัฒนาระบบจำแนกคำขอเกี่ยวกับอาวุธอัตโนมัติโดยเฉพาะ พร้อมฝึกความปลอดภัยให้โมเดลเพิ่มเติม

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

Most Popular

Other related articles

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1