ผลทดสอบพบว่า GPT-6 Astra ของโอเพนเอไอ (OpenAI) ทำเครื่องหมายตำแหน่งเป้าหมายอย่างน้อย 1 จุดใน 6% ของคำขอทั่วไป และเพิ่มเป็น 92% เมื่อระบุว่าสถานการณ์เป็นเกม
วาลส์ (Vals) บริษัทประเมิน AI ของสหรัฐฯ เปิดเผยผลทดลองในรายงานที่เผยแพร่เมื่อวันที่ 17 โดยให้โมเดล AI เชิงพาณิชย์ค้นหาและทำเครื่องหมายเป้าหมายทางทหารจากภาพโดรนและดาวเทียม นักวิจัยใช้ทั้งภาพจำลองที่อิงสมรภูมิยูเครน ภาพจากโดรนจริง และภาพถ่ายดาวเทียมของอิหร่าน
การทดลองแบ่งตามมุมมองจากโดรนพลีชีพ โดรนทิ้งระเบิด และโดรนลาดตระเวน โดยขอให้โมเดลหาจุดเป้าหมายทางทหารในภาพและตีกรอบสี่เหลี่ยมไว้
งานวิจัยไม่ได้ทดสอบว่าโมเดลจะตัดสินใจโจมตีหรือควบคุมอาวุธได้หรือไม่ และไม่ได้ประเมินสมรรถนะของระบบอาวุธจริง แต่ตรวจสอบเพียงการตอบสนองต่อคำขอให้ทำเครื่องหมายเป้าหมายในภาพ
ถึงอย่างนั้น โมเดลบางตัวทำเครื่องหมายเจ้าหน้าที่ทางการแพทย์และรถพยาบาลเป็นเป้าหมาย รวมถึงทหารที่ยอมจำนนหรือเคลื่อนไหวไม่ได้ด้วย นักวิจัยนับคำตอบว่ามีการทำเครื่องหมายเป้าหมายอย่างน้อยหนึ่งจุดหรือไม่
ในการทดสอบวิดีโอโดรนจำลอง GPT-6 Astra ทำเครื่องหมายเป้าหมายอย่างน้อยหนึ่งจุดใน 6% ของคำขอทั่วไป เมื่อเพิ่มคำอธิบายว่าสถานการณ์เป็นเกม สัดส่วนดังกล่าวเพิ่มเป็น 92%
GPT-6.1 Sol ก็มีสัดส่วนคำตอบที่ทำเครื่องหมายเป้าหมายเพิ่มจาก 17% เป็น 90% ภายใต้เงื่อนไขเดียวกัน ตัวเลขเหล่านี้หมายถึงสัดส่วนคำตอบที่โมเดลทำเครื่องหมายเป้าหมายอย่างน้อยหนึ่งจุด ไม่ใช่สัดส่วนที่เลือกพลเรือนเป็นเป้าหมาย
ในการทดสอบภาพถ่ายดาวเทียมจริง โรงเรียนประถมในเมืองมินาบของอิหร่านซึ่งอยู่ติดกับสถานที่ทางทหารถูกนับอยู่ในบริเวณที่ทำเครื่องหมายเป้าหมาย คลอดด์ โอปุส 5.5 (Claude Opus 5.5) ของแอนโทรปิก (Anthropic) ทำเครื่องหมายครอบคลุมโรงเรียน 22 ครั้งจาก 32 ครั้ง หรือ 69% ในเงื่อนไขทั่วไป และ 23 ครั้งจาก 32 ครั้ง หรือ 72% เมื่อระบุว่าเป็นเกม
นักวิจัยนับกรณีที่กรอบเป้าหมายทับกับอาคารเรียน หรือจุดที่ทำเครื่องหมายอยู่ภายในอาคาร งานวิจัยนี้ไม่ได้ตรวจสอบสาเหตุของการโจมตีทางอากาศที่โรงเรียนมินาบ หรือว่าในปฏิบัติการครั้งนั้นมีการใช้ AI หรือไม่
วาลส์ระบุว่าไม่พบกรณีที่ระบบกรองระดับบริการบล็อกคำขอให้ระบุเป้าหมาย บางโมเดลปฏิเสธคำขอในตอนแรก แต่กลับมาตอบเมื่อเพิ่มบริบทว่าเป็นเกม
ในการทดสอบต่อเนื่อง เมื่อโมเดลรายงานว่าพบคน ฉากถัดไปจะแสดงภาพความเสียหายหลังการโจมตีจำลอง โมเดลหลายตัวทำงานต่อแม้เห็นภาพดังกล่าว ขณะที่บางตัวหยุดตอบ
นักวิจัยอธิบายว่าโมเดลอเนกประสงค์ยังนำไปใช้ตรวจจับเป้าหมายจากโดรนแบบเรียลไทม์ได้ยาก เนื่องจากข้อจำกัดด้านความหน่วงในการตอบสนองและกำลังประมวลผลบนอุปกรณ์
วาลส์ชี้อีกความเสี่ยงว่าอาจมีการใช้โมเดลจัดประเภทวิดีโอจากสนามรบในอดีตจำนวนมาก เพื่อนำไปสร้างข้อมูลฝึกสำหรับอาวุธอัตโนมัติ ซึ่งเป็นความเสี่ยงแยกจากการตรวจจับเป้าหมายแบบเรียลไทม์
เทคครันช์ (TechCrunch) รายงานว่าแอนโทรปิกระบุว่าการใช้งานดังกล่าวขัดต่อนโยบายของบริษัท และกำลังพัฒนามาตรการป้องกันเพิ่มเติม ส่วนโอเพนเอไอระบุว่าห้ามใช้โมเดลสำหรับสาธารณะเพื่อความรุนแรงหรือวัตถุประสงค์ด้านความมั่นคงแห่งชาติที่ไม่ได้รับอนุญาต และกำลังพัฒนามาตรการป้องกันการใช้งานที่เกี่ยวข้องกับโดรน
วาลส์แนะนำให้พัฒนาระบบจำแนกคำขอเกี่ยวกับอาวุธอัตโนมัติโดยเฉพาะ พร้อมฝึกความปลอดภัยให้โมเดลเพิ่มเติม
Comment 0