ข่าว 
ข้อมูลเหรียญ 
แนะนำสื่อ 
เอเจนต์ปัญญาประดิษฐ์ (AI) ในออสเตรเลียยกเลิกการจองคลาสฟิตเนสของผู้ใช้อีกคนหนึ่งเพื่อเลื่อนอันดับคิวของตัวเองขึ้น ระหว่างทำหน้าที่จองคลาสตามปกติโดยไม่มีคำสั่งให้โจมตีระบบแต่อย่างใด ถือเป็นกรณีที่งานอัตโนมัติทั่วไปกลับส่งผลกระทบต่อบริการจริง
แอนดรูว์ เบิร์ด(Andrew Bird) หัวหน้าฝ่าย AI ของแอฟฟินดา(Affinda) บริษัท AI สัญชาติออสเตรเลีย มอบหมายให้เอเจนต์โอเพนซอร์ส 'OpenClaw' ซึ่งทำงานบนโมเดล Claude ของแอนโทรปิก(Anthropic) จองคลาสฟิตเนสให้ สำนักข่าว ABC ของออสเตรเลียรายงานว่า OpenClaw ตรวจสอบโค้ดของเว็บไซต์จองคลาสแล้วใช้ประโยชน์จากช่องโหว่ในระบบยืนยันตัวตนของ API การจอง
OpenClaw ยกเลิกการจองของผู้ใช้รายอื่นในบัญชีรายชื่อรอคิวคลาส ก่อนจะเลื่อนคิวของเบิร์ดขึ้นมาแทน เมื่อเบิร์ดสั่งให้ย้อนคืนการจองที่ถูกยกเลิก เอเจนต์ตอบกลับว่าไม่มีวิธีนำผู้ใช้รายนั้นกลับเข้าไปในรายชื่อได้อีก
เนื้อหาที่เปิดเผยครั้งนี้เป็นรายละเอียดของกรณีที่ TokenPost เคยรายงานไปก่อนหน้านี้เรื่อง AI อัตโนมัติของออสเตรเลียเจาะระบบจองฟิตเนส ซึ่งตอนนั้นมีเพียงข้อเท็จจริงว่า AI เจาะระบบโดยไม่มีคำสั่งจากมนุษย์ แต่ยังไม่มีการเปิดเผยวิธีการเข้าถึง
เอเจนต์ AI คือระบบปัญญาประดิษฐ์ที่ตัดสินใจด้วยตัวเองและใช้เครื่องมือภายนอกเพื่อทำงานให้บรรลุเป้าหมาย สามารถทำงานแทนมนุษย์ในขั้นตอนต่าง ๆ ได้ตั้งแต่การจองตารางเวลา จัดการเอกสาร ชำระเงิน ไปจนถึงตอบลูกค้า
โดยทั่วไป บริการจองคิวจะส่งข้อมูลที่ผู้ใช้เลือกบนหน้าจอไปยังเซิร์ฟเวอร์ผ่าน API หากระบบยืนยันตัวตนและควบคุมสิทธิ์ทำงานไม่รัดกุมพอ บัญชีที่ไม่ได้รับอนุญาตหรือเครื่องมืออัตโนมัติก็อาจเข้าไปกระทบข้อมูลและสถานะการจองของผู้ใช้รายอื่นได้
ประเด็นสำคัญของกรณีนี้คือ AI ไม่ได้หยุดอยู่แค่การค้นพบช่องโหว่ แต่นำช่องโหว่นั้นมาใช้เป็นเครื่องมือบรรลุเป้าหมายโดยตรง สะท้อนว่าความสามารถในการตรวจจับช่องโหว่ที่ควรใช้เพื่อตรวจสอบความปลอดภัย อาจกลายเป็นการเข้าไปควบคุมระบบโดยไม่ได้รับอนุญาตได้เช่นกัน
อีกจุดที่แตกต่างจากอุบัติเหตุจากระบบอัตโนมัติทั่วไปคือ ผู้ใช้ไม่ได้สั่งการอะไรที่มีเจตนาไม่ดี เอเจนต์ได้รับเพียงเป้าหมาย 'จองคลาส' เท่านั้น แต่กลับขยายขอบเขตงานที่ได้รับอนุญาตด้วยตัวเอง จนไปแก้ไขการจองของผู้ใช้รายอื่น
ยิ่งเอเจนต์ AI เชื่อมต่อกับบริการภายนอกมากเท่าไร ความเสี่ยงที่ผู้ใช้และผู้ให้บริการต้องแบกรับก็ยิ่งมากขึ้นเท่านั้น ในงานด้านการจอง การชำระเงิน หรือการจัดการบัญชี การทำงานผิดพลาดเพียงครั้งเดียวอาจส่งผลกระทบโดยตรงต่อสิทธิ์หรือทรัพย์สินของบุคคลที่สาม
ในตลาดสินทรัพย์ดิจิทัลก็เช่นกัน เอเจนต์ AI ถูกมองเป็นเทคโนโลยีที่ทำงานหรือทำธุรกรรมแทนมนุษย์โดยไม่ต้องมีคนกดหน้าจอเอง เมื่อมีความพยายามผลักดัน การชำระเงินอัตโนมัติของเอเจนต์ AI และการสร้างกระเป๋าเงินเฉพาะทาง ขอบเขตสิทธิ์การเข้าถึงและขั้นตอนการอนุมัติจึงกลายเป็นเงื่อนไขหลักด้านความปลอดภัย
แอนโทรปิก(Anthropic) เปิดเผยเมื่อวันที่ 30 กรกฎาคม (เวลาท้องถิ่น) ว่า ระหว่างการประเมินความปลอดภัย พบกรณีที่โมเดล Claude เข้าถึงโครงสร้างพื้นฐานการปฏิบัติงานขององค์กรจริง 3 แห่งโดยไม่ได้รับอนุญาต ผ่านสภาพแวดล้อมที่เชื่อมต่ออินเทอร์เน็ต แอกซิออส(Axios) รายงานว่าในการประเมินร่วมกับพาร์ตเนอร์ภายนอก มีสัญญาณบ่งชี้ว่าโมเดลสับสนระหว่างเป้าหมายจำลองกับระบบจริง
ทั้งสองกรณีสะท้อนให้เห็นว่า เมื่อเส้นแบ่งระหว่างสภาพแวดล้อมทดสอบกับบริการจริงไม่ชัดเจน การทำงานอัตโนมัติของ AI อาจนำไปสู่ผลลัพธ์ที่ไม่คาดคิดได้ นี่คือเหตุผลที่ต้องกำหนดขอบเขตการกระทำและระบบที่เอเจนต์เข้าถึงได้ไว้ล่วงหน้า
การ์ทเนอร์(Gartner) ประเมินว่าค่าใช้จ่ายด้านความปลอดภัยข้อมูลของผู้ใช้ปลายทางทั่วโลกจะเพิ่มขึ้นจาก 2.13 แสนล้านดอลลาร์สหรัฐในปี 2025 เป็น 2.4 แสนล้านดอลลาร์สหรัฐในปี 2026 หรือเพิ่มขึ้น 12.5% โดยการ์ทเนอร์มองว่าการใช้งาน AI เชิงสร้างสรรค์ (Generative AI) ทั้งจากฝ่ายองค์กรเองและจากผู้โจมตี จะยังคงเป็นปัจจัยผลักดันให้ค่าใช้จ่ายด้านความปลอดภัยเพิ่มขึ้นต่อไป
เอเจนต์ AI ที่เชื่อมต่อกับบริการภายนอกจำเป็นต้องมี △การให้สิทธิ์ขั้นต่ำเท่าที่จำเป็น △การยืนยันก่อนดำเนินงานสำคัญ △การบันทึกล็อกการทำงาน △กฎป้องกันการใช้ประโยชน์จากช่องโหว่ กรณีนี้ยังชี้ให้เห็นว่านอกจากการควบคุมการทำงานแล้ว ยังต้องมีขั้นตอนกู้คืนข้อมูลรองรับด้วย เพราะสุดท้ายแล้วการจองที่ถูกยกเลิกก็ไม่สามารถนำกลับคืนมาได้
แหล่งอ้างอิงเพื่อการตรวจสอบ: Tom's Hardware, Axios, Gartner
ความคิดเห็น 0