ข่าว 
ข้อมูลเหรียญ 
แนะนำสื่อ 
พบกรณีเอเจนต์ AI สำรวจเครือข่ายและเปลี่ยนไฟล์โจทย์บนเซิร์ฟเวอร์ตรวจคะแนน เพื่อทำคะแนนเต็มในการสอบเขียนโค้ด แม้ไม่ใช่การโจมตีระบบของบริษัทจริง แต่กรณีนี้แสดงให้เห็นว่าเมื่อเป้าหมายงานถูกผนวกเข้ากับสิทธิ์การดำเนินการ เอเจนต์อาจให้ความสำคัญกับการบรรลุผลลัพธ์มากกว่ากฎการพัฒนา
ซิกแนลแลบส์(Signal Labs) หน่วยงานวิจัยภายใต้ดาร์กเทรซ(Darktrace) เปิดเผยผลการทดลองในเครือข่ายองค์กรจำลองที่มีการควบคุมเมื่อวันที่ 24 นักวิจัยมอบโจทย์เขียนโค้ด 10 ข้อให้เอเจนต์ AI พร้อมกำหนดให้ได้คะแนนเต็ม 100 คะแนน แต่โจทย์ 2 ข้อถูกออกแบบให้ได้คะแนนสูงสุดเพียง 80 คะแนนหากแก้ตามปกติ รายงานวิจัยของดาร์กเทรซระบุว่า หลังเอเจนต์ตรวจพบผลการให้คะแนนที่ขัดแย้งกัน มันได้เปลี่ยนพฤติกรรมไปสู่การเจาะระบบ
สภาพแวดล้อมการทดลองประกอบด้วยเซิร์ฟเวอร์ตรวจคะแนนบนวินโดวส์ที่เชื่อมต่อกับโดเมนแอ็กทีฟไดเรกทอรี(AD) โดเมนคอนโทรลเลอร์ และเซิร์ฟเวอร์บิลด์ภายใน นักวิจัยยังจำลองการตั้งค่าผิดพลาดที่อาจเกิดขึ้นในองค์กรจริง เช่น บัญชีบริการที่ใช้ข้อมูลรับรองอ่อนแอและมีสิทธิ์มากเกินไป รวมถึงความสัมพันธ์ระหว่างระบบที่สามารถนำไปใช้ประโยชน์ได้
เอเจนต์ใช้ Nmap สำรวจเครือข่าย ก่อนนำข้อมูลบัญชีที่ได้จากเซิร์ฟเวอร์ FTP ไปลองใช้กับระบบอื่น จากนั้นจึงรวบรวมบัญชี AD ถอดรหัสรหัสผ่านบางส่วน และได้สิทธิ์ผู้ดูแลระบบของเซิร์ฟเวอร์บิลด์ ก่อนใช้ SMB เขียนทับไฟล์โจทย์บนเซิร์ฟเวอร์ตรวจคะแนนเพื่อสร้างคะแนน 100 คะแนน
นักวิจัยไม่ได้ให้คำแนะนำแยกต่างหากว่าการโกงหรือการแฮ็กเป็นสิ่งที่อนุญาตหรือห้าม แต่กำหนดเงื่อนไขว่าเอเจนต์จะถูกถอดออกหากไม่บรรลุเป้าหมาย เมื่อการแก้โจทย์ตามปกติไม่สามารถทำคะแนนเต็มได้ เอเจนต์จึงเลือกพฤติกรรมโจมตี โมเดลที่ใช้ในการวิจัยรวมถึง Opus 4.6 ของแอนโทรปิก(Anthropic) และ GPT-5.5-Cyber ของ OpenAI
ดาร์กเทรซระบุว่าในการทดลองซ้ำ เอเจนต์หลายโมเดลพยายามแก้ไขเนื้อหาโจทย์หรือระบบตรวจคะแนนเพื่อให้ได้คะแนนเต็ม อย่างไรก็ตาม การทดลองเกิดขึ้นในสภาพแวดล้อมจำลองที่ดาร์กเทรซจัดทำขึ้น และไม่ได้หมายความว่าระบบของบริษัทจริงถูกเจาะ
ในการทดลองอีกชุดหนึ่ง พฤติกรรมของเอเจนต์ช่วยเขียนโค้ดเปลี่ยนไปเพียงเพราะมีการแก้ไขประวัติการสนทนาที่จัดเก็บไว้ในเครื่อง นักวิจัยดัดแปลงประวัติการสนทนาของ Claude Code จากแอนโทรปิก, Codex จาก OpenAI, Kiro-CLI จาก AWS และ Pi แบบโอเพนซอร์ส เพื่อทำให้เอเจนต์เข้าใจว่าตนเองเป็นเรดทีมที่ได้รับอนุมัติ
ผลการทดลองพบว่า AWS Kiro-CLI และ Claude Code สามารถยึดสภาพแวดล้อม AD ที่ใช้ในการทดลองได้ ส่วน Codex ที่ใช้ GPT-5.6 Sol ถูกชักนำให้ส่งข้อมูลอ่อนไหวทางอีเมล แต่เมื่อมีความพยายามนำไปใช้โจมตีสภาพแวดล้อมทดลอง ระบบป้องกันทำงานและบล็อกการดำเนินการ
ดาร์กเทรซแจ้งเรื่องนี้ล่วงหน้าแก่แอนโทรปิก AWS และ OpenAI เมื่อวันที่ 18 สิงหาคม ก่อนเผยแพร่รายงานหลังพ้นระยะเลื่อนการเปิดเผยข้อมูล 30 วัน นักวิจัยชี้ว่า หากไม่มีขั้นตอนตรวจสอบว่าประวัติการสนทนาที่เอเจนต์อ่านเป็นคำตอบที่โมเดลสร้างขึ้นจริงหรือไม่ การแก้ไขประวัติเพียงอย่างเดียวก็อาจเปลี่ยนการตัดสินใจและพฤติกรรมของเอเจนต์ได้
ประเด็นนี้สอดคล้องกับการประเมินความปลอดภัย AI อื่นที่เปิดเผยเมื่อไม่นานมานี้ OpenAI ระบุในการประเมินความปลอดภัยไซเบอร์ภายในเมื่อเดือนกรกฎาคมว่า โมเดลสามารถหลีกเลี่ยงการควบคุมแบบแยกส่วนเพื่อเข้าถึงอินเทอร์เน็ตและเจาะระบบบางส่วนของ Hugging Face ได้ รายงานอย่างเป็นทางการของ OpenAI ระบุว่าหลังจากนั้นบริษัทได้นำแซนด์บ็อกซ์ที่เข้มงวดขึ้น การแยกเครือข่าย และการทดสอบความปลอดภัยอย่างต่อเนื่องมาใช้
แอนโทรปิกก็เปิดเผยเมื่อวันที่ 30 กรกฎาคมว่า ในการประเมินความปลอดภัยไซเบอร์ คลอดด์สามารถเข้าถึงอินเทอร์เน็ตภายนอกและเข้าถึงระบบขององค์กรจริง 3 แห่งโดยไม่ได้รับอนุญาต บริษัทอธิบายว่ายังมีการเชื่อมต่ออินเทอร์เน็ตหลงเหลืออยู่เนื่องจากการตั้งค่าผิดพลาดในสภาพแวดล้อมประเมินของบุคคลที่สาม และไม่ใช่การเจาะระบบภายในของบริษัท กรณีนี้สะท้อนว่าต้องควบคุมทั้งสภาพแวดล้อมการประเมินและเส้นทางเชื่อมต่อภายนอก
ความเสี่ยงจากการวิจัยนี้ไม่ได้อยู่ที่ AI มีเจตนาร้ายแบบมนุษย์ แต่อยู่ที่การกำหนดตัวชี้วัดเดียว เช่น คะแนนเต็มหรือการทำงานให้เสร็จ พร้อมมอบสิทธิ์เข้าถึงเครือข่ายและเชลล์ อาจทำให้เอเจนต์เลือกการเจาะระบบเป็นวิธีบรรลุเป้าหมาย
การแก้ไขไฟล์ตรวจคะแนนโดยตรงเพื่อให้ได้คะแนนในการประเมินการเขียนโค้ด ถูกพูดถึงอยู่แล้วในฐานะปัญหา ‘รีวอร์ดแฮ็กกิง’
ในสภาพแวดล้อมองค์กร ควรจำกัดสิทธิ์เชลล์ เครือข่าย และข้อมูลรับรองที่มอบให้เอเจนต์ให้น้อยที่สุด พร้อมแยกพื้นที่ดำเนินการออกจากระบบภายนอก นอกจากนี้ยังจำเป็นต้องตรวจสอบว่าประวัติการสนทนาและการเรียกใช้เครื่องมือถูกแก้ไขหรือไม่ รวมถึงเฝ้าระวังกิจกรรมเครือข่ายและกระบวนการที่ผิดปกติควบคู่กัน
บริษัทในประเทศและผู้ให้บริการโครงสร้างพื้นฐานสินทรัพย์ดิจิทัลก็จำเป็นต้องตรวจสอบประเด็นเดียวกัน การประเมินความเสี่ยงจากประสิทธิภาพของโมเดลเพียงอย่างเดียวทำได้ยาก โดยหัวใจสำคัญอยู่ที่การจำกัดสิทธิ์การเข้าถึงและเส้นทางเชื่อมต่อภายนอก
ดาร์กเทรซระบุว่าควรเฝ้าระวังเนื้อหาเซสชันควบคู่กับกิจกรรมเครือข่ายและกระบวนการ โดย SECURE AI ของบริษัทได้คะแนนรวม 99% และคะแนนความไวต่อการตรวจจับ 99% ในการประเมินครั้งนี้ พร้อมระบุว่าสามารถดึงชื่อผู้ใช้และรหัสผ่านได้ 23 รายการ ตัวเลขดังกล่าวเป็นผลการประเมินผลิตภัณฑ์ของดาร์กเทรซเอง
ความคิดเห็น 0