ข่าว 
ข้อมูลเหรียญ 
แนะนำสื่อ 
บริษัทแอนโทรปิก(Anthropic) สกัดกั้นความพยายามใช้ AI ในงานวิจัยที่อาจนำไปสู่การพัฒนาอาวุธชีวภาพได้สำเร็จ แต่มีรายงานว่าทีมวิจัยดังกล่าวย้ายไปใช้โมเดล AI ของคู่แข่งภายในเวลาเพียงไม่กี่วัน กรณีนี้สะท้อนให้เห็นว่าการควบคุมกลไกความปลอดภัยของ AI เชิงสร้างสรรค์ (generative AI) ด้วยการสกัดกั้นจากบริษัทเพียงรายเดียวอาจไม่เพียงพอ
แอนโทรปิกระบุในรายงานข่าวกรองด้านภัยคุกคาม (threat intelligence report) ที่เผยแพร่เมื่อวันที่ 10 ว่า บริษัทได้ตรวจพบและสกัดกั้นกรณีการใช้โคลด(Claude) ในงานวิจัยด้านชีววิทยาแล้วทั้งสิ้น 5 กรณี โดยสำนักข่าวเอพี(AP) รายงานโดยอ้างอิงรายงานของแอนโทรปิกว่า คำขอทุนวิจัยฉบับหนึ่งเกี่ยวข้องกับการวิจัยเพิ่มขีดความสามารถ (gain-of-function) เพื่อเพิ่มความสามารถในการแพร่เชื้อและการหลบเลี่ยงภูมิคุ้มกันของไวรัสชิคุนกุนยา
สำนักข่าวบีอินคริปโต(BeInCrypto) รายงานว่า หลังแอนโทรปิกระงับการสนับสนุนโคลดแก่ทีมวิจัยดังกล่าว ทีมวิจัยได้ย้ายไปใช้โมเดลคู่แข่งภายในเวลาไม่กี่วัน ทางแอนโทรปิกระบุว่าได้เสริมมาตรการป้องกันในโมเดลรุ่นล่าสุด เพื่อจำกัดคำถามที่เกี่ยวข้องกับงานวิจัยชีววิทยาที่มีความเสี่ยงใช้ได้สองทาง (dual-use)
ความคิดเห็น: กรณีนี้ชี้ให้เห็นถึงความท้าทายสำคัญด้านการกำกับดูแลความปลอดภัยของ AI นั่นคือ แม้บริษัทหนึ่งจะเฝ้าระวังและสกัดกั้นเชิงรุก แต่ตราบใดที่แพลตฟอร์มอื่นยังไม่มีกลไกตรวจสอบในระดับเดียวกัน ผู้ที่มีความเสี่ยงในการนำไปใช้ในทางที่ผิดก็ยังสามารถย้ายไปใช้บริการอื่นได้ง่าย เมื่อโมเดล AI เชิงสร้างสรรค์แพร่หลายมากขึ้น การสร้างกลไกความร่วมมือเฝ้าระวังร่วมกันระหว่างบริษัทและอุตสาหกรรมต่าง ๆ น่าจะกลายเป็นโจทย์สำคัญที่วงการต้องเผชิญต่อไป
ความคิดเห็น 0