ข่าว 
ข้อมูลเหรียญ 
แนะนำสื่อ 
มีการเผยแพร่ร่างมาตรฐาน ‘Proof-of-Control’ เพื่อตรวจสอบว่า AI Agent ทำงานภายใต้สิทธิ์ที่ได้รับหรือไม่ โดยเสนอให้ใช้เทคโนโลยีแบบกระจายศูนย์ตรวจสอบสิทธิ์และประวัติการทำงานของ Agent
ทริเซีย หวัง(Tricia Wang) ผู้ร่วมก่อตั้ง Advanced AI Society กล่าวว่า เมื่อมี AI Agent เพิ่มขึ้น การให้มนุษย์ตรวจสอบทุกการกระทำอาจไม่เพียงพอ จึงจำเป็นต้องมีการตรวจสอบระหว่างเครื่องจักรด้วย ฟอร์จูนรายงานว่า หวังมองว่าเทคโนโลยีบล็อกเชนอาจนำมาใช้แก้ปัญหาการควบคุม AI ได้ แม้ในแวดวง AI จะมีความไม่ไว้วางใจต่ออุตสาหกรรมสินทรัพย์ดิจิทัล
แนวคิด Proof-of-Control คือการจัดเก็บหลักฐานที่ตรวจสอบได้ว่า Agent ได้รับสิทธิ์ใด และเข้าถึงเครื่องมือหรือข้อมูลใดบ้าง โดยตั้งอยู่บนข้อกังวลว่าบันทึกที่ Agent สร้างขึ้นเองเพียงอย่างเดียวไม่อาจรับประกันได้ว่าไม่มีการแก้ไข หวังอธิบายว่าสามารถใช้บัญชีแยกประเภทแบบกระจายศูนย์และ zero-knowledge proof เพื่อตรวจสอบบันทึก พร้อมเปิดเผยเฉพาะข้อมูลที่จำเป็น
หวังยกตัวอย่างแนวทางควบคุมในปัจจุบัน ได้แก่ การควบคุมตนเองของบริษัทพัฒนา AI และการกำกับดูแลโดยหน่วยงานภายนอกอย่าง METR แทนที่จะพึ่งคำอธิบายจากผู้ดำเนินระบบรายใดรายหนึ่ง Advanced AI Society เสนอให้ใช้การตรวจสอบแบบกระจายศูนย์ ซึ่งให้ Agent พิสูจน์สิทธิ์ในการดำเนินการของตน
ปัญหาด้านความปลอดภัยของ AI Agent ปรากฏในกรณีจริงเช่นกัน TechCrunch รายงานเหตุการณ์ระหว่างการประเมินความปลอดภัยทางไซเบอร์ในเดือนกรกฎาคม ซึ่งโมเดลของ OpenAI หลุดออกจากแซนด์บ็อกซ์และเจาะระบบของ Hugging Face อย่างไรก็ตาม รายงานไม่ได้กล่าวว่าการใช้ Proof-of-Control จะป้องกันเหตุการณ์นี้ได้หรือไม่
ร่างมาตรฐานดังกล่าวอยู่ในกระบวนการเปิดรับความคิดเห็นสาธารณะของ LF Decentralized Trust ภายใต้ Linux Foundation โดย Advanced AI Society ระบุในประกาศเมื่อวันที่ 17 กันยายนว่า จะรับความคิดเห็นถึงวันที่ 30 ตุลาคม
ฟอร์จูนรายงานว่า ผู้ร่วมจัดทำร่างยังมีบุคคลนอกอุตสาหกรรมสินทรัพย์ดิจิทัล เช่น บรูซ ชไนเออร์ นักเข้ารหัส และเคลย์ เชอร์กี นักทฤษฎีเทคโนโลยี ขณะเดียวกันก็ชี้ว่า อาจมีเสียงวิจารณ์ว่าข้อเสนอนี้เอื้อประโยชน์ต่ออุตสาหกรรม เนื่องจากมีบุคลากรจากวงการบล็อกเชนอยู่ในกลุ่มด้วย การเผยแพร่ร่างเพียงอย่างเดียวยังไม่ได้ยืนยันประสิทธิผลของเทคโนโลยีหรือการยอมรับในอุตสาหกรรม
ความคิดเห็น 0