วิทาลิก บูเทริน เสนอกลไกกำกับดูแลจำกัดการสมคบคิดของโมเดล AI

วิทาลิก บูเทริน (Vitalik Buterin) ระบุว่าการออกแบบกลไกกำกับดูแลที่จำกัดการสมคบคิดระหว่างโมเดลปัญญาประดิษฐ์ (AI) หลายตัวที่ทำงานร่วมกัน อาจนำมาปรับใช้กับเรื่องความปลอดภัยของ AI ได้ Wu Blockchain รายงานเมื่อวันที่ 14 ว่าวิทาลิก บูเทรินได้แสดงความเห็นดังกล่าว โดยมีนัยว่าความปลอดภัยของ AI ไม่ควรพิจารณาแค่ประสิทธิภาพหรือคำสั่งของโมเดลแต่ละตัวเท่านั้น แต่ต้องบริหารจัดการความสัมพันธ์ระหว่างโมเดลและกฎการทำงานร่วมกันไปด้วย

วิทาลิก บูเทรินอธิบายว่าการกำกับดูแลแบบดั้งเดิมกับความปลอดภัยของ AI มีปัญหาเชิงโครงสร้างที่คล้ายกัน กล่าวคือ ทั้งสองด้านมีจุดร่วมตรงที่ผู้มีอำนาจน้อยกว่าต้องหาทางได้ผลลัพธ์ที่ต้องการจากตัวแทนหลายรายที่มีความสามารถสูงกว่าตนเอง

ในระบบกำกับดูแลแบบดั้งเดิม ผู้กำหนดกฎเป็นอัลกอริทึมแบบสถิต ส่วนตัวแทนคือมนุษย์ แต่ในบริบทความปลอดภัยของ AI ผู้กำหนดกฎกลายเป็นมนุษย์หรือโมเดลภาษาขนาดใหญ่ (LLM) ที่มีความสามารถด้อยกว่า ขณะที่ LLM ที่แข็งแกร่งกว่าทำหน้าที่เป็นตัวแทน

ตัวแปรสำคัญที่เขาชี้ให้เห็นคือการสมคบคิดระหว่างตัวแทนด้วยกัน เขาอธิบายว่าหากสามารถจำกัดโอกาสที่ตัวแทนจะแบ่งปันข้อมูลหรือร่วมมือกันเพื่อหลบเลี่ยงการควบคุมจากภายนอกได้ ระบบโดยรวมมักจะได้ผลลัพธ์ที่ดีกว่า และข้อสรุปนี้สามารถนำไปใช้กับความปลอดภัยของ AI ได้เช่นกัน

นั่นหมายความว่า การปรับจูนความปลอดภัยให้กับโมเดล AI เพียงตัวเดียวนั้นไม่เพียงพอที่จะรับมือกับความเสี่ยงที่เกิดขึ้นเมื่อโมเดลหลายตัวทำงานร่วมกัน ตรรกะคือไม่ใช่แค่พฤติกรรมของแต่ละโมเดลเท่านั้น แต่รูปแบบการปฏิสัมพันธ์และการจัดสรรอำนาจก็ต้องถูกบริหารจัดการแยกต่างหากด้วย

วิทาลิกยังมองว่าวิธีควบคุม AI ไม่ควรฝากไว้กับกลไกทางเทคนิคเพียงอย่างเดียว เขากล่าวว่าข้อจำกัดของ AI ในอนาคตอาจไม่ใช่แค่ ‘แซนด์บ็อกซ์’ (sandbox) ทางเทคนิคง่ายๆ แต่จะใกล้เคียงกับระบบเชิงสถาบันที่รวมกฎเกณฑ์ อำนาจ การตัดสิน และการบันทึกข้อมูลเข้าไว้ด้วยกัน

แซนด์บ็อกซ์คือวิธีควบคุมทางเทคนิคที่จำกัดทรัพยากรและสภาพแวดล้อมการทำงานที่ AI สามารถเข้าถึงได้ เขาอธิบายว่าจำเป็นต้องเพิ่มกระบวนการติดตามว่าใครใช้สิทธิ์ใดทำอะไร และเก็บบันทึกการตัดสินใจและความรับผิดชอบไว้เมื่อเกิดปัญหาขึ้น

ภายใต้โครงสร้างเช่นนี้ การประเมินความปลอดภัยของโมเดล AI เพียงแค่ก่อนนำไปใช้งานจริงนั้นทำได้ยาก ซึ่งตีความได้ว่าจำเป็นต้องมีระบบเฝ้าระวังการปฏิสัมพันธ์ระหว่างโมเดลในระหว่างการทำงานจริง และรับมือกับสถานการณ์ที่สงสัยว่ามีการละเมิดกฎหรือสมคบคิดกัน

อย่างไรก็ตาม คำกล่าวครั้งนี้ไม่ใช่การยืนยันว่าการออกแบบกลไกกำกับดูแลแบบใดแบบหนึ่งจะรับประกันความปลอดภัยของ AI ได้ แต่เป็นเพียงความเห็นเกี่ยวกับความเป็นไปได้ในการนำไปปรับใช้เท่านั้น วิทาลิกไม่ได้เสนอกฎเกณฑ์ โครงสร้างอำนาจ ผู้มีอำนาจตัดสิน หรือวิธีการบันทึกข้อมูลที่เป็นรูปธรรม

คำกล่าวครั้งนี้ยังไม่พบว่ามีกำหนดการหรือแผนธุรกิจใดที่เชื่อมโยงโดยตรงกับอุตสาหกรรมบล็อกเชน โดยประเด็นหลักของคำกล่าวไม่ได้อยู่ที่อีเธอเรียม(ETH)หรือราคาคริปโต แต่อยู่ที่ความเสี่ยงจากการสมคบคิดและโครงสร้างการควบคุมระหว่างโมเดล AI หลายตัว