วิทาลิกชี้ ควรจำกัดความสามารถ AI ตามวัตถุประสงค์การใช้งาน

วิทาลิก บูเทอริน (Vitalik Buterin) กล่าวว่า การจำกัดความสามารถของ AI ที่อาจเป็นอันตรายควรพิจารณาจากวัตถุประสงค์การใช้งาน มากกว่าตัวตนของผู้ใช้

เมื่อวันที่ 26 บูเทอรินกล่าวบน X ว่า เขายอมรับได้กับการตัดความสามารถโจมตีทางไซเบอร์ขั้นสูงออกจากข้อมูลฝึกของ Kimi 3.1 โดยมองว่าการจำกัดความสามารถที่อาจถูกนำไปใช้ในทางเสี่ยงมีผลข้างเคียงน้อยกว่าการแบ่งแยกผู้ใช้ตามตัวตน

Moonshot AI ผู้พัฒนา Kimi ระบุในเอกสารทางเทคนิคว่า ก่อนเปิดเผยน้ำหนักโมเดล K3.1 Pro บริษัทได้นำข้อมูลที่เกี่ยวข้องกับความมั่นคงปลอดภัยทางไซเบอร์และโจทย์ด้านนี้ออกจากข้อมูลฝึกขั้นกลางและสภาพแวดล้อมการเรียนรู้แบบเสริมแรง แต่ยังคงโจทย์เขียนโค้ดทั่วไปไว้ น้ำหนักโมเดลคือข้อมูลที่นักพัฒนาต้องใช้เพื่อเรียกใช้โมเดลในสภาพแวดล้อมของตนเอง

ในการทดสอบภายในของ Moonshot AI โมเดลที่ไม่ได้ใช้ข้อจำกัดทำโจทย์ค้นหาและใช้ประโยชน์จากช่องโหว่สำเร็จ 90.5% ส่วน K3.1 Pro รุ่นสุดท้ายทำได้ 81.0% ผลดังกล่าวมาจากการทดสอบที่บริษัทออกแบบเอง การนำข้อมูลออกไม่ได้ทำให้ความสามารถในการโจมตีหายไป และ Moonshot AI ระบุว่าโมเดลสุดท้ายทำโจทย์ด้านความมั่นคงปลอดภัยทางไซเบอร์ได้ดีกว่ารุ่นก่อน

บูเทอรินกล่าวว่า สังคมจำเป็นต้องมีเวลาเสริมความแข็งแกร่งให้ระบบและตรวจสอบโค้ดเก่าก่อนที่ความสามารถโจมตีทางไซเบอร์ขั้นสูงจะแพร่หลาย เขายังเสนอให้ใช้การตรวจสอบยืนยันเชิงรูปแบบ ซึ่งพิสูจน์ทางคณิตศาสตร์ได้ว่าโค้ดใหม่ไม่มีข้อผิดพลาด ความเห็นของเขาแยกประเด็นการตัดสินใจว่าจะให้ใครเข้าถึง AI ออกจากการกำหนดว่าจะเปิดให้ใช้ความสามารถที่อาจนำไปโจมตีได้มากเพียงใด

บูเทอรินกังวลว่า หากรับมือความเสี่ยงร้ายแรงในช่วงแรกของ AI ได้ไม่ดี การใช้งานโมเดลอาจถูกจำกัดอย่างมาก และการยืนยันตัวตนลูกค้า (KYC) กับการเฝ้าระวังอาจกลายเป็นเรื่องปกติ นอกจากนี้ เขายังกล่าวถึงความเป็นไปได้ที่ผู้ใช้จะเข้าถึงโมเดลต่างระดับกันตามคุณสมบัติหรือสัญชาติ นี่เป็นข้อกังวลที่บูเทอรินหยิบยกขึ้นมา ไม่ใช่คำอธิบายเกี่ยวกับกฎระเบียบที่มีผลบังคับใช้อยู่

Moonshot AI ให้บริการ K3.1 Pro ผ่านบริการของบริษัทและ API แล้ว และระบุว่ามีแผนเปิดเผยน้ำหนักโมเดลทั้งหมดภายในวันที่ 4 พฤศจิกายน