เตือนเสี่ยง AI พัฒนาตัวเองแซงควบคุม เรียกร้องนานาชาติร่วมมือคุมเข้ม

เจคอบ ค็อกซัน(Jacob Coxon) อดีตนักวิจัยด้านการฝึกโมเดลเบื้องต้น (pretraining) ของโอเพนเอไอ(OpenAI) และแอนโทรปิก(Anthropic) ออกมาเตือนว่าห้องปฏิบัติการปัญญาประดิษฐ์ (AI) รายใหญ่กำลังเร่งแข่งขันด้านเทคโนโลยีจนละเลยความปลอดภัย พร้อมเรียกร้องให้ชะลอความเร็วในการพัฒนาและเพิ่มความร่วมมือระดับนานาชาติ ขณะที่พอล ทิวดอร์ โจนส์(Paul Tudor Jones) นักเทรดชื่อดัง ออกมาเตือนในทิศทางเดียวกันว่า AI อาจกลายเป็น 'มหาอำนาจที่สาม' ที่ทรงอิทธิพลเหนือรัฐชาติ

ค็อกซัน ซึ่งเพิ่งลาออกจากแอนโทรปิกเมื่อไม่นานนี้ โพสต์ข้อความผ่านโซเชียลมีเดียวิจารณ์ว่าห้องแล็บ AI ชั้นนำ "กำลังเร่งพุ่งเข้าสู่ยุคซูเปอร์อินเทลลิเจนซ์ที่พัฒนาตัวเองได้ โดยเอาชีวิตของพวกเราทุกคนไปเดิมพัน" คำพูดนี้สะท้อนความกังวลของนักวิจัยที่เคยอยู่ในองค์กรพัฒนา AI ระดับแนวหน้าทั้งสองแห่ง ว่าการแข่งขันเชิงพาณิชย์กำลังบดบังประเด็นด้านความปลอดภัย

ค็อกซันระบุว่า AI ที่มีความสามารถเหนือมนุษย์และพัฒนาตัวเองได้ อาจโจมตีระบบดิจิทัลต่าง ๆ เปลี่ยนโครงสร้างภาคอุตสาหกรรม และเข้าถึงทรัพยากรในโลกจริงได้ภายในเวลาอันสั้น เขาระบุว่าในแวดวง AI มีนักวิจัยบางส่วนที่เชื่อว่าเทคโนโลยีนี้อาจคุกคามการอยู่รอดของมนุษยชาติได้ภายในทศวรรษหน้า แต่ท่าทีต่อสาธารณะของบริษัทต่าง ๆ มักถูกปรับให้นุ่มนวลลงเพื่อการประชาสัมพันธ์

เขายังกล่าวหาว่าบุคลากรบางส่วนภายในโอเพนเอไอยังไม่ตระหนักถึงความเสี่ยงระดับอารยธรรมที่ซูเปอร์อินเทลลิเจนซ์อาจก่อขึ้นมากพอ ส่วนแอนโทรปิกนั้น แม้จะมีความตระหนักด้านความเสี่ยงด้านความปลอดภัยของ AI สูงกว่า แต่ก็ตกอยู่ภายใต้แรงกดดันจากการแข่งขันในลักษณะ "ถ้าเราไม่ทำ ก็จะมีคนอื่นทำแทน"

ค็อกซันเรียกร้องให้ห้องปฏิบัติการ AI รายใหญ่ของสหรัฐฯ ทำข้อตกลงร่วมกันเพื่อจำกัดความเร็วในการพัฒนาเทคโนโลยี และเสนอว่าควรพิจารณามาตรการระงับชั่วคราวในระดับโลก แม้จะมีต้นทุนสูงก็ตาม เขาระบุว่าไม่ควรใช้การเรียนรู้เชิงเสริมกำลัง (reinforcement learning) ยกระดับระบบซูเปอร์อินเทลลิเจนซ์ต่อไป จนกว่าจะเข้าใจกลไกการทำงานภายในของโมเดลอย่างเพียงพอ

ด้านพอล ทิวดอร์ โจนส์(Paul Tudor Jones) นิยาม AI ว่าเป็น 'มหาอำนาจที่สาม' ที่อาจก้าวข้ามอำนาจของประเทศมหาอำนาจเดิมที่มีอยู่ในทางภูมิรัฐศาสตร์ เขาระบุว่าความเร็วในการพัฒนา AI ไม่ใช่เรื่องในนิยายวิทยาศาสตร์อีกต่อไป แต่เป็นความเสี่ยงที่รัฐบาลทั่วโลกกำลังเผชิญอยู่จริง

โจนส์เสนอว่าประเทศมหาอำนาจ อาทิ สหรัฐฯ และจีน ควรกำหนดตารางเวลาการพัฒนาและการเผยแพร่ AI ร่วมกันอย่างเป็นระบบ พร้อมย้ำว่าโลกจำเป็นต้องมีมาตรฐานสากลเพื่อผลักดันให้เทคโนโลยีนี้พัฒนาไปในทิศทางที่ปลอดภัย ควบคุมได้ และเข้าใจง่าย

เขายกตัวอย่างสถานการณ์ที่โมเดล AI พัฒนาตัวเองซ้ำแล้วซ้ำเล่าหลายพันครั้ง โดยชี้ว่าหากเพียงครั้งเดียวที่เป้าหมายของโมเดลเบี่ยงเบนไปจากเป้าหมายที่มนุษย์กำหนดไว้ ก็อาจก่อความเสียหายต่อมนุษยชาติหรือนำไปสู่หายนะได้ และหากโมเดลลักษณะนี้ถูกนำไปใช้งานพร้อมกันกับผู้ใช้นับหมื่นคน ความเสียหายก็อาจขยายวงกว้างตามไปด้วย

โจนส์มองว่า AI แตกต่างจากรัฐชาติทั่วไปตรงที่อาจไม่มีขีดจำกัดการพัฒนาที่ชัดเจนหรือขนาดที่คาดการณ์ได้ล่วงหน้า เมื่ออิทธิพลสุดท้ายของมันมีแนวโน้มก้าวข้ามประเทศใดประเทศหนึ่งในปัจจุบัน เขาจึงเรียกร้องให้ผู้นำประเทศต่าง ๆ ให้ความสำคัญกับประเด็นความปลอดภัยของ AI เป็นวาระนโยบายอันดับต้นในช่วงที่ดำรงตำแหน่ง

คำเตือนครั้งนี้สะท้อนว่าประเด็นความปลอดภัยของ AI กำลังขยายขอบเขตจากงานวิจัยภายในบริษัทเทคโนโลยี ไปสู่ประเด็นด้านธรรมาภิบาลระหว่างประเทศ ความมั่นคงของชาติ และความเสี่ยงทางสังคมในระยะยาว ที่น่าสนใจคือทั้งฝั่งนักวิจัยและฝั่งตลาดการเงินต่างออกมาเรียกร้องให้ชะลอความเร็วในการพัฒนาและร่วมมือกันในช่วงเวลาใกล้เคียงกัน

ในประเทศไทยและภูมิภาคเอเชีย ประเด็นการขยายโครงสร้างพื้นฐานด้าน AI ก็เป็นที่จับตาเช่นกัน โดยที่เกาหลีใต้ รัฐบาลกำลังผลักดันแผนขยายการลงทุนที่รวมศูนย์ข้อมูล AI เซมิคอนดักเตอร์ และ AI เชิงกายภาพเข้าไว้ด้วยกัน เมื่อภาครัฐเดินหน้านโยบายขยายโครงสร้างพื้นฐานและการใช้งาน AI อย่างต่อเนื่อง ประเด็นการถ่วงดุลระหว่างความเร็วในการพัฒนาและการตรวจสอบความปลอดภัยก็มีแนวโน้มกลายเป็นโจทย์ของนโยบายและภาคอุตสาหกรรมในแต่ละประเทศตามไปด้วย

ทั้งนี้ คำเตือนของค็อกซันและโจนส์เป็นข้อเสนอที่เรียกร้องให้มีการจำกัดการพัฒนาและความร่วมมือด้านความปลอดภัยในระดับนานาชาติเท่านั้น มาตรการที่ทั้งสองกล่าวถึงยังไม่ได้ถูกกำหนดเป็นกฎระเบียบระหว่างประเทศหรือคำสั่งระงับการพัฒนา AI อย่างเป็นทางการแต่อย่างใด