เสี่ยง 10% ใน 10 ปี! นักวิจัย AI เตือนซูเปอร์อินเทลลิเจนซ์พัฒนาตัวเองเกินควบคุม

นักวิจัยรายหนึ่งประเมินว่าปัญญาประดิษฐ์ (AI) มีโอกาสมากกว่า 10% ที่จะทำให้มนุษย์ทุกคนเสียชีวิตภายใน 10 ปีข้างหน้า จุดกระแสถกเถียงเรื่องการพัฒนาตัวเองแบบเรียกซ้ำ (Recursive Self-Improvement) ของ AI และความเป็นไปได้ที่มนุษย์จะควบคุมมันได้ นักวิจัยที่เคยทำงานที่กูเกิล ดีปมายด์(Google DeepMind) ก็ออกมาเตือนเช่นกันว่า การกำกับดูแลของมนุษย์อาจอ่อนแอลง หาก AI เป็นผู้รับผิดชอบพัฒนาโมเดลรุ่นถัดไปด้วยตัวเอง

ริชับ เจน(Rishub Jain) อดีตนักวิจัยของกูเกิล ดีปมายด์ ตัดสินใจลาออกจากบริษัทเมื่อต้นปีนี้ เพราะเห็นว่ามนุษย์อาจไม่เข้าใจวิธีที่ AI สร้างโมเดลรุ่นถัดไปมากพอ เจนให้สัมภาษณ์กับไวเออร์ด(WIRED)ว่า “AI กำลังพัฒนาเร็วขึ้นเรื่อยๆ และยิ่ง AI มีความสามารถมากขึ้นเท่าไหร่ ความเสี่ยงก็ยิ่งสูงขึ้นเท่านั้น” คำพูดนี้สะท้อนความกังวลของอดีตนักวิจัยที่คลุกคลีกับการพัฒนา AI ระดับแนวหน้ามาโดยตรง

สิ่งที่เจนกังวลคือ ‘การพัฒนาตัวเองแบบเรียกซ้ำ’ ซึ่งเป็นโครงสร้างที่ AI ฝึกฝน AI ตัวอื่น แก้ไขโค้ดของตัวเอง และรับผิดชอบกระบวนการพัฒนาโมเดลรุ่นถัดไปด้วย ปัจจุบันยังไม่มีห้องปฏิบัติการ AI รายใดประกาศว่าสร้างวงจรการพัฒนาตัวเองที่เป็นอิสระโดยสมบูรณ์ได้แล้ว

อย่างไรก็ตาม รูปแบบการใช้ AI เอเจนต์จำนวนมากเพื่อแก้โจทย์ปัญหาที่ซับซ้อนได้ปรากฏขึ้นแล้ว โอเพนเอไอ(OpenAI) ระบุเมื่อวันที่ 5 กันยายน(เวลาท้องถิ่น) ว่า ใช้เอเจนต์ราว 10,000 ตัวที่พัฒนาจากโมเดลภายในบริษัท เพื่อหาคำตอบของสมการนาเวียร์-สโตกส์(Navier-Stokes)

เอเจนต์เหล่านี้แลกเปลี่ยนข้อความกันราว 2.7 ล้านข้อความ เป็นเวลาประมาณ 88 ชั่วโมง และใช้เวลาเพิ่มอีก 17 ชั่วโมงเพื่อจัดรูปแบบและตรวจสอบผลลัพธ์ โอเพนเอไอระบุว่าผลลัพธ์นี้เป็นอีกหนึ่งจุดของพัฒนาการด้าน AI แต่บริษัทไม่ได้อ้างอย่างเป็นทางการว่าได้ไขโจทย์รางวัลมิลเลนเนียม(Millennium Prize) ของวงการคณิตศาสตร์ได้แล้ว

เมื่อจำนวนเอเจนต์และขั้นตอนความร่วมมือเพิ่มขึ้น มนุษย์ก็ยิ่งติดตามเหตุผลเบื้องหลังการตัดสินใจในแต่ละขั้นตอนได้ยากขึ้น และยิ่ง AI เข้าไปมีบทบาทในกระบวนการออกแบบระบบรุ่นถัดไปมากกว่าการช่วยวิจัยและพัฒนาทั่วไป ขอบเขตของการกำกับดูแลก็จำเป็นต้องขยายตามไปด้วย

คำเตือนแบบเปิดเผยเกิดขึ้นที่แอนโทรปิก(Anthropic) เช่นกัน เจคอบ ค็อกซอน(Jacob Coxon) อดีตนักวิจัยของแอนโทรปิก ประกาศลาออกพร้อมกล่าวว่า “บริษัท AI กำลังวิ่งตรงเข้าสู่ซูเปอร์อินเทลลิเจนซ์ที่พัฒนาตัวเองได้ โดยเอาชีวิตของมนุษย์ไปเสี่ยง”

อีวาน ฮูบิงเงอร์(Evan Hubinger) หัวหน้าฝ่ายวิทยาศาสตร์การจัดแนว(Alignment Science) ของแอนโทรปิก กล่าวว่า “ส่วนตัวผมมองว่า AI มีโอกาสมากกว่า 10% ที่จะทำให้มนุษย์ทุกคนเสียชีวิตภายใน 10 ปีข้างหน้า” เอพี(AP) รายงานคำพูดนี้ด้วยเช่นกัน

คำพูดของฮูบิงเงอร์เป็นการประเมินความเสี่ยงส่วนบุคคล ไม่ใช่มุมมองอย่างเป็นทางการของบริษัท แต่ถูกมองว่าสะท้อนความกังวลของนักวิจัยเกี่ยวกับช่องว่างระหว่างความเร็วในการพัฒนา AI ขั้นสูงกับระดับการตรวจสอบความปลอดภัยในปัจจุบัน

‘การจัดแนว(Alignment)’ คือสาขาเทคโนโลยีที่ประเมินและปรับพฤติกรรมของ AI ให้สอดคล้องกับเจตนาและคุณค่าของมนุษย์ เนต โซแอเรส(Nate Soares) นักวิทยาศาสตร์คอมพิวเตอร์จาก MIRA กล่าวว่า ตรงข้ามกับความคาดหวังที่ว่าการจัดแนวจะง่ายขึ้นเมื่อประสิทธิภาพของโมเดลดีขึ้น แต่ในความเป็นจริงกลับยากขึ้นเรื่อยๆ

โซแอเรสชี้ว่า ในโครงสร้างที่เอเจนต์หลายพันตัวทำงานร่วมกัน มนุษย์จะติดตามเหตุผลเบื้องหลังการตัดสินใจในแต่ละขั้นตอนได้ซับซ้อนขึ้นไปอีก และย้ำว่าความฉลาดของโมเดลกับความสามารถของมนุษย์ในการเข้าใจและควบคุมพฤติกรรมของโมเดลนั้น เป็นคนละเรื่องกัน

เจนให้ความสนใจกับแนวทางผสานการตัดสินใจของมนุษย์เข้ากับ AI มากกว่าการแทนที่มนุษย์ด้วย AI ทั้งหมด หลังลาออกจากกูเกิล ดีปมายด์ เขาได้ก่อตั้งแซมพูรา รีเสิร์ช(Sampura Research) เพื่อศึกษาเทคโนโลยีที่ให้มนุษย์และ AI ร่วมกันประเมินโมเดล

แซมพูรา รีเสิร์ชมีแผนทุ่มเทพัฒนา ‘ผู้ตัดสิน(Judge)’ ที่ประเมินความถูกต้องและการจัดแนวของพฤติกรรม AI ในช่วง 6 เดือนข้างหน้า แซมพูรา รีเสิร์ชระบุเป้าหมายว่าต้องการสร้างระบบประเมินที่แบ่งบทบาทระหว่างมนุษย์กับ AI อย่างชัดเจน

ข้อถกเถียงเรื่องการควบคุม AI ไม่ได้จำกัดอยู่แค่ในห้องแล็บ แต่ลามไปถึงระดับนโยบายด้วย ก่อนหน้านี้ TokenPost รายงานว่า หลังการลาออกของค็อกซอน สภาคองเกรสสหรัฐฯ ยังคงถกเถียงเรื่องการจำกัดการพัฒนาซูเปอร์อินเทลลิเจนซ์และระบบกำกับดูแล AI อย่างต่อเนื่อง

สิ่งที่ยังไม่ได้รับการยืนยันในขณะนี้คือการถือกำเนิดของ AI ที่พัฒนาตัวเองได้อย่างสมบูรณ์ ส่วนสิ่งที่ยืนยันได้คือ ขณะที่ขนาดและความเป็นอิสระของเอเจนต์ AI กำลังขยายตัว นักวิจัยจำนวนหนึ่งกำลังเตือนถึงข้อจำกัดของการกำกับดูแลโดยมนุษย์ พร้อมกับพัฒนาเทคโนโลยีควบคุมที่ผสานการตัดสินใจของมนุษย์และ AI เข้าด้วยกัน