แซม อัลต์แมนเสนอ 3 ฉากทัศน์ยุติการแข่งขัน AI ชี้การผูกขาดโดยบริษัทเดียวเป็นเรื่อง ‘เลวร้าย’

แซม อัลต์แมน(Sam Altman) ซีอีโอของ OpenAI เสนอ 3 ฉากทัศน์ที่อาจทำให้การแข่งขันพัฒนา AI ขั้นสูงสิ้นสุดลง ได้แก่ การตั้งองค์กรกำกับดูแลระหว่างประเทศ การรวมแล็บชั้นนำเป็นองค์กรเดียว และการที่บริษัทหนึ่งครองความเป็นผู้นำเพียงรายเดียว โดยเขามองฉากทัศน์สุดท้ายว่า “เลวร้าย”

Crypto Briefing รายงานเมื่อวันที่ 19 ว่าอัลต์แมนกล่าวเรื่องนี้ระหว่างการหารือกับพนักงาน OpenAI ภายในบริษัท ทั้งนี้ คำกล่าวดังกล่าวไม่ใช่นโยบายอย่างเป็นทางการของ OpenAI ที่เผยแพร่เป็นเอกสารสาธารณะ

ฉากทัศน์แรกคือองค์กรกำกับดูแลระหว่างประเทศที่จำลองจากหน่วยงานกำกับดูแลเทคโนโลยีนิวเคลียร์ โดยองค์กรนี้จะดูแลการพัฒนาและความปลอดภัยของ AI อัลต์แมนกล่าวว่านี่เป็นแนวทางที่คุ้นเคยที่สุด แต่การดำเนินการจะเกิดขึ้นได้ก็ต่อเมื่อหลายประเทศเห็นพ้องต่อกติกาของเทคโนโลยีที่ต่างฝ่ายมองว่าเป็นสินทรัพย์เชิงยุทธศาสตร์

ฉากทัศน์ที่สองคือการรวมแล็บ AI ชั้นนำเข้าเป็นองค์กรเดียว แทนการแข่งขันกันเปิดตัวผลิตภัณฑ์ก่อน แนวคิดนี้มุ่งให้บริษัทชั้นนำแบ่งปันมาตรฐานและแนวปฏิบัติด้านความปลอดภัย Crypto Briefing ระบุว่า แม้แนวทางนี้อาจแก้ปัญหาการประสานงานได้ แต่ก็ทำให้เกิดปัญหาการกระจุกตัวอีกรูปแบบหนึ่ง คือการมี “องค์กรขนาดใหญ่เพียงแห่งเดียว”

ฉากทัศน์ที่สามคือบริษัทที่ทำให้เกิดการพัฒนาตนเองแบบวนซ้ำ (RSI: Recursive Self-Improvement) ได้ก่อน จะครองตลาดเพียงรายเดียว RSI หมายถึงกระบวนการที่ AI ปรับปรุงการออกแบบของตนเอง แล้วใช้ความสามารถที่เพิ่มขึ้นกลับมาพัฒนาตัวเองต่อไป อัลต์แมนกล่าวถึงความเป็นไปได้ขั้นสุดโต่งที่บริษัทหนึ่งอาจทำให้ GPU (หน่วยประมวลผลกราฟิก) ของคู่แข่งใช้การไม่ได้ โดย GPU เป็นชิปเฉพาะทางที่ใช้ฝึกและให้บริการ AI

ก่อนหน้านี้ อัลต์แมนเคยกล่าวถึงความเสี่ยงสองประการในที่สาธารณะ ได้แก่ สถานการณ์ที่มนุษย์ควบคุมระบบ AI ไม่ได้ และการกระจุกตัวของอำนาจในสถาบันเพียงไม่กี่แห่ง Crypto Briefing รายงานว่า เมื่อวันที่ 14 กันยายน อัลต์แมนกล่าวว่าไม่ควรปล่อยให้เกิดผลลัพธ์ทั้งสองแบบ เขาระบุว่าจุดยืนของ OpenAI คือการอยู่ข้างมนุษยชาติทั้งหมด ไม่ใช่บริษัทหรือกลุ่มใดกลุ่มหนึ่ง พร้อมเรียกร้องให้เพิ่มมาตรการความปลอดภัยและประเมินระบบ AI โดยอิสระ

ประเด็นนี้สอดคล้องกับการถกเถียงในอุตสาหกรรมเรื่องการชะลอความเร็วในการพัฒนา ดาริโอ อาโมเดอี(Dario Amodei) ซีอีโอของ Anthropic เสนอให้ชะลอการเพิ่มขีดความสามารถของโมเดล AI ระดับแนวหน้า เพื่อให้มีเวลาทำวิจัยด้านความปลอดภัยและรับมือความเสี่ยง อัลต์แมนและอีลอน มัสก์(Elon Musk) แสดงการสนับสนุนข้อเสนอดังกล่าว Crypto Briefing รายงานว่า อัลต์แมนสนับสนุนบทความ “Pace the Frontier” ของอาโมเดอีในเดือนกันยายน โดยบทความเสนอให้ประสานแนวปฏิบัติด้านความปลอดภัยและการประเมินทั่วทั้งอุตสาหกรรม

ทั้งสามฉากทัศน์มีความเสี่ยงเรื่องการกระจุกตัวในรูปแบบต่างกัน องค์กรกำกับดูแลระหว่างประเทศต้องอาศัยข้อตกลงระหว่างประเทศ ส่วนการรวมแล็บอาจลดการแข่งขันแต่ทำให้อำนาจไปรวมอยู่ในองค์กรเดียว ขณะที่การครองตลาดโดยบริษัทเดียวมีลักษณะเดียวกับความเสี่ยงเรื่องการรวมศูนย์อำนาจที่อัลต์แมนเคยเตือนไว้