ฮัสซาบิสเตือน RSI ไร้มนุษย์ตรวจทานเป็น ‘เส้นทางเสี่ยงสู่ AGI’

เดมิส ฮัสซาบิส (Demis Hassabis) ผู้ร่วมก่อตั้งและประธาน Google DeepMind เตือนว่า การพัฒนาตนเองแบบวนซ้ำในวงปิด (RSI) โดยไม่มีมนุษย์ตรวจทานโค้ด อาจเป็นเส้นทางอันตรายสู่ปัญญาประดิษฐ์ทั่วไป (AGI)

คำกล่าวของฮัสซาบิสอยู่ในบทสนทนากับรีด ฮอฟฟ์แมน (Reid Hoffman) ในรายการ Masters of Scale ซึ่งบันทึกในซานฟรานซิสโก สหรัฐฯ เมื่อเดือนตุลาคม 2026 และเผยแพร่ฉบับเต็มเมื่อวันที่ 6 พฤศจิกายน

ฮัสซาบิสอธิบายว่า ปัจจุบัน AI ช่วยเขียนโค้ดได้ แต่มนุษย์ยังตรวจทานโค้ดที่ AI เขียนและออกแบบโครงสร้างระบบ เขาแยกแนวทางนี้ออกจากขั้นที่ AI ออกแบบและปรับปรุงเวอร์ชันถัดไปเอง โดยไม่มีมนุษย์ตรวจทาน

เขากล่าวว่าเครื่องมือเขียนโค้ดด้วย AI อาจเพิ่มผลิตภาพของวิศวกรมนุษย์ได้ 3–5 เท่า แต่สิ่งที่น่ากังวลไม่ใช่การเพิ่มผลิตภาพ หากเป็นการที่กระบวนการตรวจทานโดยมนุษย์หายไปด้วย

ฮัสซาบิสกล่าวว่า RSI แบบวงปิดอาจเป็น “เส้นทางที่อันตรายมากสู่ AGI” เพราะการที่ AI สร้างและปรับปรุงเวอร์ชันถัดไปด้วยตัวเองโดยไม่มีมนุษย์ตรวจทาน อาจทำให้เกิดปัญหาด้านการควบคุม

เขาเตือนด้วยว่าระบบดังกล่าวอาจดูคล้าย ‘สติปัญญาจากต่างดาว’ ที่มีวิธีคิดต่างจากมนุษย์ มนุษย์อาจเข้าใจพฤติกรรมของ AI ได้ยาก ขณะที่ AI ก็อาจเข้าใจเจตนาของมนุษย์ได้ยากเช่นกัน

อย่างไรก็ตาม ฮัสซาบิสยอมรับว่าการพัฒนาตนเองมีประโยชน์ในสาขาที่ตรวจสอบผลลัพธ์ได้ เช่น คณิตศาสตร์ การเขียนโค้ด และเกม ซึ่ง AI สามารถตรวจสอบผลแล้วปรับปรุงซ้ำได้

เขายกตัวอย่าง AlphaZero ที่เล่นเกมซ้ำและฝึกเวอร์ชันใหม่ โดยคำเตือนของฮัสซาบิสไม่ได้มุ่งไปที่การทำงานลักษณะนี้ แต่เน้นสถานการณ์ที่การพัฒนา AI ดำเนินต่อไปโดยไม่มีมนุษย์ตรวจทาน

Anthropic ระบุในข้อมูลการวัดผลที่บริษัทเผยแพร่เองว่า ณ เดือนสิงหาคม 2026 Claude เป็นผู้ ‘ดำเนินงานหลัก’ ในงานวิจัยและพัฒนา AI ภายในบริษัท 26% ตัวเลขนี้เป็นการประเมินงานภายในของบริษัทเอง

ตามเกณฑ์ของ Anthropic คำว่า ‘ดำเนินงานหลัก’ หมายถึง AI ทำงานส่วนใหญ่โดยมีมนุษย์กำกับดูแล บริษัทระบุว่าไม่มีงานใดในกลุ่มที่วัดผลซึ่งดำเนินการโดยอัตโนมัติทั้งหมด

Anthropic ระบุข้อจำกัดด้วยว่าอุตสาหกรรมยังไม่มีวิธีวัดผลร่วมกัน และบริษัทใช้โมเดลของตัวเองในการประเมิน ตัวเลขดังกล่าวจึงเป็นผลจากการวัดงานของบริษัทตามเกณฑ์ที่บริษัทกำหนด

OpenAI ระบุในคำอธิบายเรื่องการเร่งงานวิจัยที่เผยแพร่เมื่อวันที่ 6 กันยายน 2026 ว่าตั้งเป้าสร้าง ‘นักวิจัย AI อัตโนมัติ’ ภายในเดือนมีนาคม 2028 กำหนดการนี้เป็นเป้าหมายที่บริษัทประกาศ ไม่ใช่สิ่งที่ทำสำเร็จแล้ว

OpenAI อธิบายว่าบริษัทไปถึงขั้น ‘ผู้ช่วยวิจัยอัตโนมัติ’ แล้ว โดย AI ทำงานที่กำหนดภายใต้คำสั่งของมนุษย์ ส่วนมนุษย์เป็นผู้ตัดสินใจเรื่องลำดับความสำคัญของงานวิจัย การยอมรับผลลัพธ์ และการขยายหรือหยุดระบบ

OpenAI ระบุว่ายังไม่ทราบวิธีสร้าง RSI แบบเต็มรูปแบบที่ปลอดภัย ส่วนมาตรการความปลอดภัยที่ฮัสซาบิสเสนอ ได้แก่ แซนด์บ็อกซ์ การติดตามตรวจสอบ การเสริมการป้องกันทางไซเบอร์ และการตรวจสอบประเมินผลโดยหน่วยงานภายนอก

ในการสนทนาครั้งนี้ ฮัสซาบิสเน้นความเสี่ยงจากการขาดการตรวจทานและการควบคุมของมนุษย์ มากกว่าศักยภาพด้านการลงทุนของ RSI