หัวหน้านักวิทยาศาสตร์ OpenAI เตือน AI เสี่ยงพัฒนาตัวเองซ้ำแบบก้าวกระโดด

หัวหน้านักวิทยาศาสตร์ของโอเพนเอไอ(OpenAI) ออกมาเตือนว่าพัฒนาการของปัญญาประดิษฐ์ (AI) อาจนำไปสู่การพัฒนาตัวเองซ้ำแบบก้าวกระโดด (recursive self-improvement) หากยังเดินหน้าตามแนวทางปัจจุบันต่อไป พร้อมเสนอให้เสริมเทคนิคการจัดแนวและการตรวจสอบ สร้างระบบป้องกัน และหากจำเป็นอาจต้องระงับการขยายขนาดโมเดลเพิ่มเติมด้วยตัวเองฝ่ายเดียว

ยาคุบ พาโชกี(Jakub Pachocki) หัวหน้านักวิทยาศาสตร์ของโอเพนเอไอ เปิดเผยผ่านบทความชื่อ 'An Alien Mind' ที่เผยแพร่เมื่อวันที่ 6 (เวลาท้องถิ่น) ว่า โครงการวิจัย RLSlow ในช่วงกลางปี 2023 เป็นจุดเริ่มต้นที่แสดงให้เห็นถึงศักยภาพในการขยายขนาดของการฝึกโมเดลด้านการให้เหตุผล (reasoning model) เป็นครั้งแรก เขาระบุว่าตลอด 3 ปีต่อมา โมเดลภาษาด้านการให้เหตุผลกลายเป็นส่วนหนึ่งของการเติบโตทางเศรษฐกิจ และมีความสามารถควบคุมคอมพิวเตอร์ ใช้งานอินเทอร์เฟซแบบกราฟิก ทำงานร่วมกับมนุษย์และ AI ด้วยกันเอง ไปจนถึงดำเนินโครงการวิจัยได้ด้วยตัวเอง

พาโชกีระบุว่า จากผลลัพธ์ภายในองค์กร เขามีความเชื่อมั่นอย่างมากว่าอัตราการพัฒนาในปัจจุบันจะดำเนินต่อไปจนถึงขั้นการพัฒนาตัวเองซ้ำแบบก้าวกระโดด เขากล่าวว่า "ผมกังวลว่าไม่มีใครเตรียมพร้อมรับมือกับผลลัพธ์ที่จะเกิดขึ้นจากการเพิ่มขึ้นอย่างต่อเนื่องและรวดเร็วของสติปัญญาเครื่องจักร" คำกล่าวนี้สะท้อนความกังวลของเขาว่าความเร็วของพัฒนาการ AI อาจแซงหน้าความสามารถของมนุษย์ในการรับมือ

เขาแบ่งประเด็นปัญหาการจัดแนว AI (AI alignment) ออกเป็นการจัดแนวเป้าหมาย (goal alignment) และการจัดแนวคุณค่า (value alignment) โดยระบุว่าความท้าทายหลักคือการทำให้หลักการเหล่านี้ใช้ได้ผลในวงกว้าง (generalization) นอกจากนี้เขายังมองว่าการตรวจสอบกระบวนการคิด (chain-of-thought monitoring) เป็นเครื่องมือกำกับดูแลหลัก แต่ยอมรับว่าความน่าเชื่อถือของวิธีนี้กำลังลดลงเรื่อยๆ พร้อมระบุว่าขณะนี้คือช่วงเวลาสำคัญและจำกัดที่ต้องใช้โมเดลที่ดีที่สุดเท่าที่มีอยู่ในการเสริมความปลอดภัยของระบบหลักให้แข็งแกร่งขึ้น