AI ทำลายล้างมนุษย์เกิน 10%? เดวิด แซคส์ สวน “แค่การตลาดสร้างความกลัว”

ข้อถกเถียงเรื่องโอกาสที่ปัญญาประดิษฐ์ (AI) จะทำลายล้างมนุษยชาติภายใน 10 ปีข้างหน้าจะสูงเกิน 10% กำลังร้อนแรงในวงการเทคโนโลยีสหรัฐฯ โดย เดวิด แซคส์(David Sacks) พร้อมผู้ร่วมรายการพอดแคสต์ All-In ออกมาโต้แย้งว่าตัวเลขดังกล่าวเป็น ‘การตลาดสร้างความกลัว’ มากกว่าจะมีหลักฐานเชิงวัตถุวิสัยรองรับ

รายการ All-In Podcast เผยแพร่คลิปทาง YouTube เมื่อวันที่ 12 (เวลาท้องถิ่น) พูดคุยประเด็นความปลอดภัยของ AI และการกำกับดูแล โดย เดวิด แซคส์(David Sacks) พาร์ตเนอร์จากคราฟท์ เวนเจอร์ส(Craft Ventures) กล่าวว่า “บอกว่า AI มีโอกาสทำลายล้างมนุษยชาติ 10% เนี่ยนะ ตัวเลขนี้มาจากไหนกันแน่” คำพูดนี้สะท้อนความกังขาของเขาต่อที่มาของตัวเลขที่ถูกหยิบยกมาถกเถียงในวงกว้าง

ต้นตอของประเด็นนี้มาจาก เจคอบ ค็อกซิน(Jacob Coxin) อดีตนักวิจัยของแอนโทรปิก(Anthropic) ที่กล่าวอ้างว่าบริษัทพัฒนา AI ต่าง ๆ รับรู้ถึงความเสี่ยงที่มนุษยชาติอาจถูกทำลายล้าง แต่ก็ยังคงแข่งขันกันพัฒนา AI ที่ควบคุมไม่ได้ต่อไป ด้าน อีวาน ฮูบิงเจอร์(Evan Hubinger) หัวหน้าฝ่ายวิทยาศาสตร์การจัดแนว (Alignment) ของแอนโทรปิก ออกมาสนับสนุนคำกล่าวอ้างนี้ พร้อมระบุว่าโอกาสที่ AI จะทำลายล้างมนุษยชาติภายใน 10 ปีข้างหน้ามีมากกว่า 10%

นักการเมืองหลายคน รวมถึงวุฒิสมาชิก เบอร์นี แซนเดอร์ส(Bernie Sanders) ได้หยิบยกโพสต์ดังกล่าวมาอ้างอิง พร้อมเดินหน้าผลักดันกฎหมายเพื่อหยุดการพัฒนา AI ระดับซูเปอร์อินเทลลิเจนซ์ (Superintelligent AI) อย่างไรก็ตาม ตัวเลข 10% นี้ไม่ใช่สถิติที่มาจากหน่วยงานทางการ แต่เป็นเพียงการประเมินส่วนตัวของนักวิจัยเท่านั้น

แซคส์กล่าวอ้างว่าตัวเลข 10% ไม่ได้มีข้อมูลวิจัยเชิงวัตถุวิสัยหรือเอกสารภายในรองรับ แต่เป็นเพียง ‘ความรู้สึก’ ล้วน ๆ เขายังตั้งข้อสังเกตว่าหลังโพสต์ดังกล่าวถูกเผยแพร่ ก็มีการรายงานข่าวแบบบรีฟล่วงหน้าไปยังวอลล์สตรีทเจอร์นัล(WSJ) และตามมาด้วยการแชร์โพสต์อย่างรวดเร็วโดยกลุ่มบางกลุ่มในเวลาอันสั้น ซึ่งเขามองว่ามีลักษณะคล้ายปฏิบัติการที่จัดตั้งขึ้นอย่างเป็นระบบ

แซคส์กล่าวอ้างต่อว่ากลุ่มที่ดูเหมือนมีส่วนเกี่ยวข้องกับการแชร์โพสต์นี้เชื่อมโยงกับเครือข่ายแนวคิด ‘Effective Altruism’ ที่ได้รับการสนับสนุนจาก ยาน ทาลลินน์(Jaan Tallinn) นักลงทุนรายใหญ่ของแอนโทรปิก ทั้งนี้ ข้อกล่าวอ้างดังกล่าวเป็นเพียงการตีความของผู้ร่วมรายการพอดแคสต์เท่านั้น ยังไม่มีการยืนยันข้อเท็จจริง

เจสัน คาลาคานิส(Jason Calacanis) พิธีกรรายการ All-In Podcast ระบุว่าปัจจุบัน AI ยังทำงานพื้นฐานอย่างการเติมโค้ด Python อัตโนมัติ การจองโรงแรม หรือสั่งอาหารได้ไม่สมบูรณ์แบบเลยด้วยซ้ำ เขามองว่าระดับเทคโนโลยีในปัจจุบันกับสถานการณ์ที่มนุษยชาติจะถูกทำลายล้างยังมีช่องว่างห่างกันมาก

คาลาคานิสอธิบายเพิ่มเติมว่าสามารถใส่กลไกควบคุมลงในซอฟต์แวร์ให้ AI ต้องผ่านการอนุมัติจากมนุษย์ก่อนดำเนินการในแต่ละขั้นตอนได้ โดยยกตัวอย่างกระบวนการพัฒนาที่ผู้ใช้ต้องกดปุ่มสเปซบาร์เพื่อให้ระบบทำงานขั้นถัดไป

เดวิด ฟรีดเบิร์ก(David Friedberg) ซีอีโอโปรดักชัน บอร์ด(Production Board) กล่าวว่าระบบหลักที่สำคัญมีการใช้เทคนิค ‘แอร์แก๊ป’ (Air Gap) ที่แยกระบบออกจากอินเทอร์เน็ตทางกายภาพ ควบคู่กับขั้นตอนที่ต้องมีมนุษย์เข้ามาแทรกแซง โดยแอร์แก๊ปคือมาตรการความปลอดภัยที่ตัดขาดระบบจากเครือข่ายภายนอก ส่วนการแทรกแซงของมนุษย์หมายถึงโครงสร้างที่มนุษย์ต้องเข้ามาอนุมัติในกระบวนการทำงานของ AI

ผู้ร่วมรายการยังตั้งข้อกังวลว่ากฎระเบียบด้านความปลอดภัยของ AI อาจถูกใช้จำกัดการเปิดเผยและใช้งานโมเดลโอเพนซอร์ส โดยแซคส์กล่าวอ้างว่าบริษัท AI แบบปิดอาจเรียกร้องให้ตั้งหน่วยงานกำกับดูแล AI ระดับสหพันธรัฐ เพื่อสกัดกั้นการเปิดเผยและโฮสต์ AI โอเพนซอร์สที่มีทรัพยากรไม่เพียงพอต่อการปฏิบัติตามกฎระเบียบ

ฟรีดเบิร์กระบุว่า AI โอเพนซอร์สเป็นเครื่องมือช่วยลดต้นทุนการพัฒนาและขยายการเข้าถึงเทคโนโลยี เขากล่าวอ้างว่าหากมีการจำกัด AI โอเพนซอร์ส อาจยิ่งเสริมโครงสร้างการควบคุมที่รวมศูนย์อยู่กับภาครัฐและบริษัทขนาดใหญ่

ชามาธ ปาลิหะปิติยะ(Chamath Palihapitiya) ซีอีโอโซเชียล แคปิตอล(Social Capital) เปรียบเทียบพฤติกรรมของแอนโทรปิกที่ยอมรับความเสี่ยงร้ายแรงจาก AI แต่ยังเดินหน้าเสนอขายหุ้นต่อสาธารณะ (IPO) ว่าคล้ายกับกรณีของบริษัทบุหรี่ในอดีต เขาเตือนว่าหากแอนโทรปิกไม่เปิดเผยความเสี่ยงอย่างชัดเจนในเอกสารยื่นต่อสำนักงานคณะกรรมการกำกับหลักทรัพย์และตลาดหลักทรัพย์สหรัฐ (SEC) อาจเผชิญความเสี่ยงทางกฎหมายด้านความรับผิดต่อผลิตภัณฑ์ได้

แซคส์กล่าวเสริมว่าเป็นเรื่องย้อนแย้งที่ผู้บริหารบริษัทจะระบุว่าผลิตภัณฑ์ของตนอาจทำให้อารยธรรมล่มสลาย ในขณะที่ยังคงระดมทุนจากสาธารณะไปพร้อมกัน ด้านปาลิหะปิติยะวิเคราะห์ว่านักวิจัยบางส่วนอาจตกอยู่ในภาวะหลงผิดร่วมกัน หรือมีส่วนร่วมในปฏิบัติการที่จัดตั้งขึ้นเพื่อสกัดกั้น AI โอเพนซอร์สโดยเฉพาะ ทั้งนี้เป็นเพียงมุมมองวิเคราะห์ของเขาเท่านั้น

ก่อนหน้านี้ TokenPost เคยรายงานว่ามีการตั้งข้อสังเกตถึงความเป็นไปได้ที่จะมีการจัดฉากอยู่เบื้องหลังการแพร่กระจายทฤษฎีวันสิ้นโลกจาก AI ซึ่งครั้งนั้นทั้งแซคส์และแคธี วูด(Cathie Wood) ต่างตั้งคำถามถึงเส้นทางการแพร่กระจายของคำเตือนดังกล่าวเช่นกัน แต่ก็ยังไม่มีการยืนยันว่าข้อกล่าวอ้างดังกล่าวเป็นความจริง

ข้อถกเถียงครั้งนี้นำไปสู่คำถามใหญ่สองประเด็นคือควรคำนวณความน่าจะเป็นของความเสี่ยงจาก AI อย่างไร และควรเปิดกว้างให้กับโมเดลโอเพนซอร์สได้มากน้อยเพียงใด โดยตัวเลข 10% ยังคงเป็นเพียงการประเมินส่วนตัวของนักวิจัย ไม่ใช่สถิติทางการ ขณะที่ผู้ร่วมรายการเห็นตรงกันว่าควรพิจารณาทั้งกลไกควบคุมเทคโนโลยีและผลข้างเคียงของกฎระเบียบไปพร้อมกัน