AI ยังเดินหน้าควบคู่ความปลอดภัย ขณะที่อโมเดอีเสนอชะลอความเร็วการพัฒนา

มาร์ก ซักเคอร์เบิร์ก(Mark Zuckerberg) ซีอีโอเมตา(META) และเจนเซน หวง(Jensen Huang) ผู้ก่อตั้งและซีอีโอเอ็นวิเดีย(NVDA) ไม่เห็นด้วยกับข้อเสนอให้ทั้งอุตสาหกรรมปัญญาประดิษฐ์ (AI) ชะลอการพัฒนา ขณะที่ดาริโอ อโมเดอี(Dario Amodei) ซีอีโอแอนโทรปิกเสนอให้ภาคอุตสาหกรรมร่วมกันปรับความเร็วลง เพื่อเปิดเวลาให้การวิจัยด้านความปลอดภัยตามทัน

ซักเคอร์เบิร์กกล่าวในโพสต์บนโซเชียลมีเดียเมื่อวันที่ 15 กันยายนว่า “ห้องปฏิบัติการทุกแห่งมีความรับผิดชอบและแรงจูงใจให้เคลื่อนที่ด้วยความเร็วที่จำเป็นต่อการฝึกโมเดลอย่างปลอดภัย และมีความสามารถในการดำเนินมาตรการของตนเองเพื่อบรรลุเป้าหมายดังกล่าว” แนวคิดนี้ให้อำนาจแต่ละบริษัทตัดสินมาตรฐานความปลอดภัยและความเร็วในการพัฒนาเอง

ซักเคอร์เบิร์กมองว่าผู้ใช้จะไม่เลือกเอเจนต์ AI ที่ไม่สอดคล้องกับตนเองหรือไม่สามารถทำตามคำสั่งได้ เขาจึงเห็นว่าผลิตภัณฑ์ที่มีความปลอดภัยและสอดคล้องกับความต้องการของผู้ใช้มากกว่าจะได้รับการเลือก และสร้างแรงจูงใจทางเศรษฐกิจให้บริษัทเพิ่มมาตรการความปลอดภัย

เขายังยกความเป็นไปได้ที่จะเกิดความรับผิดทางกฎหมายเป็นแรงผลักดันให้แต่ละบริษัทจัดการความปลอดภัยด้วย หากผลิตภัณฑ์ AI สร้างความเสียหายแก่ผู้ใช้ บริษัทอาจต้องรับผิดชอบ ดังนั้นแต่ละบริษัทจึงสามารถบริหารความปลอดภัยได้ แม้ไม่มีข้อตกลงร่วมกันทั้งอุตสาหกรรม

ซักเคอร์เบิร์กกล่าวว่าเมตาเลื่อนการเปิดตัวมิวส์(Muse) เอเจนต์ AI สำหรับผู้ใช้ทั่วไปออกไปหลายเดือน เพื่อดำเนินการตรวจสอบด้านความปลอดภัยและความมั่นคง เมตาเปิดตัวมิวส์เมื่อวันที่ 8 กันยายน พร้อมอธิบายว่าเอเจนต์จะทำงานในเครื่องเสมือนเฉพาะ และมีเอเจนต์เซนทิเนล(Sentinel) แยกต่างหากทำหน้าที่อนุมัติการเข้าถึงอินเทอร์เน็ต

มิวส์ต้องขออนุมัติจากผู้ใช้ก่อนดำเนินงานที่มีความละเอียดอ่อน เช่น การส่งอีเมลหรือการซื้อสินค้า ผู้ใช้สามารถกำหนดแอปที่จะเชื่อมต่อและขอบเขตสิทธิ์ได้ รวมถึงตรวจสอบงานที่เอเจนต์ดำเนินการไปแล้วหรือกำลังจะดำเนินการผ่านบันทึกการตรวจสอบ

เมตายังเตรียมนำ 'Confidential VM' ซึ่งผู้ใช้เป็นผู้ถือกุญแจเข้ารหัสแต่เพียงผู้เดียวมาใช้ภายในสิ้นปีนี้ โดยถูกยกเป็นตัวอย่างว่าการตรวจสอบความปลอดภัยรายบริษัทที่ซักเคอร์เบิร์กกล่าวถึงถูกนำมาใช้ในการออกแบบผลิตภัณฑ์

ซักเคอร์เบิร์กเสนอการใช้ผู้ประเมินอิสระและคณะที่ปรึกษาเป็นแนวปฏิบัติที่ดี แทนการชะลอความเร็วแบบเหมารวมทั้งอุตสาหกรรม เขากล่าวว่าองค์กร AI ของเมตาใช้ผู้ประเมินอิสระในบางด้านอยู่แล้ว และบริษัทอื่นสามารถนำแนวทางเดียวกันไปใช้ได้ โดยขยายเหตุผลจากการกำกับดูแลตนเองของแต่ละบริษัทจาก ถ้อยแถลงก่อนหน้านี้ของซักเคอร์เบิร์กที่เน้นการประเมินอิสระ

หวงก็ไม่ได้มองว่าความเร็วในการพัฒนาและความปลอดภัยเป็นทางเลือกที่ต้องเลือกอย่างใดอย่างหนึ่ง เขากล่าวในงาน Dreamforce ของ Salesforce เมื่อวันที่ 15 กันยายนว่า “นวัตกรรม ความเร็ว และผลิตภัณฑ์ที่ปลอดภัยไม่ใช่ทางเลือกที่ต้องเลือกอย่างใดอย่างหนึ่ง” พร้อมเสริมว่า “จงเดินหน้าให้เร็วที่สุดเท่าที่จะทำได้”

หวงกล่าวเพิ่มเติมว่า หากบริษัทสูญเสียความสามารถในการควบคุมหรือเห็นว่าผลิตภัณฑ์ไม่ปลอดภัย ก็ควรหยุดเพื่อแก้ไข เขามองว่าความปลอดภัยไม่ใช่สิ่งตรงข้ามกับความเร็วในการพัฒนา แต่เป็นปัญหาที่ต้องแก้ด้วยวิศวกรรม

ด้านอโมเดอีเขียนบนเว็บไซต์ส่วนตัวเมื่อวันที่ 12 กันยายนว่า ควรชะลอความเร็วในการพัฒนาขีดความสามารถของโมเดล AI เพื่อเปิดเวลาให้การวิจัยด้านความปลอดภัยตามทัน เขาเสนอแผน 3 ขั้นตอนเพื่อควบคุมความเร็วของ AI ระดับแนวหน้า โดยไม่ได้เรียกร้องให้หยุดการพัฒนาทั้งหมด

อโมเดอีแยกมาตรการความปลอดภัยภายในของแต่ละบริษัทออกจากระบบประสานงานที่ตรวจสอบได้ในระดับอุตสาหกรรม เขากังวลว่าการให้แต่ละบริษัทจัดทำระบบป้องกันของตนเองเพียงอย่างเดียวอาจไม่เพียงพอที่จะหยุด 'การแข่งขันลดมาตรฐานความปลอดภัย' ที่เกิดจากแรงกดดันด้านการแข่งขัน

แอนโทรปิกกล่าวว่าจะเปิดให้ผู้ประเมินอิสระเข้าถึงระบบ แต่ยังไม่ยืนยันว่ามีการจัดตั้งระบบประสานงานร่วมที่ครอบคลุมทั้งอุตสาหกรรมแล้วหรือไม่ อโมเดอีเสนอให้รัฐบาลและบริษัทต่าง ๆ ร่วมมือกันจัดทำมาตรฐานความปลอดภัยร่วมและระบบตรวจสอบจากภายนอก

ข้อถกเถียงครั้งนี้สะท้อนความแตกต่างในอุตสาหกรรม AI เกี่ยวกับความเร็วในการพัฒนาและความปลอดภัย ซักเคอร์เบิร์กเน้นมาตรการรายบริษัทและการแข่งขันในตลาด หวงเน้นการเดินหน้าควบคู่ความปลอดภัย ส่วนอโมเดอีเน้นการปรับความเร็วร่วมกันและการตรวจสอบจากภายนอก

ขณะที่เอเจนต์ AI เริ่มดำเนินการจริง เช่น ส่งอีเมลและซื้อสินค้า ความสำคัญของการกำหนดสิทธิ์และบันทึกการตรวจสอบก็เพิ่มขึ้น ท่ามกลางการหารือเรื่อง มาตรการความปลอดภัยรายบริษัทและการควบคุมเอเจนต์ AI จึงต้องติดตามว่าจะมีการจัดทำมาตรฐานร่วมของอุตสาหกรรมหรือไม่