ข่าว 
ข้อมูลเหรียญ 
แนะนำสื่อ 
เจนเซน หวง(Jensen Huang) CEO ของเอ็นวิเดีย($NVDA) และดาริโอ อโมเดอี(Dario Amodei) CEO ของแอนโทรปิกเสนอแนวทางแตกต่างกันเกี่ยวกับความเร็วในการพัฒนาปัญญาประดิษฐ์(AI) และการรักษาความปลอดภัย โดยหวงเห็นว่าควรเร่งพัฒนาและใช้มาตรการความปลอดภัยควบคู่กัน ขณะที่อโมเดอีระบุว่าควรเปิดเวลาให้การวิจัยด้านความปลอดภัยและการควบคุมตามให้ทัน
หวงกล่าวเมื่อวันที่ 15 ตามเวลาท้องถิ่นที่งานประจำปี Dreamforce ของเซลส์ฟอร์ซ($CRM) ในซานฟรานซิสโก สหรัฐฯ ว่า “การบอกว่าต้องเลือกระหว่างความเร็วกับความปลอดภัยเป็นทางเลือกที่ผิด” โดย CNBC รายงานว่าคำกล่าวดังกล่าวมีขึ้นไม่กี่วันหลังอโมเดอีเผยแพร่บทความที่เรียกร้องให้ชะลอความเร็วในการพัฒนาโมเดล AI
หวงอธิบายว่าบริษัท AI ควรพัฒนาให้เร็วที่สุดเท่าที่ทำได้ แต่ต้องหยุดตรวจสอบเมื่อรู้สึกว่าสูญเสียการควบคุมหรือผลิตภัณฑ์ไม่ปลอดภัย พร้อมระบุว่าอาจไม่จำเป็นต้องมีกฎหมายหรือกฎระเบียบใหม่ เพราะกลไกตลาดกำลังทำงานอยู่แล้ว
หวงกล่าวเพิ่มเติมว่า “ควรเร่งไปให้เร็วที่สุดเท่าที่ทำได้ แต่เมื่อใดก็ตามที่บริษัทสูญเสียการควบคุมหรือรู้สึกว่าผลิตภัณฑ์ไม่ปลอดภัย ก็ต้องหยุดเพื่อตรวจสอบให้ถูกต้อง” แนวคิดดังกล่าวให้น้ำหนักกับความรับผิดชอบของบริษัทในการตรวจจับและรับมือความเสี่ยง มากกว่าความเร็วในการพัฒนาเพียงอย่างเดียว
ด้านอโมเดอีเผยแพร่บทความชื่อ ‘We Must Pace the Frontier’ เมื่อวันที่ 12 โดยเตือนว่าความก้าวหน้าด้านความสามารถของ AI อาจแซงหน้าการวิจัยด้านความปลอดภัยและความสามารถในการควบคุม เขาระบุว่าไม่ได้เรียกร้องให้ยุติการพัฒนา แต่ต้องเปิดเวลาให้มาตรการความปลอดภัยและการประเมินตามให้ทัน
ขั้นตอนแรกที่อโมเดอีเสนอคือการเปิดทางให้ทีมประเมินอิสระจากภายนอกเข้าถึงระบบและกระบวนการพัฒนาของบริษัท AI ได้อย่างต่อเนื่อง ทีมดังกล่าวจะตรวจสอบการปฏิบัติตามมาตรการความปลอดภัย เหตุการณ์ผิดพลาด รวมถึงประเมินความสอดคล้องของโมเดลที่อยู่ระหว่างการพัฒนาและกระบวนการฝึก
ขั้นตอนที่สองคือการให้บริษัท AI ในประเทศประชาธิปไตยจัดทำมาตรฐานความปลอดภัยร่วมกันและกำหนดข้อจำกัดต่อความเร็วการพัฒนา AI ที่ไม่อยู่ภายใต้การควบคุม ส่วนขั้นตอนที่สามคือการให้ประเทศประชาธิปไตย เช่น สหรัฐฯ ร่วมมือกับประเทศที่มีระบอบอำนาจนิยมเพื่อจัดทำมาตรฐานความปลอดภัยระหว่างประเทศ
แอนโทรปิกประกาศว่าจะนำแนวทางเปิดให้ทีมประเมินภายนอกเข้าถึงระบบอย่างต่อเนื่องมาใช้ด้วยตนเอง อย่างไรก็ตาม ยังไม่มีการตัดสินใจว่าบริษัท AI อื่นจะเข้าร่วมแนวทางเดียวกันหรือพัฒนาไปสู่มาตรฐานร่วมกันหรือไม่
อโมเดอีประเมินว่าการพัฒนา AI แบบ ‘การปรับปรุงตัวเองเชิงวนซ้ำ’ ซึ่ง AI ช่วยออกแบบและพัฒนาระบบ AI รุ่นถัดไป เริ่มปรากฏในอุตสาหกรรมโดยรวมแล้ว
เขายังกล่าวถึงกรณีที่ฝูงเอเจนต์ AI อัตโนมัติดำเนินการโจมตีทางไซเบอร์โดยไม่มีการควบคุม พร้อมแสดงความกังวลและคาดการณ์ว่า ระบบที่ทรงพลังยิ่งขึ้นอาจเข้าควบคุมอินเทอร์เน็ตทั้งหมดได้ภายใน 6-12 เดือนข้างหน้า
ข้อถกเถียงครั้งนี้สะท้อนว่าประเด็นความปลอดภัยของ AI กำลังขยายจากระดับการวิจัยไปสู่แนวทางปฏิบัติของผลิตภัณฑ์ AI สำหรับองค์กร ขณะที่การถกเถียงในสหรัฐฯ เกี่ยวกับการชะลอการพัฒนา AI และกฎระเบียบด้านความปลอดภัยยังดำเนินต่อไป ทั้งในประเด็นการกำกับดูแลตนเองของบริษัทและขอบเขตการแทรกแซงของรัฐบาล อ่านข่าวก่อนหน้าเกี่ยวกับข้อถกเถียงดังกล่าว
ภายในงานยังมีการเปิดเผยกรณีการนำโมเดล AI ไปใช้เชิงพาณิชย์ โดยเซลส์ฟอร์ซเปิดตัวโมเดลให้เหตุผลด้าน CRM ชื่อ ‘Koa’ ซึ่งพัฒนาบนโมเดลเปิด ‘Nemotron’ ของเอ็นวิเดีย
เซลส์ฟอร์ซระบุว่า Koa ออกแบบมาเพื่อจัดการงานหลายขั้นตอนที่ซับซ้อน โดยอาศัยองค์ความรู้ด้านงาน CRM ที่สะสมมานาน 27 ปี และเริ่มทดสอบกับลูกค้าบางส่วนแล้ว เซลส์ฟอร์ซประกาศ
มาร์ก เบนีออฟ(Marc Benioff) CEO ของเซลส์ฟอร์ซกล่าวว่าบริษัทต่าง ๆ ควรตัดสินใจเรื่องความเร็วในการพัฒนา AI ด้วยตนเองและรับผิดชอบต่อผลลัพธ์ แนวคิดนี้สอดคล้องกับจุดยืนของหวงที่เน้นการดำเนินงานอย่างอิสระของแต่ละบริษัท แต่ยังไม่ได้เสนอมาตรฐานความปลอดภัยร่วมสำหรับทั้งอุตสาหกรรม
งาน Dreamforce ยังไม่มีการบรรลุข้อตกลงเกี่ยวกับกฎระเบียบใหม่หรือมาตรฐานความปลอดภัยร่วมของอุตสาหกรรม ความสนใจจึงอยู่ที่ว่าแนวทางของอโมเดอีจะพัฒนาเป็นมาตรฐานอุตสาหกรรมจริงหรือจำกัดอยู่ที่มาตรการของแต่ละบริษัท โดยขึ้นอยู่กับการนำไปใช้ของบริษัทต่าง ๆ และกระบวนการเจรจาระหว่างประเทศต่อไป
ความคิดเห็น 0