แอนโทรปิก (Anthropic) ยืนยันว่าจะกำหนดจังหวะการฝึกและการนำโมเดลปัญญาประดิษฐ์ (AI) ไปใช้งานให้สอดคล้องกับการตรวจสอบความปลอดภัย แม้หลังการเสนอขายหุ้นต่อสาธารณชนครั้งแรก (IPO) โดยให้เวลาเพื่อพิสูจน์ว่าระบบทำงานอย่างปลอดภัยภายใต้การควบคุมของมนุษย์มาก่อนแรงกดดันทางการค้าหรือการเมือง
ดาริโอ อาโมเดย์ (Dario Amodei) แอนโทรปิก CEO กล่าวว่าในพิธีเปิดตลาด Nasdaq เมื่อวันที่ 19 ว่า “เราจะใช้เวลาเท่าที่จำเป็นจนกว่าจะมั่นใจว่าระบบ AI ปลอดภัยและยังอยู่ภายใต้การควบคุมของมนุษย์” และ “เราจะไม่ยอมจำนนต่อแรงกดดันทางการค้าหรือการเมือง” TechCrunch รายงานว่า คำกล่าวนี้ย้ำจุดยืนเดิมของบริษัทแม้ผ่าน IPO แล้ว
อาโมเดย์กล่าวว่า IPO ทำให้ฐานะการเงินของบริษัทแข็งแกร่งขึ้นและเสริมความมุ่งมั่นที่จะตัดสินใจอย่างถูกต้อง การขยายฐานเงินทุนจะไม่เปลี่ยนเกณฑ์การตัดสินใจด้านความปลอดภัยของแอนโทรปิก
ในบทความที่เผยแพร่เมื่อวันที่ 12 กันยายน อาโมเดย์เสนอให้ชะลอความเร็วในการยกระดับประสิทธิภาพโมเดล AI เพื่อเปิดเวลาให้ระบบป้องกันและการตรวจสอบอิสระตามทัน พร้อมเรียกร้องมาตรฐานความปลอดภัยร่วมทั้งอุตสาหกรรมและการมีผู้ประเมินภายนอกเข้าร่วมอย่างต่อเนื่องในกระบวนการพัฒนา
เขาอธิบายว่าการคุมจังหวะไม่ได้หมายถึงการหยุดพัฒนา AI แต่คือการกันเวลาให้มาตรการความปลอดภัยและการประเมินจากภายนอกตามทันการเพิ่มขีดความสามารถของโมเดล รวมถึงเปิดทางให้ผู้ประเมินอิสระเข้าถึงกระบวนการพัฒนาได้ต่อเนื่อง
อาโมเดย์เน้น ‘การแข่งขันเพื่อยกระดับความปลอดภัย’ เพื่อให้อุตสาหกรรมยอมรับมาตรฐานที่สูงขึ้นร่วมกัน ไม่ว่าขณะนั้นแอนโทรปิกจะเป็นผู้นำหรือไม่
เขามองว่าการทำงานร่วมกันระหว่าง AI ที่ทรงพลังกับมนุษย์อาจย่นความก้าวหน้าทางวิทยาศาสตร์และการแพทย์ตลอดหนึ่งศตวรรษให้เหลือ 10 ปี แต่ผลลัพธ์ปัจจุบันยังอยู่ในระยะเริ่มต้น และการทดลองกับการศึกษาทางคลินิกยังต้องใช้เวลา
อาโมเดย์กล่าวว่าลูกค้านำ AI ไปใช้เพื่อเร่งการเติบโตทางเศรษฐกิจ หลุดพ้นจากความยากจน ปกป้องประชาธิปไตยและสังคมเสรี ตลอดจนปรับปรุงบริการสาธารณะในชีวิตประจำวัน ซึ่งสะท้อนบทบาทของ AI ที่ขยายจากวิทยาศาสตร์และการแพทย์ไปสู่เศรษฐกิจและภาครัฐ
ขณะเดียวกัน เขาระบุความเสี่ยงที่ต้องเฝ้าระวัง ได้แก่ การนำไปใช้ในทางที่ผิดโดยบุคคลหรือรัฐ ความปั่นป่วนทางเศรษฐกิจ และการสูญเสียการควบคุมระบบ AI โดยย้ำว่าความเสี่ยงเหล่านี้ไม่ใช่สิ่งที่หลีกเลี่ยงไม่ได้ แต่ขึ้นอยู่กับการตัดสินใจของผู้สร้าง AI
แอนโทรปิกระบุว่า บริษัทกำลังพัฒนา △การป้องกันความเสี่ยงทางชีวภาพและไซเบอร์ △การฝึกจัดแนว (alignment training) และการทดสอบ △เทคโนโลยีการตีความที่ใช้สังเกตการทำงานภายในโมเดลและชี้นำพฤติกรรม โดยบริษัทมองว่าวิธีเหล่านี้ช่วยให้เข้าใจการทำงานของ AI และคงระบบไว้ภายใต้การควบคุมของมนุษย์
สำนักข่าว AP รายงานว่า หลัง IPO แอนโทรปิกเผชิญแรงตึงเครียดระหว่างความต้องการเพิ่มผลตอบแทนของผู้ถือหุ้นกับหลักความปลอดภัย ขณะที่อาโมเดย์เรียกความขัดแย้งระหว่างความปลอดภัยกับความเร็วในการพัฒนา AI ว่าเป็น ‘ความตึงเครียดหลัก’ ของบริษัท
หนังสือชี้ชวน IPO ของแอนโทรปิกระบุโครงสร้างกำกับดูแลในฐานะบริษัทเพื่อประโยชน์สาธารณะ (PBC) ซึ่งต้องพิจารณาผลประโยชน์ผู้ถือหุ้นควบคู่กับภารกิจเพื่อสาธารณะ กรอบนี้ถูกวางไว้เพื่อจัดการทั้งความคาดหวังของผู้ถือหุ้นและเป้าหมายสาธารณะหลังเข้าตลาด
ทรัสต์ประโยชน์สาธารณะระยะยาว (LTBT) มีสิทธิแต่งตั้งและถอดถอนกรรมการเสียงข้างมากของบอร์ด ส่วน Founder LLC ที่ผู้ร่วมก่อตั้งจัดตั้งขึ้น สามารถใช้สิทธิออกเสียง 50.1% ของผู้ถือหุ้นทั่วไป
แอนโทรปิกอธิบายว่าโครงสร้างดังกล่าวมีไว้เพื่อคำนึงถึงการพัฒนา AI ขั้นสูงอย่างรับผิดชอบและผลประโยชน์ระยะยาวของมนุษยชาติควบคู่กัน การแบ่งอำนาจระหว่าง PBC, LTBT และ Founder LLC จึงทำให้หลักความปลอดภัยยังอยู่ในโครงสร้างกำกับดูแลหลังเข้าตลาด
อาโมเดย์กล่าวว่า IPO ยังทำหน้าที่เป็นกันชนเงินสดสำหรับภาระผูกพันการซื้อหรือเช่ากำลังประมวลผลระยะยาว TokenPost เคยรายงานประเด็นนี้ก่อนหน้านี้ ขณะที่รายละเอียดความเร็วในการฝึกและนำ AI ไปใช้งาน รวมถึงผลการประเมินความปลอดภัยจากภายนอก ยังต้องรอการเปิดเผยเพิ่มเติมจากบริษัท
Comment 0