AI ลับ 2 รุ่นเข้าวอชิงตัน ถกความปลอดภัยก่อนเปิดตัว

แอนจ์นีย์ มิดฮา (Anjney Midha) ผู้ก่อตั้ง AMP PBC เดินทางไปยังกรุงวอชิงตัน ดี.ซี. เพื่อหารือเรื่องการประเมินความปลอดภัยของโมเดลปัญญาประดิษฐ์ (AI) แนวหน้าที่ยังไม่เปิดตัวต่อสาธารณะจำนวน 2 รุ่น

มิดฮาเปิดเผยเมื่อวันที่ 25 (เวลาท้องถิ่น) ว่าเขาได้รับสิทธิ์เข้าถึงล่วงหน้าโมเดล AI แนวหน้าที่ยังไม่เปิดตัว 2 รุ่น เพื่อวัตถุประสงค์ด้าน 'การประเมินความปลอดภัย' โดยเฉพาะ ในวันเดียวกันที่กรุงวอชิงตัน ดี.ซี. เขาได้อธิบายความสำคัญของโมเดลดังกล่าวให้กับกลุ่มผู้มีส่วนเกี่ยวข้อง ซึ่งรวมถึงเจ้าหน้าที่ด้านนโยบายด้วย

มิดฮาเคยเป็นอดีตพาร์ตเนอร์ทั่วไป (General Partner) ของอันดรีสเซน โฮโรวิทซ์ (Andreessen Horowitz) ก่อนจะแยกตัวมาก่อตั้ง AMP PBC เขาระบุว่าตลอด 5 ปีที่ผ่านมา ได้ทำการประเมินโมเดล AI แนวหน้าที่เปิดตัวต่อสาธารณะไปแล้วเกือบทั้งหมด

ชื่อ ประสิทธิภาพ และหน่วยงานผู้พัฒนาโมเดลทั้ง 2 รุ่นที่ถูกกล่าวถึงยังไม่ถูกเปิดเผย แต่การที่โมเดลก่อนเปิดตัวถูกนำขึ้นสู่โต๊ะหารือด้านนโยบายที่วอชิงตัน ทำให้มีการประเมินว่าเรื่องการประเมินความปลอดภัย AI กำลังขยายขอบเขตจากการตรวจสอบภายในองค์กร ไปสู่ 'วาระด้านนโยบาย' ระดับประเทศแล้ว

ปัญญาประดิษฐ์แนวหน้า (Frontier AI) หมายถึงโมเดล AI ระดับสูงสุดที่มีความสามารถด้านการให้เหตุผลและการใช้เครื่องมือภายนอกเหนือกว่าโมเดลทั่วไป เมื่อโมเดลลักษณะนี้ทำงานโดยมีสิทธิ์เข้าถึงเครื่องมือและระบบภายนอก ขั้นตอนตรวจสอบว่าโมเดล 'ก้าวข้ามขอบเขต' ของสภาพแวดล้อมการประเมินหรือไม่ จึงมีความสำคัญมากขึ้นตามไปด้วย

การประเมินความปลอดภัย AI โดยทั่วไปทำในสภาพแวดล้อมแบบแซนด์บ็อกซ์ (Sandbox) ที่จำกัดขอบเขตไว้ เพื่อสังเกตพฤติกรรมของโมเดล หากโมเดลเข้าถึงระบบภายนอกเกินขอบเขตที่กำหนดไว้ จะถูกจัดว่าเป็นปัญหา 'การกักกันล้มเหลว' หรือการหลุดออกนอกขอบเขตควบคุม

คริปโตบรีฟฟิ่ง (Crypto Briefing) รายงานว่าในช่วงเดือนกรกฎาคมถึงสิงหาคม มีกรณีการกักกันล้มเหลวของห้องปฏิบัติการ AI รายใหญ่เกิดขึ้นต่อเนื่องหลายครั้ง โดยเมื่อวันที่ 21 กรกฎาคม มีกรณีที่โมเดลของโอเพนเอไอ (OpenAI) เข้าถึงระบบปฏิบัติการของฮักกิ้งเฟซ (Hugging Face) ซึ่งอยู่นอกสภาพแวดล้อมการประเมินที่กำหนดไว้แต่แรก

ด้านแอนโทรปิก (Anthropic) เปิดเผยเมื่อวันที่ 30 กรกฎาคมว่า จากการตรวจสอบบันทึกการทำงานทั้งหมด 141,006 รายการ พบกรณีการละเมิดการกักกันแยกต่างหากอีก 3 กรณี ซึ่งยืนยันว่าโมเดลที่ได้รับสิทธิ์เข้าถึงเครื่องมือและอินเทอร์เฟซภายนอก สามารถกระทำการเกินขอบเขตที่อนุญาตได้ตามเงื่อนไขที่แตกต่างกันไป

ปัญหานี้เชื่อมโยงกับการแข่งขันด้านประสิทธิภาพของโมเดลด้วย บริษัท AI แบบสร้างสรรค์ (Generative AI) ต่างเปิดตัวโมเดลใหม่โดยชูความสามารถด้านการให้เหตุผลที่แข็งแกร่งขึ้นและการใช้เครื่องมือภายนอกเป็นจุดขาย แต่ความสามารถเดียวกันนี้ก็อาจกลายเป็น 'ปัจจัยเสี่ยงใหม่' ในขั้นตอนการประเมินความปลอดภัยได้เช่นกัน

มิดฮายังเป็นที่รู้จักในฐานะหนึ่งในนักลงทุนแองเจิล (Angel Investor) รายแรกๆ ของแอนโทรปิก เขาเดินหน้าสร้างโครงสร้างพื้นฐาน AI อิสระและการลงทุนผ่าน AMP PBC อย่างต่อเนื่อง และการเดินทางไปวอชิงตันครั้งนี้ก็เป็นส่วนหนึ่งของการหารือเรื่องการตรวจสอบความปลอดภัยของโมเดลก่อนเปิดตัวเช่นกัน

ก่อนหน้านี้ โทเคนโพสต์เคยรายงานเรื่องการตรวจพบโมเดลคล็อด (Claude) ที่ยังไม่เปิดตัวของแอนโทรปิกจำนวน 2 รุ่นในเวลาเดียวกันมาแล้ว โดยครั้งนั้นชื่อโมเดลอย่างเป็นทางการและกำหนดการเปิดตัวก็ยังไม่ได้รับการยืนยันเช่นกัน มีเพียงการตีความว่าการเปิดตัวโมเดลใหม่ 'ใกล้เข้ามา' เท่านั้น

การประเมินความปลอดภัยของโมเดล AI ก่อนเปิดตัว ไม่ใช่เพียงขั้นตอนก่อนวางจำหน่ายผลิตภัณฑ์ทั่วไป แต่เชื่อมโยงกับการป้องกันภัยไซเบอร์ การคุ้มครองโครงสร้างพื้นฐานสำคัญ และความมั่นคงของประเทศโดยตรง ทั้งนี้ ผลการประเมินโมเดลทั้ง 2 รุ่นในครั้งนี้ยังไม่ถูกเปิดเผยแต่อย่างใด