โอเพนเอไอ(OpenAI) ทดสอบระบบตรวจสอบความปลอดภัยที่ไม่เก็บข้อมูลลูกค้าองค์กร

โอเพนเอไอ(OpenAI) เริ่มทดสอบให้บริการระบบความปลอดภัยรูปแบบใหม่กับลูกค้าองค์กรบางส่วน โดยระบบนี้ตรวจสอบสัญญาณการใช้งานผิดวัตถุประสงค์ที่กระจายอยู่ในหลายบทสนทนาได้ โดยไม่ต้องเก็บข้อมูลของลูกค้าไว้ ความเคลื่อนไหวนี้สะท้อนว่าการแข่งขันด้านโมเดลปัญญาประดิษฐ์(AI) สมรรถนะสูงไม่ได้วัดกันแค่เรื่องประสิทธิภาพอีกต่อไป แต่ขยายไปถึงวิธีการปกป้องข้อมูลของลูกค้าองค์กรด้วย

ตามรายงานของเทคครันช์(TechCrunch) โอเพนเอไอเปิดตัวระบบ 'Private Safety Processing' ให้ลูกค้าองค์กรและผู้ใช้ API บางรายทดลองใช้ล่วงหน้า ระบบนี้ออกแบบมาให้ตรวจสอบข้อมูลนำเข้าและผลลัพธ์ที่เกิดขึ้นในหลายบทสนทนาโดยอัตโนมัติ แต่ไม่เก็บข้อมูลของลูกค้าไว้

หัวใจสำคัญอยู่ที่ขอบเขตการใช้นโยบาย 'ไม่เก็บข้อมูล' หรือ Zero Data Retention (ZDR) ที่ผ่านมาโอเพนเอไอตรวจสอบการใช้งานผิดวัตถุประสงค์ผ่าน API เป็นรายเซสชัน แต่ระบบใหม่นี้จะวิเคราะห์รูปแบบที่ปรากฏข้ามหลายเซสชัน ไม่ใช่แค่บทสนทนาเดียว

โอเพนเอไอยกตัวอย่างกรณีผู้ใช้ที่ประสงค์ร้ายแบ่งคำขอให้เขียนโค้ดมัลแวร์สำหรับโจมตีไซเบอร์ออกเป็นหลายบทสนทนาเพื่อหลบเลี่ยงการตรวจจับ ระบบ Private Safety Processing ถูกออกแบบมาให้ตรวจจับสัญญาณการใช้งานผิดวัตถุประสงค์ได้ แม้คำขอเหล่านั้นจะกระจัดกระจายอยู่ในหลายเซสชัน

บริษัทอธิบายว่า เมื่อระบบตรวจพบสัญญาณเสี่ยงบางอย่าง จะส่งต่อเฉพาะสัญญาณที่กำหนดขอบเขตไว้แคบๆ ให้บริษัททราบเท่านั้น และในบางกรณีอาจขอข้อมูลบริบทเพิ่มเติมจากลูกค้า แต่ยืนยันว่าจะไม่มีการให้เจ้าหน้าที่เข้าไปอ่านเนื้อหาบทสนทนาของลูกค้าโดยตรง

นโยบายไม่เก็บข้อมูล หมายถึงการที่บริษัทไม่เก็บข้อมูลนำเข้าและผลลัพธ์ของลูกค้าไว้หลังให้บริการเสร็จสิ้น สำหรับ AI ระดับองค์กรแล้ว เรื่องที่ลูกค้าให้ความสำคัญไม่แพ้ประสิทธิภาพของโมเดลคือข้อมูลจะถูกเก็บไว้ที่ไหน มีโอกาสถูกมนุษย์ตรวจสอบหรือไม่ และบันทึกการตรวจสอบ(audit log) ถูกจัดการอย่างไร ซึ่งกลายเป็นเงื่อนไขสำคัญในสัญญา

การทดสอบครั้งนี้เกิดขึ้นในจังหวะเดียวกับที่แอนโทรปิก(Anthropic) มีนโยบายเก็บข้อมูลสำหรับโมเดลสมรรถนะสูงของตัวเอง โดยแอนโทรปิกระบุในประกาศความเป็นส่วนตัวว่าจัดโมเดลตระกูล 'มีตอส(Mythos)' และโมเดลอนาคตที่มีสมรรถนะใกล้เคียงกันเป็น 'โมเดลที่อยู่ในข่ายควบคุม(covered model)' ซึ่งบริษัทอาจเก็บพรอมต์และผลลัพธ์ของโมเดลเหล่านี้ไว้นานถึง 30 วัน

แอนโทรปิกประกาศนโยบายนี้เมื่อเดือนกรกฎาคมที่ผ่านมา โดยให้เหตุผลว่าการใช้งานผิดวัตถุประสงค์บางรูปแบบจะถูกตรวจพบได้ก็ต่อเมื่อพิจารณาหลายคำขอประกอบกัน

แอนโทรปิกอธิบายว่า หากระบบความปลอดภัยอัตโนมัติตรวจพบความเสี่ยงที่อาจก่อให้เกิดอันตราย จะมีผู้ตรวจสอบที่ได้รับอนุญาตจำนวนจำกัดเข้าดูเนื้อหาผ่านช่องทางที่ควบคุมไว้เท่านั้น และย้ำว่าการเข้าถึงข้อมูลทุกครั้งจะถูกบันทึกไว้ในระบบล็อกที่แก้ไขไม่ได้

ความแตกต่างระหว่างสองบริษัทนี้เป็นประเด็นอ่อนไหวสำหรับองค์กรที่ทำงานในภาคการเงิน สาธารณสุข กฎหมาย และความมั่นคงปลอดภัย เพราะองค์กรเหล่านี้ให้ความสำคัญกับคำถามที่ว่าข้อมูลที่ป้อนเข้าสู่โมเดล AI จะหลงเหลืออยู่นอกองค์กรมากน้อยแค่ไหน และใครสามารถเข้าถึงข้อมูลได้บ้างระหว่างขั้นตอนตรวจสอบความปลอดภัย

ด้านโอเพนเอไอระบุในคำอธิบายเรื่องการปกป้องข้อมูลสำหรับลูกค้าองค์กรว่า โดยปกติแล้วจะไม่นำข้อมูลขององค์กรไปใช้ฝึกโมเดล และองค์กรที่มีคุณสมบัติตรงตามเงื่อนไขสามารถเลือกใช้นโยบายไม่เก็บข้อมูลผ่าน API ได้เช่นกัน

เบื้องหลังความเคลื่อนไหวนี้คือการแข่งขันด้านความปลอดภัยของ AI ที่ยิ่งโมเดลสมรรถนะสูงเขียนโค้ด วิเคราะห์ไซเบอร์ และทำงานที่ใช้เวลานานได้เก่งขึ้นเท่าไหร่ ก็ยิ่งยากที่จะตรวจจับการใช้งานผิดวัตถุประสงค์จากบทสนทนาเดียวมากขึ้นเท่านั้น ก่อนหน้านี้ TokenPost เคยรายงานเกี่ยวกับแนวโน้มที่โอเพนเอไอและแอนโทรปิกจำกัดการเข้าถึงโมเดล AI สมรรถนะสูงไว้แล้ว

ประเด็นนี้ต่อเนื่องจากแนวโน้มการจำกัดการเข้าถึงโมเดล AI สมรรถนะสูง มาสู่เรื่องการเก็บข้อมูลลูกค้า ซึ่งกลายเป็นอีกหนึ่งปัจจัยที่องค์กรใช้เปรียบเทียบกันในการแข่งขัน AI ระดับองค์กร โดยทั่วไปแล้วองค์กรจะพิจารณาทั้งประสิทธิภาพ ต้นทุน มาตรการควบคุมความปลอดภัย และเงื่อนไขการเก็บข้อมูลไปพร้อมกันเมื่อจะนำ AI มาใช้งาน

ระบบใหม่ของโอเพนเอไอเปิดให้ทดลองใช้เฉพาะลูกค้าองค์กรและผู้ใช้ API บางส่วนเท่านั้น ยังไม่ครอบคลุมผู้ใช้แชทจีพีที(ChatGPT) ทั่วไป ส่วนกำหนดการเปิดให้บริการอย่างเป็นทางการและขอบเขตโมเดลที่รองรับยังไม่มีการเปิดเผย