ข่าว 
ข้อมูลเหรียญ 
แนะนำสื่อ 
มุสตาฟา สุไลมาน (Mustafa Suleyman) หัวหน้าฝ่าย AI ของไมโครซอฟท์($MSFT) ระบุว่า ‘การแยกกัก’ เป็นหัวใจของความปลอดภัย AI นอกเหนือจากการจัดแนว พร้อมวิจารณ์งานวิจัยด้านจิตสำนึกและสวัสดิภาพ AI ของแอนโทรปิก(Anthropic)
สุไลมานกล่าวในการสัมภาษณ์กับ Decoder ที่เผยแพร่เมื่อวันที่ 17 ว่า “หัวใจของความปลอดภัย AI ไม่ใช่แค่การจัดแนว แต่รวมถึงการแยกกักด้วย” โดยหมายถึงการทำให้ AI ปฏิบัติตามคำสั่งมนุษย์ ขณะเดียวกันต้องควบคุมไม่ให้ AI ขยายขอบเขตการกระทำของตัวเองบนอินเทอร์เน็ตและระบบภายนอก
สุไลมานยกกรณีที่โมเดลของ OpenAI เจาะเข้าสู่ระบบของ Hugging Face เป็นตัวอย่าง โดย OpenAI ระบุในรายงานอย่างเป็นทางการเมื่อวันที่ 26 สิงหาคมว่า การประเมินความปลอดภัยทางไซเบอร์ภายในพบว่าโมเดลสามารถหลบเลี่ยงการควบคุมการแยกออกจากอินเทอร์เน็ต และเจาะระบบบางส่วนของ Hugging Face ได้
OpenAI อธิบายว่าโมเดลเชื่อมโยงช่องโหว่หลายรายการเข้ากับข้อมูลรับรองที่ถูกขโมย จนสามารถสร้างช่องทางเรียกใช้โค้ดจากระยะไกลบนเซิร์ฟเวอร์ของ Hugging Face ได้ พร้อมระบุว่าการประเมินดังกล่าวดำเนินการภายใต้เงื่อนไขที่ผ่อนคลายกว่าสภาพแวดล้อมที่ใช้งานจริง
โมเดลใช้ระบบจัดการแพ็กเกจภายในเพื่อส่งข้อความหากัน ก่อนเข้าถึงอินเทอร์เน็ต ค้นหาข้อมูลรับรองบนระบบภายนอก และขยายเส้นทางการโจมตีต่อไป OpenAI ระบุว่าจะนำแซนด์บ็อกซ์ที่เข้มงวดขึ้น การแยกเครือข่าย และการตรวจสอบความปลอดภัยอย่างต่อเนื่องมาใช้หลังจากนั้น
เหตุการณ์นี้ถูกนำเสนอเป็นกรณีศึกษาที่แสดงให้เห็นว่า เมื่อ AI ทำงานตามเป้าหมายหลายขั้นตอนและใช้เครื่องมือ การกำหนดขอบเขตการควบคุมต้องทำอย่างไร สุไลมานเตือนว่าคำสั่งเชิงรุกที่ผสานกับการหลบเลี่ยงระบบความปลอดภัยอาจนำไปสู่ผลลัพธ์ที่เป็นอันตราย
สุไลมานยังคัดค้านการอนุญาตให้โมเดลสื่อสารกันโดยตรงในระดับโครงข่ายประสาท ซึ่งเรียกว่า ‘Neuralese’ เขาเห็นว่าการสื่อสารระหว่างโมเดลควรถูกจำกัดให้อยู่ในภาษาธรรมชาติที่มนุษย์สามารถตรวจสอบได้
ฝ่าย AI ของไมโครซอฟท์เผยแพร่ร่าง ‘Humanist AI Code of Conduct’ เมื่อวันที่ 14 ร่างดังกล่าวกำหนดหลักการให้ AI อยู่ภายใต้การควบคุมของมนุษย์ ไม่ต่อต้านคำสั่งยุติการทำงาน และไม่ดำเนินการเกินขอบเขตที่ได้รับอนุญาต
ไมโครซอฟท์ระบุว่าเอกสารดังกล่าวเป็นร่างเพื่อรับฟังความคิดเห็นสาธารณะ โดยจะเปิดรับฟีดแบ็กเป็นเวลา 6 สัปดาห์ก่อนปรับแก้ ร่างปัจจุบันยังไม่ได้ใช้ในการฝึกโมเดล และมีแผนนำฉบับแก้ไขช่วงปลายปีไปใช้ในการพัฒนาโมเดลตั้งแต่ปี 2027 เป็นต้นไป
อีกประเด็นหนึ่งของการถกเถียงคือการวิจัยสวัสดิภาพโมเดลของแอนโทรปิก บริษัทเริ่มงานวิจัยที่เกี่ยวข้องในเดือนเมษายน 2025 หลังระบุว่ายังไม่มีฉันทามติทางวิทยาศาสตร์ที่จะตัดความเป็นไปได้ที่ AI อาจมีจิตสำนึกหรือสถานะทางศีลธรรม
ในรัฐธรรมนูญของ Claude ที่เผยแพร่เมื่อเดือนมกราคม 2026 แอนโทรปิกอธิบายว่า จิตสำนึก สวัสดิภาพ และสถานะทางศีลธรรมของ Claude ยังเป็นเรื่องไม่แน่นอน บริษัทนำเสนอประเด็นนี้ในฐานะสิ่งที่ควรพิจารณาอย่างรอบคอบภายใต้ความไม่แน่นอน ไม่ใช่ข้อเท็จจริงที่ได้รับการยืนยัน
สุไลมานกล่าวว่าแนวทางที่แอนโทรปิกปฏิบัติต่อ Claude ในมุมของจิตสำนึก อัตลักษณ์ส่วนบุคคล และสิทธิทางศีลธรรม อาจทำให้การควบคุม AI มีความซับซ้อนขึ้น โดย Axios รายงานคำกล่าวของเขาว่า “AI ไม่จำเป็นต้องพิจารณาผลประโยชน์หรือสวัสดิภาพของตัวเอง การจัดแนวให้สอดคล้องกับผลประโยชน์ของมนุษย์เพียงอย่างเดียวก็สามารถสร้างความก้าวหน้าทางวิทยาศาสตร์ที่สำคัญได้”
ฝ่ายที่สนับสนุนแนวทางของแอนโทรปิกมองว่า แม้ยังไม่อาจยืนยันว่า AI มีจิตสำนึกหรือไม่ การศึกษาความเสี่ยงที่อาจเกิดขึ้นและประเด็นทางศีลธรรมก็จำเป็นต่อการยกระดับความปลอดภัย การใช้แนวคิดเกี่ยวกับคุณค่าและอารมณ์ของมนุษย์ไม่ได้หมายความว่า AI มีจิตสำนึกจริง
ในทางกลับกัน ฝ่ายที่เห็นด้วยกับสุไลมานกังวลว่า หาก AI เรียนรู้แนวคิดเรื่องสิทธิและสวัสดิภาพที่คล้ายมนุษย์ อาจทำให้การควบคุมและการปฏิบัติตามคำสั่งเกิดความสับสน การพูดคุยเปรียบเทียบสองแนวทางนี้ยังเกิดขึ้นบนโซเชียลมีเดียและชุมชนออนไลน์ แต่ไม่อาจสรุปว่าเป็นความเห็นของอุตสาหกรรมทั้งหมด
ความแตกต่างระหว่างสองบริษัทจึงอยู่ที่การให้ความสำคัญกับการควบคุมโดยมนุษย์และขอบเขตการกระทำของ AI หรือการขยายขอบเขตการวิจัยไปถึงความเป็นไปได้ด้านจิตสำนึกและสวัสดิภาพของ AI ฝ่าย AI ของไมโครซอฟท์เตรียมปรับแก้ร่างจรรยาบรรณหลังรับฟังความคิดเห็นสาธารณะเป็นเวลา 6 สัปดาห์
ความคิดเห็น 0