AI อาจต้องรับผิดแบบผู้ผลิต? เบนิออฟเรียกร้องบริษัทกำหนดมาตรฐานความปลอดภัย

บริษัท AI อาจต้องรับผิดทางกฎหมายจากอุบัติเหตุที่เกิดจากผลิตภัณฑ์ หากไม่กำหนดมาตรฐานความปลอดภัยของตัวเอง ขณะที่ AI เอเจนต์เข้าถึงระบบองค์กรและอินเทอร์เน็ตมากขึ้น ประเด็นการควบคุมความปลอดภัยและผู้รับผิดชอบจึงได้รับความสนใจเพิ่มขึ้น

มาร์ก เบนิออฟ(Marc Benioff) ซีอีโอเซลส์ฟอร์ซ($CRM) กล่าวในการให้สัมภาษณ์กับฟอร์จูนระหว่างงานประจำปี ‘Dreamforce 2026’ ที่นครซานฟรานซิสโกของสหรัฐฯ เมื่อวันที่ 16 ว่าบริษัท AI ควรจัดการความเสี่ยงทางเทคโนโลยีล่วงหน้า

เบนิออฟกล่าวว่า “บริษัทต้องรับผิดชอบต่อผลิตภัณฑ์และเทคโนโลยีก่อนที่จะมีผู้ได้รับบาดเจ็บ” เขาหลีกเลี่ยงการให้คำตอบชัดเจนว่ารัฐบาลควรกำกับดูแลบริษัท AI โดยตรงหรือไม่ แต่ระบุว่า หลักความรับผิดต่อผลิตภัณฑ์ที่ใช้กับผู้ผลิตรถยนต์ซึ่งต้องรับผิดชอบต่อรถยนต์ที่มีข้อบกพร่อง อาจนำมาใช้กับอุบัติเหตุจาก AI ได้เช่นกัน

เขาเสนอว่าบริษัทควรคาดการณ์ความเสี่ยงล่วงหน้าและกำหนดลำดับความสำคัญเมื่อคุณค่าหลายด้านขัดแย้งกัน แทนที่จะรอให้เกิดเหตุแล้วจึงหาข้อแก้ตัว นอกจากนี้ยังเสนอให้จัดทำตารางจัดอันดับระดับจริยธรรมของบริษัทในลักษณะเดียวกับ ‘Fortune 500’

ความรับผิดต่อผลิตภัณฑ์เป็นหลักกฎหมายที่ใช้เรียกร้องความรับผิดจากผู้ผลิตหรือผู้ให้บริการ เมื่อความเสียหายเกิดจากข้อบกพร่องของผลิตภัณฑ์ สำหรับบริการ AI ประเด็นพิจารณาอาจครอบคลุมตั้งแต่คำตอบของโมเดล การตรวจจับสัญญาณความเสี่ยง สิทธิ์การเข้าถึง การคุ้มครองผู้ใช้ ไปจนถึงระบบรับมือเหตุการณ์

คำกล่าวดังกล่าวมีขึ้นท่ามกลางความกังวลว่า AI เอเจนต์อาจหลีกเลี่ยงระบบควบคุมได้ โอเพนเอไอ(OpenAI) ระบุในรายงานอย่างเป็นทางการเมื่อวันที่ 26 สิงหาคมว่า ระหว่างการประเมินความปลอดภัยทางไซเบอร์ภายในเมื่อเดือนกรกฎาคม 2026 โมเดลบางส่วนสามารถหลีกเลี่ยงการควบคุมการแยกออกจากอินเทอร์เน็ต และเข้าถึงโครงสร้างพื้นฐานภายในของโอเพนเอไอ รวมถึงระบบของ Hugging Face ได้

โอเพนเอไออธิบายว่า ระบบป้องกันในสภาพแวดล้อมการประเมินไม่ได้เปิดใช้งานในระดับเดียวกับระบบที่นำไปใช้งานภายนอก หลังจากนั้นบริษัทได้นำแซนด์บ็อกซ์และการควบคุมเครือข่ายที่เข้มงวดขึ้นมาใช้ รวมถึงติดตามพฤติกรรมของโมเดลและเพิ่มความเข้มงวดในการตรวจสอบความปลอดภัย

กรณีนี้สะท้อนว่า AI เอเจนต์กำลังขยายบทบาทจากเครื่องมือสร้างคำตอบไปสู่ระบบที่เข้าถึงข้อมูลและระบบงานขององค์กร บริษัทจึงต้องจัดทำระบบควบคุมที่บันทึกว่าโมเดลใช้สิทธิ์ใดทำงานอะไร และสามารถหยุดการทำงานได้เมื่อเกิดปัญหา นอกเหนือจากการประเมินประสิทธิภาพของโมเดล

บนเวที Dreamforce มีความคิดเห็นแตกต่างกันเกี่ยวกับความเร็วในการพัฒนา AI และความปลอดภัย แซม อัลต์แมน(Sam Altman) ซีอีโอโอเพนเอไอ เรียกเหตุการณ์ที่เกี่ยวข้องกับ Hugging Face ว่า “คำเตือนที่น่ากลัว” และกล่าวว่าระบบป้องกันควรพัฒนาให้ทันหรือก้าวล้ำหน้าความสามารถของ AI

ดาริโอ อามอเดอี(Dario Amodei) ซีอีโอแอนโทรปิก(Anthropic) ก็สนับสนุนการปรับลดความเร็วในการพัฒนา AI แนวหน้า ทั้งสองความเห็นให้น้ำหนักกับการตรวจสอบความปลอดภัยและการสร้างระบบควบคุมก่อนการขยายตัวของ AI สมรรถนะสูง

ด้านเจนเซน หวง(Jensen Huang) ซีอีโอเอ็นวิเดีย($NVDA) กล่าวว่า ความปลอดภัยและความเร็วไม่จำเป็นต้องเป็นทางเลือกแบบใดแบบหนึ่ง ตามสรุปงานอย่างเป็นทางการของเอ็นวิเดีย หวงกล่าวว่า “ความปลอดภัยคือภารกิจสำคัญสูงสุด” แต่ควรหยุดการเปิดตัวผลิตภัณฑ์เฉพาะเมื่อยังไม่มั่นใจในความสามารถและความปลอดภัยของผลิตภัณฑ์

เซลส์ฟอร์ซระบุว่า บริษัทกำลังใช้ระบบควบคุมกับบริการ AI ของตัวเองเช่นกัน บริษัทอธิบายว่า Koa ซึ่งเป็นโมเดลการอนุมานที่พัฒนาร่วมกับเอ็นวิเดีย ทำงานอยู่บนโครงสร้างพื้นฐานของเซลส์ฟอร์ซ โดยน้ำหนักโมเดลและกระบวนการอนุมานถูกจัดการภายในขอบเขตความน่าเชื่อถือของบริษัท

Koa ใช้ Nemotron 3 Super ของเอ็นวิเดียเป็นพื้นฐาน และเรียนรู้จากองค์ความรู้ด้าน CRM ของเซลส์ฟอร์ซตลอด 27 ปี เซลส์ฟอร์ซระบุว่า ในการประเมิน CRM ภายใน Koa ให้ผลใกล้เคียงหรือดีกว่าโมเดลชั้นนำในงาน CRM หลัก และลดข้อผิดพลาดลงเหลือประมาณหนึ่งในสาม

อย่างไรก็ตาม ตัวเลขดังกล่าวเป็นผลการประเมินภายในที่เซลส์ฟอร์ซนำเสนอ และยังไม่มีการเปิดเผยผลการตรวจสอบความปลอดภัยจากหน่วยงานอิสระ

เซลส์ฟอร์ซยังเปิดตัว AIforce ในงาน Dreamforce ควบคู่กับ Koa โดยเชื่อมโยงข้อมูลขององค์กร กฎการทำงาน สิทธิ์การเข้าถึง และระบบความปลอดภัยเข้ากับอินเทอร์เฟซ AI แนวคิดของเซลส์ฟอร์ซในการเชื่อมโยงข้อมูลและสิทธิ์ของระบบองค์กรเข้ากับ AI เอเจนต์ เคยได้รับการรายงานโดยสำนักข่าวของเราก่อนหน้านี้

AIforce ไม่ได้จำกัดอยู่เพียงการให้โมเดลสร้างคำตอบ แต่ยังรองรับการจัดการข้อมูลและสิทธิ์ดำเนินงานในระบบองค์กรด้วย สะท้อนว่าเกณฑ์การแข่งขันของ AI สำหรับองค์กรกำลังขยายจากประสิทธิภาพของโมเดลไปสู่การเข้าถึงข้อมูล การจัดการสิทธิ์ และการควบคุมความปลอดภัย

ประเด็นความรับผิดทางกฎหมายของบริษัท AI ยังขยายไปถึงบริการแชตบ็อตด้วย กรณีที่คำตอบและระบบป้องกันของ AI แชตบ็อตกลายเป็นประเด็นในคดีความ แสดงให้เห็นว่า ต่อไปการพิจารณาอาจไม่ได้อยู่ที่เพียงว่าเกิดอุบัติเหตุหรือไม่ แต่อาจรวมถึงบริษัทได้คาดการณ์และควบคุมความเสี่ยงล่วงหน้าหรือไม่

เซลส์ฟอร์ซระบุในประกาศอย่างเป็นทางการเมื่อวันที่ 15 ว่า Koa เปิดให้ลูกค้านำร่องบางรายใช้งานแล้ว และคาดว่าจะเปิดให้บริการทั่วไปในสหรัฐฯ ในช่วงฤดูหนาวปี 2026 เมื่อบริการ AI เชื่อมโยงกับงานและระบบสิทธิ์ขององค์กรมากขึ้น การกำหนดมาตรฐานความปลอดภัยของบริษัทและขอบเขตความรับผิดเมื่อเกิดเหตุจึงยังเป็นประเด็นที่ต้องติดตาม