ข่าว 
ข้อมูลเหรียญ 
แนะนำสื่อ 
เบร็กซ์(Brex) เปิดตัว CrabTrap พร็อกซีโอเพนซอร์สที่อนุญาตหรือบล็อกคำขอ HTTP และ HTTPS ของเอเจนต์ปัญญาประดิษฐ์ (AI Agent) ไปยังภายนอกแบบเรียลไทม์ เครื่องมือนี้ควบคุมสิทธิ์การทำงานของเอเจนต์ในระดับทราฟฟิกเครือข่าย ไม่ใช่แค่การจำกัดผ่านพรอมป์หรือโค้ดเหมือนที่ผ่านมา
เปโดร ฟรานเชสกี(Pedro Franceschi) ผู้ร่วมก่อตั้งและซีอีโอของเบร็กซ์ เขียนแนะนำ CrabTrap บนบล็อกวิศวกรรมของบริษัทเมื่อวันที่ 21 เมษายน (เวลาท้องถิ่น) โดยระบุว่า CrabTrap ทำหน้าที่ดักคำขอที่วิ่งระหว่างเอเจนต์ AI กับ API ภายนอก แล้วปล่อยผ่านเฉพาะการสื่อสารที่ตรงกับนโยบายที่กำหนดไว้เท่านั้น
เอเจนต์ AI คือระบบที่ตัดสินใจเองเพื่อดำเนินงานหรือทำธุรกรรมให้บรรลุเป้าหมาย เมื่อเอเจนต์เหล่านี้ได้รับคีย์ API โทเคน OAuth หรือบัญชีบริการจริง ประเด็นความปลอดภัยจึงไม่ได้อยู่แค่ที่ความถูกต้องของคำตอบ แต่อยู่ที่ว่าเอเจนต์เข้าถึงระบบไหนได้บ้างและสั่งงานอะไรได้บ้าง
เบร็กซ์มองว่าวิธีควบคุมแบบเดิม เช่น เกตเวย์ตามโมเดลคอนเท็กซ์โปรโตคอล(MCP) ผูกติดกับโปรโตคอลเฉพาะ หรือระบบ ‘guardrail’ ของผู้ให้บริการโมเดล ก็อิงอยู่กับโมเดลใดโมเดลหนึ่งเท่านั้น บริษัทจึงเลือกออกแบบการตรวจสอบการสื่อสารภายนอกที่ชั้นทรานสปอร์ต เพื่อไม่ให้ผูกติดกับเอเจนต์หรือโมเดลตัวใดตัวหนึ่ง
วิธีติดตั้งทำได้ด้วยการตั้งค่าตัวแปรสภาพแวดล้อม HTTP_PROXY และ HTTPS_PROXY ให้ชี้ไปที่ CrabTrap คำขอที่เอเจนต์ส่งออกไปภายนอกทั้งหมดจะวิ่งผ่านพร็อกซีนี้ ส่วนการสื่อสารผ่าน HTTPS จะถูกตรวจสอบด้วยวิธีถอดรหัสกลางทางผ่านทรานสปอร์ตเลเยอร์ซีเคียวริตี(TLS) โดยใช้ใบรับรองดิจิทัล (CA) ของ CrabTrap เอง
ในสภาพแวดล้อมแบบคอนเทนเนอร์ สามารถใช้การตั้งค่า iptables บล็อกการเชื่อมต่อตรงที่พยายามเลี่ยงพร็อกซีได้ด้วย เพราะหากตั้งค่าพร็อกซีไว้แต่ยังเปิดช่องทางเลี่ยงอยู่ เอเจนต์ก็อาจส่งคำขอออกไปนอกสายตาการตรวจสอบได้
การตัดสินคำขอของ CrabTrap แบ่งเป็นสองขั้นตอน ขั้นแรกเป็นการตรวจด้วยกฎแบบตายตัวที่อิงรูปแบบ URL หากกฎที่กำหนดไว้ตัดสินไม่ได้ ระบบจะส่งต่อให้ ‘ตัวตัดสินใจ’ ที่เป็นโมเดลภาษาขนาดใหญ่ (LLM) วิเคราะห์นโยบายความปลอดภัยที่เขียนเป็นภาษาธรรมชาติร่วมกับข้อมูลคำขอนั้น
ตัวตัดสินใจที่เป็น LLM จะให้ผลลัพธ์เป็นอนุญาต (ALLOW) หรือปฏิเสธ (DENY) ในรูปแบบ JSON ที่มีโครงสร้างชัดเจน หากกฎอนุญาตกับกฎปฏิเสธขัดแย้งกัน ระบบจะให้กฎปฏิเสธมีสิทธิ์เหนือกว่าและบล็อกคำขอนั้นทันที
กฎแบบตายตัวให้ผลลัพธ์ที่คาดเดาได้และประมวลผลเร็ว แต่รับมือกับคำขอที่ไม่ได้กำหนดไว้ล่วงหน้าได้ยาก ขณะที่การตัดสินด้วย LLM ใช้นโยบายภาษาธรรมชาติได้ยืดหยุ่นกว่า แต่ผลลัพธ์มีความไม่แน่นอนในเชิงความน่าจะเป็น นี่คือเหตุผลที่ CrabTrap ใช้ทั้งสองวิธีร่วมกัน
CrabTrap ยังมีเครื่องมือสร้างนโยบายที่วิเคราะห์ทราฟฟิกจริงเพื่อร่างนโยบายให้อัตโนมัติ ช่วยให้ผู้ดูแลระบบไม่ต้องเขียนกฎอนุญาตและบล็อกทั้งหมดขึ้นมาเองตั้งแต่ต้น แต่ใช้ประวัติการเรียกเครือข่ายที่ผ่านมาเป็นฐานในการวางนโยบายแทน
ระบบยังมีฟังก์ชันประเมินผลที่นำ log การตรวจสอบเก่ามารันซ้ำ เพื่อเทียบผลการตัดสินก่อนและหลังเปลี่ยนนโยบาย ทุกคำขอและผลการตัดสินจะถูกบันทึกไว้ในฐานข้อมูลโพสต์เกรสคิวเอล(PostgreSQL) ทำให้ตรวจสอบย้อนหลังได้ว่าคำขอไหนถูกส่งไปที่ใดและถูกจัดการด้วยนโยบายใด
เบร็กซ์ใช้งาน CrabTrap ในสภาพแวดล้อมจริงอยู่แล้ว โดยในกรณีใช้งานจริงกรณีหนึ่ง สัดส่วนคำขอที่ต้องให้ตัวตัดสินใจ LLM เข้ามาแทรกแซงอยู่ที่ต่ำกว่า 3% ของคำขอทั้งหมด อย่างไรก็ตาม ตัวเลขนี้มาจากกรณีเดียวที่มีชุดกฎตายตัวและองค์ประกอบทราฟฟิกเฉพาะ ไม่ใช่ค่าที่ใช้ได้กับทุกองค์กรหรือทุกสภาพแวดล้อมเอเจนต์
สำหรับบริการที่เกี่ยวข้องกับการเคลื่อนย้ายสินทรัพย์ เช่น ระบบชำระเงิน กระเป๋าเงินดิจิทัล หรือ API ของเอ็กซ์เชนจ์ ความสามารถในการบันทึกและจำกัดคำขอภายนอกของเอเจนต์อาจมีความสำคัญมากขึ้น ก่อนหน้านี้ ทีมข่าวเคยรายงานถึง กรณีที่โคอินเบส($COIN) รองรับให้เอเจนต์ AI ชำระเงินด้วยยูเอสดีคอยน์(USDC) ยิ่งเอเจนต์เข้าไปทำธุรกรรมและชำระเงินโดยตรงมากเท่าไร ก็ยิ่งต้องมีการควบคุมทั้งสิทธิ์การทำงานและเส้นทางการสื่อสารไปพร้อมกัน
ฟิดเลอร์ เอไอ(Fiddler AI) ประเมินว่าเครื่องมือแบบพร็อกซีสะท้อนความจำเป็นของการบังคับใช้นโยบายแบบเรียลไทม์ แต่ก็ชี้ว่าระบบธรรมาภิบาลระดับองค์กรต้องอาศัยการทำงานร่วมกันของระบบเทเลเมทรี การประเมินผล การมอนิเตอร์ การบังคับใช้นโยบาย และการตรวจสอบ (audit) จึงยากที่พร็อกซีเพียงอย่างเดียวจะทดแทนโครงสร้างความปลอดภัยทั้งระบบได้
ในวงสนทนาของนักพัฒนาที่เปิดกว้าง มีทั้งความเห็นที่ชื่นชมการเปิดซอร์สและการเข้าถึงระดับเครือข่าย และความกังวลเรื่องความไม่แน่นอนของการตัดสินใจด้วย LLM ขอบเขตการตรวจสอบของ CrabTrap ยังจำกัดอยู่ที่คำขอ HTTP และ HTTPS ภายนอกเท่านั้น ส่วนการอ่านไฟล์ การรันคำสั่งเชลล์ หรือการสื่อสารที่ไม่ใช่ HTTP ยังต้องควบคุมแยกต่างหาก โดยรวมแล้วเบร็กซ์เปิด CrabTrap เป็นโอเพนซอร์สเพื่อควบคุมคำขอ HTTP และ HTTPS ของเอเจนต์ AI ที่ส่งออกไปภายนอก
ความคิดเห็น 0