Back to top
  • 공유 แชร์
  • 인쇄 พิมพ์
  • 글자크기 ขนาดตัวอักษร
ลิงก์ถูกคัดลอกแล้ว

Microsoft เผยอัตราผ่านหน่วยความจำ AI พุ่งจาก 39% เป็น 73%

ทีมวิจัยของ Microsoft($MSFT) ได้เสนอวิธีการตรวจสอบความจำระยะยาวของ AI เอเจนต์ในสภาพแวดล้อมจริงก่อนบันทึกข้อมูล ผลการทดลองในรายงานวิจัยพบว่าอัตราผ่านภารกิจสำรวจฐานข้อมูลเพิ่มขึ้นจาก 39% เป็น 73% ขณะที่ต้นทุนของเอเจนต์ปฏิบัติงานต่อคำถามลดลงจาก 3.38 ดอลลาร์ เหลือ 1.68 ดอลลาร์

ทีมวิจัยของ Microsoft อธิบายวิธีการนี้ว่าเป็น 'การจัดระเบียบความจำแบบสำรวจสภาพแวดล้อม' ในรายงานวิจัยชื่อ 'Grounding Agent Memory: Environment-Probing Curation for Enterprise Agents' ที่เผยแพร่เมื่อวันที่ 10 โครงสร้างนี้คือก่อนบันทึกความจำที่เป็นตัวเลือก เอเจนต์จัดระเบียบอีกตัวหนึ่งจะเข้าถึงสภาพแวดล้อมจริง เช่น ฐานข้อมูลและไฟล์ ในโหมดอ่านอย่างเดียว เพื่อยืนยันข้อเท็จจริงและขอบเขตการใช้งาน รายงานวิจัยต้นฉบับ

ในวิธีเดิม หลังจบภารกิจ เอเจนต์จัดระเบียบจะบันทึก 'สิ่งที่เรียนรู้' ลงในความจำระยะยาวโดยอิงจากข้อมูลที่ได้ระหว่างการทำงาน ทีมวิจัยตั้งข้อสังเกตว่าวิธีนี้อาจทำให้การตีความที่ผิดพลาด กฎที่ใช้ได้เฉพาะบางกรณี หรือข้อมูลที่ล้าสมัยจากการเปลี่ยนแปลงของสภาพแวดล้อม ถูกบันทึกไว้โดยไม่มีการตรวจสอบ

ในวิธีแบบสำรวจสภาพแวดล้อม เอเจนต์จัดระเบียบจะสร้างความจำที่เป็นตัวเลือกขึ้นก่อน แล้วจึงเข้าถึงสภาพแวดล้อมจริง ตามผลการยืนยัน ระบบจะบันทึกหรือแก้ไขความจำ รวมถึงจำกัดขอบเขตการใช้งานหรือลบทิ้ง โดยจะไม่ให้สิทธิ์เขียนที่สามารถเปลี่ยนแปลงสภาพแวดล้อมการทำงานจริง

ทีมวิจัยระบุว่าวิธีนี้ไม่จำเป็นต้องเปลี่ยนเอเจนต์ปฏิบัติงาน ตัวค้นหา หรือรูปแบบการจัดเก็บความจำที่มีอยู่เดิม และไม่ต้องฝึกโมเดลใหม่ เพียงเพิ่มเครื่องมือแบบอ่านอย่างเดียวที่มีสิทธิ์ขั้นต่ำในขั้นตอนการตรวจสอบเท่านั้น

การทดลองดำเนินการในสภาพแวดล้อมที่จำลองการทำงานจริงโดยใช้ GitHub Copilot SDK เมื่อนำความจำแบบสำรวจสภาพแวดล้อมมาใช้กับภารกิจสำรวจฐานข้อมูล CLBench อัตราผ่านเพิ่มขึ้นจาก 39% เป็น 73% คะแนนรางวัลเพิ่มขึ้นจาก 8.60 เป็น 22.60 ส่วนจำนวนครั้งของการเข้าถึงต่อคำถามลดลงจาก 8.8 ครั้ง เหลือ 4.7 ครั้ง

ต้นทุนของเอเจนต์ปฏิบัติงานต่อคำถามลดลงจาก 3.38 ดอลลาร์ เหลือ 1.68 ดอลลาร์ ซึ่งคิดเป็นตัวเลขลดลงประมาณ 50.3% จากการคำนวณอย่างง่าย แต่ต้นทุนการเรียกใช้แยกต่างหากของเอเจนต์จัดระเบียบถูกนับแยกจากต้นทุนของเอเจนต์ปฏิบัติงาน ดังนั้นจึงไม่ได้หมายความว่าต้นทุนดำเนินงานโดยรวมขององค์กรจะลดลงในสัดส่วนเดียวกัน

ทีมวิจัยยังประเมินเพิ่มเติมด้วยภารกิจให้คำปรึกษาด้านการบริหาร 90 ภารกิจใน 6 สภาพแวดล้อม ผลปรากฏว่าความจำแบบสำรวจสภาพแวดล้อมให้ผลตอบแทนต่อต้นทุนสูงกว่าวิธีความจำแบบเดิมใน 5 จาก 6 สภาพแวดล้อม และจำนวนครั้งของการเรียกใช้เครื่องมือของเอเจนต์ปฏิบัติงานลดลง 16-75% ขึ้นอยู่กับภารกิจ

ในการเปรียบเทียบโดยใช้ Sonnet 4.6 และ Opus 4.7 ความจำแบบสำรวจสภาพแวดล้อมก็บันทึกคะแนนรางวัลเฉลี่ยสูงกว่าวิธีความจำแบบเดิมเช่นกัน อย่างไรก็ตาม การทดลองส่วนใหญ่จำกัดอยู่ในสภาพแวดล้อมที่ใช้ GitHub Copilot เป็นหลัก และเน้นที่ภารกิจ CLBench กับ APEX

แก่นสำคัญของวิธีนี้ไม่ได้อยู่ที่การเพิ่มปริมาณความจำ แต่อยู่ที่การเพิ่มขั้นตอนตรวจสอบ โดยไม่ให้เอเจนต์สรุปข้อมูลที่ได้ระหว่างทำงานเป็นความรู้ทั่วไปทันที แต่ต้องเทียบกับข้อมูลจริงก่อนย้ายเข้าสู่ความจำระยะยาว

การเข้าถึงแบบอ่านอย่างเดียวคือวิธียืนยันข้อเท็จจริงและขอบเขตการใช้งานของความจำที่เป็นตัวเลือก โดยไม่เปลี่ยนแปลงฐานข้อมูลหรือไฟล์ หากจะนำไปใช้ในสภาพแวดล้อมองค์กร จำเป็นต้องแยกเป้าหมายการเข้าถึงออกจากสิทธิ์การเข้าถึง และบันทึกไว้ว่าข้อมูลใดได้รับการยืนยันในระหว่างขั้นตอนตรวจสอบ

เมื่อเพิ่มขั้นตอนตรวจสอบเข้ามา การเรียกใช้เครื่องมือหรือการทำงานซ้ำของเอเจนต์ปฏิบัติงานอาจลดลง แต่ในทางกลับกันจะเกิดต้นทุนการเรียกใช้ของเอเจนต์จัดระเบียบที่ทำงานอยู่เบื้องหลัง ดังนั้นเมื่อประเมินผลของการนำไปใช้ จึงต้องคำนวณทั้งต้นทุนการปฏิบัติงานและต้นทุนการตรวจสอบร่วมกัน

ก่อนหน้านี้ Microsoft ได้เปิดตัว STATE-Bench ซึ่งเป็นเกณฑ์มาตรฐานสำหรับประเมินประสิทธิภาพความจำของ AI เอเจนต์ด้วยภารกิจระดับองค์กร 450 ภารกิจ เกณฑ์มาตรฐานนี้วัดทั้งการปฏิบัติตามขั้นตอน การเปลี่ยนแปลงสถานะ และต้นทุนการทำงาน ในด้านบริการลูกค้า การท่องเที่ยว และการช้อปปิ้ง แนะนำ STATE-Bench

โครงการวิจัยอีกโครงการหนึ่งคือ Memora ได้เสนอโครงสร้างความจำที่แยกข้อมูลที่จัดเก็บออกจากวิธีการค้นหา ซึ่งช่วยลดจำนวนโทเคนบริบทที่จำเป็นสำหรับภารกิจระยะยาวได้สูงสุดถึง 98% คำอธิบายจาก Microsoft Research รายงานวิจัยฉบับนี้แตกต่างตรงที่เน้นไปที่ขั้นตอนการตรวจสอบก่อนจัดเก็บ มากกว่าวิธีการแสดงผลของความจำ

งานวิจัยนี้ยังเชื่อมโยงกับรายงานก่อนหน้านี้ของสำนักข่าวเราที่ระบุว่าการแข่งขันของ AI เอเจนต์กำลังเปลี่ยนจากประสิทธิภาพของโมเดลไปสู่ระบบขององค์กร อย่างไรก็ตาม ยังต้องมีการตรวจสอบเพิ่มเติมว่าความแม่นยำและประสิทธิภาพด้านต้นทุนในระดับเดียวกันจะเกิดขึ้นซ้ำได้หรือไม่นอกเหนือจากสภาพแวดล้อมการทดลองที่จำกัด

<ลิขสิทธิ์ ⓒ TokenPost ห้ามเผยแพร่หรือแจกจ่ายซ้ำโดยไม่ได้รับอนุญาต>

บทความที่มีคนดูมากที่สุด

บทความที่เกี่ยวข้อง

ความคิดเห็น 0

ข้อแนะนำสำหรับความคิดเห็น

ขอบคุณสำหรับบทความดี ๆ ต้องการบทความติดตามเพิ่มเติม เป็นการวิเคราะห์ที่ยอดเยี่ยม

0/1000

ข้อแนะนำสำหรับความคิดเห็น

ขอบคุณสำหรับบทความดี ๆ ต้องการบทความติดตามเพิ่มเติม เป็นการวิเคราะห์ที่ยอดเยี่ยม
1