Back to top
  • 공유 แชร์
  • 인쇄 พิมพ์
  • 글자크기 ขนาดตัวอักษร
ลิงก์ถูกคัดลอกแล้ว

Mixedbread เปิดตัว Toast 1 เอเจนต์ค้นหาข้อมูลสำหรับ LLM ลดต้นทุนได้กว่า 60%

Mixedbread เปิดตัว ‘Toast 1’ เอเจนต์ค้นหาข้อมูลที่ทำหน้าที่สืบค้นแหล่งข้อมูลให้กับโมเดลภาษาขนาดใหญ่ (LLM) โดยแยกบทบาทการค้นหาและเลือกแหล่งอ้างอิงออกจากโมเดลหลักอย่าง GPT และ Claude ที่ทำหน้าที่สร้างคำตอบ

BlockBeats รายงานว่า Mixedbread เปิด Toast 1 ให้ใช้งานผ่าน API แล้ว นักพัฒนาสามารถเชื่อมต่อกับเอเจนต์อื่นเพื่อมอบหมายงานค้นหาและรวบรวมข้อมูลได้โดยตรง เฟรมเวิร์กการค้นหาถูกเปิดเป็นโอเพนซอร์สแล้ว แต่ยังไม่เปิดเผยน้ำหนักโมเดล (model weights)

จุดเน้นของ Toast 1 อยู่ที่ ‘การค้นหา’ ไม่ใช่การสร้างคำตอบ แทนที่โมเดลหลักจะค้นข้อมูลด้วยตัวเอง Toast 1 จะคัดกรองเอกสารและแหล่งอ้างอิงที่จำเป็นล่วงหน้าก่อนส่งต่อผลลัพธ์ให้โมเดลหลักนำไปประมวลผล แนวทางนี้ตอบโจทย์บริการ AI เชิงรู้สร้าง (generative AI) ที่ต้นทุนและคุณภาพคำตอบมักขึ้นอยู่กับขั้นตอนการค้นหาเป็นหลัก

Mixedbread ระบุว่าคุณภาพการค้นหาของ Toast 1 ใกล้เคียงกับโมเดลปิดชั้นนำในตลาด ขณะที่ยังมีความได้เปรียบด้านความเร็วและราคา จากการทดสอบกับฐานความรู้ด้านกฎหมายของ Harvey พบว่าหลังให้ Toast 1 รับหน้าที่ค้นหา คะแนนคำตอบของ GPT-5.6 Sol ยังคงเดิม แต่ต้นทุนโดยรวมลดลงมากกว่า 60%

ในการประเมินด้วยชุดทดสอบ Databricks OfficeQA Pro V2 การจับคู่ระหว่าง GPT-5.6 Sol กับ Toast 1 ทำคะแนนได้ 70% ขณะที่การจับคู่ระหว่าง Claude Fable 5 กับ Genie ในชุดข้อมูลเดียวกันทำได้ 60% และมีต้นทุนน้อยกว่าครึ่งหนึ่งของคู่ที่ใช้ Toast 1

เอกสารทางการของ Mixedbread เองก็อธิบายบทบาทของเอเจนต์ค้นหาในทิศทางเดียวกัน โดยในเอกสาร Agentic Search บริษัทระบุว่า สำหรับคำถามที่ตอบด้วยการค้นหาครั้งเดียวไม่ได้ ระบบจะแตกออกเป็นการค้นหาย่อยหลายรอบ แล้วประเมินผลลัพธ์ซ้ำเพื่อคัดเลือกคำตอบสุดท้าย พร้อมระบุว่าวิธีนี้อาจช้าและมีต้นทุนสูงกว่าการค้นหาทั่วไป แต่เหมาะกับคำถามที่ต้องการความแม่นยำเป็นพิเศษ

การเปิดตัวครั้งนี้สะท้อนว่าการแข่งขันด้านโมเดล AI กำลังขยายจากความสามารถในการสร้างคำตอบไปสู่โครงสร้างพื้นฐานด้านการค้นหาและ RAG (Retrieval-Augmented Generation) มากขึ้น ในไทยเองก็เริ่มมีกรณีนำการค้นหาเชิงเอเจนต์มาใช้กับการค้นหาสินค้าซึ่งทำให้ผู้ใช้งานให้ความสนใจกับแนวทางที่ AI ตีความเงื่อนไขและบริบทเพื่อคัดกรองตัวเลือกมากขึ้นเช่นกัน

ยิ่ง LLM ถูกนำไปใช้กับข้อมูลที่ต้องอ้างอิงแหล่งที่มาอย่างเข้มงวด เช่น เอกสารองค์กร ข้อมูลกฎหมาย หรือเอกสารการเงิน ประสิทธิภาพและโครงสร้างต้นทุนของชั้นการค้นหาก็ยิ่งส่งผลโดยตรงต่อคุณภาพบริการ อย่างไรก็ตาม เนื่องจาก Toast 1 ยังไม่เปิดเผยน้ำหนักโมเดล นักพัฒนาภายนอกจึงยังมีข้อจำกัดในการตรวจสอบหรือปรับแต่งโมเดลด้วยตัวเองในสภาพแวดล้อมของตน

<ลิขสิทธิ์ ⓒ TokenPost ห้ามเผยแพร่หรือแจกจ่ายซ้ำโดยไม่ได้รับอนุญาต>

บทความที่มีคนดูมากที่สุด

บทความที่เกี่ยวข้อง

ความคิดเห็น 0

ข้อแนะนำสำหรับความคิดเห็น

ขอบคุณสำหรับบทความดี ๆ ต้องการบทความติดตามเพิ่มเติม เป็นการวิเคราะห์ที่ยอดเยี่ยม

0/1000

ข้อแนะนำสำหรับความคิดเห็น

ขอบคุณสำหรับบทความดี ๆ ต้องการบทความติดตามเพิ่มเติม เป็นการวิเคราะห์ที่ยอดเยี่ยม
1