Cloudflare เปิดตัว CLeF โมเดลตัดสินใจขนาด 27B และ CLeF Flash ขนาด 9B พร้อมเพิ่มฟังก์ชันปรับแต่งโมเดลสำหรับแต่ละองค์กรในบริการโฮสต์โมเดล Workers AI ทั้งสองรุ่นส่งคืนความน่าจะเป็นของแต่ละตัวเลือกแทนการสร้างข้อความอิสระ เพื่อช่วย AI agent จัดหมวดหมู่คำถามและเลือกงานถัดไป
Cloudflare ระบุเมื่อวันที่ 1 ตุลาคมว่าได้นำโมเดลทั้งสองขึ้น Workers AI และเปิดเผยน้ำหนักโมเดลภายใต้สัญญาอนุญาต Apache 2.0 นักพัฒนาสามารถใช้งานโมเดลผ่าน Cloudflare หรือดาวน์โหลดน้ำหนักโมเดลไปรันในสภาพแวดล้อมของตนเองได้
ต่างจากโมเดลภาษาขนาดใหญ่ (LLM) ทั่วไปที่สร้างประโยคและคำตอบ โมเดลตระกูล CLeF จะประเมินความน่าจะเป็นของคำตอบที่กำหนดไว้ล่วงหน้าจากสถานการณ์และคำถามที่ป้อนเข้าไป เช่น คำถามจากลูกค้าเร่งด่วนหรือไม่ หรือควรส่งต่อให้ทีมใด รูปแบบคำตอบที่จำกัดช่วยลดขั้นตอนที่ agent ต้องนำผลลัพธ์ไปตีความอีกครั้ง โดยคำขอหนึ่งรายการสามารถมีคำถามประเภทจริงหรือเท็จ ตัวเลือก และการให้คะแนนได้สูงสุด 64 ข้อ
เอกสารอย่างเป็นทางการของ Cloudflare ระบุว่า CLeF รองรับบริบทได้สูงสุด 65,536 โทเคน และรับข้อมูลเข้าได้ทั้งข้อความ JSON รูปภาพ และวิดีโอ ส่วน CLeF Flash มุ่งรองรับงานที่ต้องการเวลาแฝงต่ำ โมเดลทั้งสองรองรับ Jev ของ Typesafe และ SystemOne API
โมเดลตระกูล CLeF เหมาะกับการจัดหมวดหมู่และเลือกเส้นทางในเวิร์กโฟลว์ของ agent มากกว่าการใช้แทน LLM แบบสนทนา agent สามารถเลือกการกระทำถัดไปจากตัวเลือกที่กำหนดไว้ แล้วเชื่อมต่อกับ LLM อีกตัวเพื่อสร้างคำอธิบายหรือดำเนินงานต่อได้
ในการประเมินภายใน Decision Index ที่ Cloudflare เปิดเผย CLeF ทำคะแนน macro-F1 ได้ 94.2 ในการจัดหมวดหมู่ BANKING77 ขณะที่ Jev ได้ 79.7 ค่ามัธยฐานเวลาแฝงต่อคำขออยู่ที่ 38.8 มิลลิวินาทีสำหรับ CLeF Flash, 209.3 มิลลิวินาทีสำหรับ CLeF และ 524.1 มิลลิวินาทีสำหรับ Jev ตัวเลขเหล่านี้เป็นผลจากการประเมินของ Cloudflare เอง
เอกสาร Workers AI ระบุราคาอินพุตไว้ที่ 0.24 ดอลลาร์ต่อ 1 ล้านโทเคนสำหรับ CLeF และ 0.09 ดอลลาร์สำหรับ CLeF Flash การเปรียบเทียบต้นทุนการใช้งานทั้งหมดต้องพิจารณาปริมาณการใช้ เงื่อนไขการโฮสต์ และระดับความแม่นยำที่แต่ละงานต้องการร่วมด้วย
Cloudflare ยังเปิดตัวบริการปรับแต่งโมเดลด้วยการเรียนรู้แบบเสริมกำลัง เพื่อปรับ CLeF ให้เข้ากับงานของลูกค้า บริษัทระบุว่าจะเริ่มจากการทำงานร่วมกับลูกค้าโดยตรง ก่อนพัฒนาแพลตฟอร์มบริการตนเองที่รองรับตั้งแต่การรวบรวมข้อมูล การปรับแต่งโมเดล ไปจนถึงการนำโมเดลกลับไปใช้งาน การประกาศครั้งนี้ครอบคลุมทั้งการเปิดตัวโมเดลของบริษัทและการสนับสนุนการปรับแต่งสำหรับแต่ละองค์กร
ความคิดเห็น 0