OpenAI เปิดให้ทดลอง Decisions API รุ่นเบต้าแบบสาธารณะ โดย API จัดประเภทข้อความและภาพ แล้วส่งผลกลับมาเป็นตัวเลือก ความน่าจะเป็น หรือคะแนน ค่าประมวลผลขาเข้าอยู่ที่ 0.10 ดอลลาร์ต่อ 1 ล้านโทเคน สูงกว่า Zev ของ TypeSafeAI
เมื่อวันที่ 6 ตุลาคม OpenAI ประกาศเปิดเบต้า Decisions API ที่ใช้ GPT-6 Luna เอกสารสำหรับนักพัฒนาระบุว่า API รับข้อความหรือภาพ แล้วส่งกลับความน่าจะเป็นที่เงื่อนไขจะเป็นจริง ตัวเลือกที่กำหนดไว้ล่วงหน้า หรือคะแนน โดยระบุว่าตอบสนองได้เร็วกว่า Responses API สูงสุด 10 เท่า
Zev เป็นโมเดลจัดประเภทที่ TypeSafeAI เปิดตัวเมื่อวันที่ 15 กันยายน ดิโอโก อัลเมดา (Diogo Almeida) ผู้ก่อตั้ง อธิบายในโพสต์เปิดตัวว่า “Zev ออกแบบมาให้สร้างผลการตัดสินแบบมีโครงสร้างที่ซอฟต์แวร์นำไปใช้ได้ทันที แทนการตอบยาว ๆ” โมเดลมุ่งรองรับงานอย่างการแยกคำถามลูกค้าเป็นปัญหาการชำระเงินหรือปัญหาทางเทคนิค และส่งกรณีที่มีความมั่นใจต่ำให้คนตรวจสอบ
ทั้งสองบริการมีค่าประมวลผลขาเข้าต่างกัน ตามเอกสารของ OpenAI Decisions API คิด 0.10 ดอลลาร์ต่อข้อมูลขาเข้า 1 ล้านโทเคน และไม่มีค่าประมวลผลขาออก ส่วน TypeSafeAI ระบุว่า Zev คิดค่าขาเข้า 42 ดอลลาร์ต่อ 1 พันล้านโทเคน และไม่คิดค่าขาออก เมื่อเทียบปริมาณขาเข้าเท่ากัน Zev มีค่าใช้จ่าย 0.042 ดอลลาร์ต่อ 1 ล้านโทเคน
ค่าใช้จ่ายจริงขึ้นอยู่กับปริมาณข้อมูลและการตั้งค่างาน การดูตารางราคาเพียงอย่างเดียวจึงยังตัดสินไม่ได้ว่าบริการใดประหยัดกว่า และควรคำนึงถึงต้นทุนในการจัดการผลจัดประเภทที่ผิดพลาดด้วย
เสียงตอบรับช่วงแรกจากนักพัฒนามีทั้งด้านบวกและข้อกังวล Fortune รายงานตัวอย่างต้นแบบที่ใช้ตรวจคำสะกดและไวยากรณ์แบบเรียลไทม์ ซึ่งผู้ทดสอบชื่นชมความเร็วในการตอบสนองของ Zev ขณะเดียวกัน การทดลองจัดประเภทอีเมลก็พบว่าโมเดลพลาดอีเมลสำคัญ นักพัฒนาที่ทำการทดลองกล่าวว่าการระบุเกณฑ์ให้ละเอียดขึ้นช่วยลดการตกหล่น
กรณีเหล่านี้สะท้อนว่าความเร็วในการตอบสนองของโมเดลเพียงอย่างเดียวไม่เพียงพอสำหรับประเมินผลการทำงานจริง การกำหนดหมวดหมู่และเกณฑ์ รวมถึงการออกแบบให้คนตรวจผลที่มีความมั่นใจต่ำ อาจส่งผลต่อผลลัพธ์
Vercel ระบุว่า หลังเพิ่ม Zev ลงใน AI Gateway ของบริษัทเมื่อวันที่ 18 กันยายน มีทีมแบบชำระเงินราว 13% ใช้งานภายใน 24 ชั่วโมง บริษัทกล่าวว่าเข้าถึงทีมแบบชำระเงินได้มากกว่าการเปิดตัวโมเดลก่อนหน้าสองเท่า ตัวเลขนี้เป็นข้อมูลการใช้งานช่วงแรกภายในแพลตฟอร์มของ Vercel
การพัฒนา Zev ใช้เวลาสองปี อัลเมดาเคยมีส่วนร่วมในการพัฒนา ChatGPT ที่ OpenAI ก่อนร่วมก่อตั้ง TypeSafeAI ส่วน Fortune รายงานว่า TypeSafeAI ระดมทุนรอบ Seed ได้ 40 ล้านดอลลาร์ โดยมี DCVC เป็นผู้นำการลงทุน
การเปิดเบต้าของ Decisions API เป็นความคืบหน้าต่อจากรายงานก่อนหน้าของ TokenPost ที่แนะนำ API สำหรับเลือกคำตอบจากตัวเลือกที่กำหนดไว้ล่วงหน้า โดยข้อมูลที่เพิ่มเข้ามาครั้งนี้ ได้แก่ ความแตกต่างด้านราคา สถิติการใช้งานช่วงแรกบนแพลตฟอร์ม Vercel และผลของเกณฑ์การจัดประเภทในการทดลองของนักพัฒนา
Zev และ Decisions API ส่งผลการตัดสินที่ซอฟต์แวร์นำไปประมวลผลได้ แทนคำตอบแบบยาว การเปรียบเทียบว่าบริการใดแม่นยำหรือคุ้มค่ากว่าสำหรับงานหนึ่ง ๆ ต้องพิจารณาจากข้อมูลการทำงานจริงและต้นทุนจากข้อผิดพลาด
ความคิดเห็น 0