Gemini Decisions API ของ Google คิดราคา 133 วอนต่อโทเคนขาเข้า 1 ล้านโทเคน

ราคาแบบชำระเงินมาตรฐานของ Gemini Decisions API อยู่ที่ 0.10 ดอลลาร์ (ประมาณ 133 วอน) ต่อโทเคนขาเข้า 1 ล้านโทเคน และไม่มีค่าธรรมเนียมโทเคนขาออก เพราะ API นี้ไม่ได้สร้างประโยคคำตอบ

อัลฟาเบต (Alphabet, GOOGL) ซึ่งเป็นบริษัทแม่ของกูเกิล (Google) เปิดตัวโมเดล Gemini Decision 1 และ Gemini Decisions API ในประกาศอย่างเป็นทางการเมื่อวันที่ 11 โดยนักพัฒนาส่งข้อมูลและคำถามให้โมเดล แล้วรับผลการตัดสินในรูปแบบที่กำหนดไว้

API รองรับข้อมูลขาเข้าทั้งข้อความ รูปภาพ เสียง วิดีโอ และ PDF ผลลัพธ์อาจเป็นใช่หรือไม่ใช่ หนึ่งในตัวเลือกที่กำหนดไว้ หรือคะแนนตามเกณฑ์ที่ระบุ กูเกิลระบุในเอกสาร API ว่าผลลัพธ์แต่ละรายการยังแสดงความน่าจะเป็นและระดับความเชื่อมั่นด้วย

กูเกิลระบุว่าเวลาในการประมวลผลตั้งแต่ต้นจนจบอยู่ที่ 0.15–0.25 วินาที โดยเป็นผลการวัดเมื่อบริบทขาเข้ามีไม่เกิน 16,000 โทเคน และมีคำถาม 1–100 ข้อ

คำขอหนึ่งรายการใส่คำถามได้สูงสุด 1,000 ข้อ ส่วนขีดจำกัดบริบทสำหรับข้อมูลที่ใช้ร่วมกันและคำถามทั้งหมดรวมกันอยู่ที่ 262,144 โทเคน จำนวนคำถามสูงสุดกับเวลาในการประมวลผล 0.15–0.25 วินาทีเป็นเงื่อนไขคนละกรณี

คำถามทั้งหมดอ้างอิงข้อมูลชุดเดียวกัน แต่ประเมินแยกกันโดยไม่เห็นคำตอบของข้ออื่น โค้ดของบริการจะนำผลลัพธ์ที่ได้รับมารวมกันเพื่อกำหนดการแยกเส้นทางหรือขั้นตอนถัดไป ตัว API เองไม่ได้ดำเนินการชำระเงินหรือเรียกใช้เครื่องมือ

API นี้ไม่ได้มีหน้าที่เขียนคำอธิบาย สร้างอาร์กิวเมนต์สำหรับเรียกใช้เครื่องมือ หรือทำการให้เหตุผลหลายขั้นตอน กูเกิลแนะนำให้ใช้ Interactions API แยกต่างหากสำหรับงานเหล่านี้

ค่าบริการข้อมูลขาเข้าและเงื่อนไขการประมวลผลข้อมูล

ข้อมูลขาเข้าที่ใช้ร่วมกันจะคิดค่าบริการหนึ่งครั้งต่อคำขอ อย่างไรก็ตาม คำแนะนำเพิ่มเติมและเกณฑ์การตัดสินที่ใส่เพิ่มสำหรับแต่ละคำถามจะนับรวมเป็นโทเคนขาเข้าด้วย ดังนั้นเมื่อจำนวนคำถามเพิ่มขึ้น โทเคนที่ใช้กับคำแนะนำของแต่ละข้อก็จะถูกนำมาคำนวณเช่นกัน

ตารางราคาของกูเกิลแยกเงื่อนไขการประมวลผลข้อมูลระหว่างระดับใช้งานฟรีกับระดับชำระเงิน โดยระบุว่าเนื้อหาขาเข้าในระดับฟรีอาจถูกนำไปใช้ปรับปรุงผลิตภัณฑ์ของกูเกิล ส่วนเนื้อหาในระดับชำระเงินจะไม่ถูกนำไปใช้เพื่อปรับปรุงผลิตภัณฑ์

กูเกิลยกตัวอย่างการใช้งานในผลิตภัณฑ์ของตน ได้แก่ การเลือกโมเดลใน Gemini Notebook และการตรวจจับอินพุตที่เป็นปฏิปักษ์ใน Google Search ทั้งสองกรณีนำผลการตัดสินไปใช้จัดหมวดหมู่หรือเลือกเส้นทางการทำงานของบริการ

กูเกิลระบุว่า Gemini Notebook ลดเวลาแฝงของคำถามทั่วไปได้สูงสุด 40% ตัวเลขนี้เป็นผลการใช้งานผลิตภัณฑ์ของกูเกิลเอง ไม่ใช่ตัวเลขความเร็วในการประมวลผลของบริการภายนอก

คำถามแบบเลือกตัวเลือกอาจเลือกคำตอบหนึ่งจากตัวเลือกที่มี แม้ข้อมูลขาเข้าจะไม่ตรงกับตัวเลือกใดเลย กูเกิลแนะนำให้เพิ่มตัวเลือก ‘อื่น ๆ’ หรือถามแยกเพื่อตรวจสอบขอบเขตของข้อมูล

การแสดงระดับความเชื่อมั่นสูงเพียงอย่างเดียวไม่ได้รับประกันว่าผลการตัดสินจะถูกต้อง กูเกิลแนะนำให้ทดสอบเกณฑ์ความเชื่อมั่นกับกรณีตัวอย่างที่ทราบคำตอบจริง และพิจารณาต้นทุนของการแจ้งเตือนผิดกับการพลาดตรวจจับ สำหรับการดำเนินการที่มีผลกระทบสูง เช่น การจ่ายเงิน ควรคงการตรวจสอบโดยมนุษย์หรือการตรวจซ้ำไว