Back to top
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

หน้าต่าง 8 ชั่วโมงในโอเพนเอไอ API ลดค่าโทเคน 40%

มือกำลังเลือกกรอบเวลาการประมวลผลเบื้องหลังบนแล็ปท็อป / TokenPost.ai

โอเพนเอไอเพิ่มกรอบเวลาการเสร็จสิ้น 2 ชั่วโมงและ 8 ชั่วโมงในโหมดทำงานเบื้องหลังของ Responses API โดยการเลือกกรอบเวลา 8 ชั่วโมงลดค่าบริการโทเคนของโมเดลลง 40% เมื่อเทียบกับการประมวลผลแบบ Standard

โอเพนเอไอ(OpenAI) ระบุเมื่อวันที่ 17 ในบันทึกการเปลี่ยนแปลงสำหรับนักพัฒนาว่าได้เพิ่มฟีเจอร์นี้เป็นเบตาแบบเปิด โดยมีเงื่อนไขโดยละเอียดในเอกสารโหมดทำงานเบื้องหลัง

กรอบเวลาการเสร็จสิ้นหมายถึงเวลาที่ API ตั้งเป้าจะประมวลผลการตอบกลับแรกหลังรับคำขอ ไม่ใช่เส้นตายที่รับประกันระดับบริการ และเป็นเพียงเกณฑ์กำหนดว่าจะดำเนินการตอบกลับแรกภายในช่วงใด

ค่าเริ่มต้น soonest มุ่งประมวลผลให้เร็วที่สุดโดยไม่มีส่วนลด ขณะที่กรอบเวลา 2 ชั่วโมงลดค่าบริการโทเคนของโมเดล 30% จาก Standard และกรอบเวลา 8 ชั่วโมงลด 40%

กรอบเวลาที่มีส่วนลดเปิดให้ใช้กับ GPT-6.2 Astra, GPT-6.2 Sol, GPT-6.1 Terra และ GPT-6 Luna โดยทั้งสี่โมเดลอยู่ในเบตาแบบเปิดครั้งนี้

ฟีเจอร์นี้มุ่งเป้าไปที่งานอย่างการตรวจเอกสารหรือการวิเคราะห์ข้ามคืน ซึ่งไม่จำเป็นต้องรับผลลัพธ์ทันที นอกจากนี้การทำงานของเอเจนต์หลายขั้นตอนยังมีทางเลือกลดต้นทุนโทเคนด้วยการยอมให้ใช้เวลาประมวลผลนานขึ้น

การใช้กรอบเวลา 2 ชั่วโมงและ 8 ชั่วโมงต้องเปิดการประมวลผลเบื้องหลังและเลือกการประมวลผลแบบ Standard กรอบเวลาที่มีส่วนลดไม่รองรับเอาต์พุตแบบสตรีมมิง จึงต้องตรวจสอบสถานะผ่านเว็บฮุกหรือเรียกดูด้วย response ID

คำขอต่อเนื่องสามารถใช้ continuation_id เดิมได้ โอเพนเอไอระบุว่าการใช้กรอบเวลาเดิม continuation_id เดิม โมเดลเดิม และโปรเจกต์เดิมต่อเนื่องกัน อาจทำให้คำขอที่เกี่ยวข้องได้รับลำดับความสำคัญในคิวสูงขึ้น และส่วนลดจะใช้กับคำขอต่อเนื่องที่เข้าเกณฑ์ด้วย

สำหรับ GPT-6.2 Astra และ GPT-6.2 Sol ไม่มีรูปแบบการประมวลผล Flex อีกต่อไป ผู้ที่ต้องการลดต้นทุนงานระยะยาวจึงต้องใช้กรอบเวลาเบื้องหลัง 2 ชั่วโมงหรือ 8 ชั่วโมงแทน Flex เดิม

คำขอกรอบเวลา 2 ชั่วโมงและ 8 ชั่วโมงใช้ข้อจำกัดอัตราเดียวกับงาน Batch API และข้อจำกัดเฉพาะ Batch/Background โทเคนอินพุตจะถูกนับรวมในขีดจำกัดเมื่อส่งคำขอ ส่วน soonest ซึ่งเป็นค่าเริ่มต้นจะใช้ขีดจำกัดคำขอและโทเคนทั่วไป

เมื่อส่งงานขนาดใหญ่พร้อมกันหลายรายการ จำเป็นต้องจัดการขีดจำกัดแตกต่างจากคำขอทั่วไป จึงควรตรวจสอบทั้งจำนวนการส่งพร้อมกันและโควตาที่เหลือ

โหมดทำงานเบื้องหลังอาจจัดเก็บข้อมูลการตอบกลับไว้ชั่วคราวเพื่อส่งผลลัพธ์ แม้ปิดตัวเลือกการจัดเก็บหรือใช้ Zero Data Retention เอกสารระบุว่าเนื้อหาคำขอที่ถูกจัดเก็บในช่วงนี้จะเข้ารหัส

กรอบเวลาใหม่นี้ให้บริการในโหมดทำงานเบื้องหลังของ Responses API และส่วนลดดังกล่าวไม่ใช้กับคำขอทั่วไปของ Chat Completions แอปพลิเคชันที่ต้องการการตอบกลับแบบเรียลไทม์สามารถเลือก soonest ขณะที่งานวิเคราะห์เอกสารข้ามคืนอาจเลือก 2 ชั่วโมงหรือ 8 ชั่วโมงตามลักษณะงาน

การปรับราคา API ของโอเพนเอไอไม่ใช่ครั้งแรก โดย TokenPost เคยรายงานการลดราคาค่าโทเคนอินพุต API ของ GPT-6 Luna แล้ว การเปลี่ยนแปลงครั้งนี้แตกต่างตรงที่แบ่งส่วนลดตามเวลารอการประมวลผล แทนการกำหนดราคาคงที่รายโมเดล

นักพัฒนาที่ใช้เบตาแบบเปิดควรตรวจสอบกรอบเวลาการเสร็จสิ้น การเลือก Standard ข้อจำกัดสตรีมมิง และขีดจำกัดอัตราที่ใช้ร่วมกัน เอกสารปัจจุบันเปิดทางให้ปรับสมดุลระหว่างความเร็วตอบกลับกับต้นทุนตั้งแต่ขั้นตอนส่งคำขอ API

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

Most Popular

Other related articles

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1