โอเพนเอไอ (OpenAI) เพิ่มหน้าต่างเวลาสำหรับการประมวลผลให้เสร็จสิ้น 2 ชั่วโมงและ 8 ชั่วโมงในโหมดเบื้องหลังของ Responses API โดยตัวเลือก 2 ชั่วโมงลดอัตราค่าโทเคนของโมเดลลง 30% เมื่อเทียบกับการประมวลผลแบบ Standard ขณะที่ตัวเลือก 8 ชั่วโมงลดลง 40%
เอกสารสำหรับนักพัฒนาของโอเพนเอไอระบุว่า หน้าต่าง ‘soonest’ ซึ่งเป็นค่าเริ่มต้นไม่มีส่วนลด ขณะที่คำขอแบบ 2 ชั่วโมงและ 8 ชั่วโมงต้องใช้การประมวลผลแบบ Standard ใช้ขีดจำกัดอัตราการเรียกใช้งานร่วมกับ Batch API และไม่รองรับเอาต์พุตแบบสตรีมมิง
หน้าต่างเวลาที่มีส่วนลดเปิดให้ใช้งานแบบเบตาสาธารณะใน GPT-6.2 Astra, GPT-6.2 Sol, GPT-6.1 Terra และ GPT-6 Luna โอเพนเอไอระบุว่า โมเดลใหม่ตั้งแต่ GPT-6.2 Astra และ GPT-6.2 Sol เป็นต้นไปจะไม่รองรับการประมวลผลแบบ Flex
เอกสารสำหรับนักพัฒนาของโอเพนเอไอยังระบุว่า การนำ continuation_id เดิมกลับมาใช้ในคำขอต่อเนื่องอาจทำให้คำขอได้รับลำดับความสำคัญในคิวสูงขึ้น
Comment 0