Back to top
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

ลด 40% ค่าโทเคน API: โอเพนเอไอเพิ่มหน้าต่างเสร็จสิ้น 8 ชั่วโมง

มือกำลังเลือกหน้าต่างการประมวลผลเบื้องหลังบนแล็ปท็อป / TokenPost.ai

โอเพนเอไอเพิ่มหน้าต่างเสร็จสิ้น 2 ชั่วโมงและ 8 ชั่วโมงในโหมดประมวลผลเบื้องหลังของ Responses API โดยหน้าต่าง 8 ชั่วโมงลดค่าบริการโทเคนโมเดลลง 40% เมื่อเทียบกับการประมวลผล Standard

โอเพนเอไอ (OpenAI) ระบุเมื่อวันที่ 17 ใน บันทึกการเปลี่ยนแปลงสำหรับนักพัฒนา ว่าได้เพิ่มฟีเจอร์นี้เป็นเบตาสาธารณะ รายละเอียดเงื่อนไขอยู่ใน เอกสารโหมดประมวลผลเบื้องหลัง

หน้าต่างเสร็จสิ้นหมายถึงเวลาเป้าหมายที่ API ใช้จัดการการตอบสนองแรกหลังรับคำขอ ไม่ใช่เส้นตายที่รับประกันระดับบริการ แต่เป็นเกณฑ์กำหนดว่าจะจัดการการตอบสนองเริ่มต้นภายในเมื่อใด

ค่าเริ่มต้น soonest มุ่งประมวลผลให้เร็วที่สุดโดยไม่มีส่วนลด หน้าต่าง 2h ลดค่าบริการโทเคนโมเดลลง 30% เมื่อเทียบกับ Standard ส่วนหน้าต่าง 8h ลดลง 40%

หน้าต่างส่วนลดเปิดให้ใช้กับ GPT-6.2 Astra, GPT-6.2 Sol, GPT-6.1 Terra และ GPT-6 Luna ทั้งสี่โมเดลอยู่ในขอบเขตเบตาสาธารณะครั้งนี้

ฟีเจอร์นี้มุ่งรองรับงานอย่างการตรวจเอกสารหรือการวิเคราะห์ในช่วงกลางคืน ซึ่งไม่จำเป็นต้องได้รับผลลัพธ์ทันที ในการรันเอเจนต์หลายขั้นตอน ผู้ใช้จึงมีทางเลือกลดค่าโทเคนด้วยการยอมให้ใช้เวลาประมวลผลนานขึ้น

การใช้หน้าต่าง 2 ชั่วโมงและ 8 ชั่วโมงต้องเปิดการประมวลผลเบื้องหลังและเลือก Standard โดยหน้าต่างส่วนลดไม่รองรับเอาต์พุตแบบสตรีมมิง จึงต้องตรวจสถานะผ่านเว็บฮุกหรือการเรียกดู response ID

คำขอถัดไปสามารถใช้ continuation_id เดิมซ้ำได้ โอเพนเอไอระบุว่าหากใช้หน้าต่างเสร็จสิ้นเดียวกัน continuation_id เดียวกัน โมเดลเดิม และโปรเจกต์เดิมต่อเนื่อง คำขอที่เกี่ยวข้องอาจได้รับลำดับความสำคัญในคิวสูงขึ้น และส่วนลดจะใช้กับคำขอต่อเนื่องที่เข้าเกณฑ์ด้วย

ตั้งแต่ GPT-6.2 Astra และ GPT-6.2 Sol เป็นต้นไป ไม่มีการประมวลผล Flex หากต้องการลดต้นทุนงานระยะยาว จะต้องใช้หน้าต่างเบื้องหลัง 2 ชั่วโมงหรือ 8 ชั่วโมงแทน Flex

คำขอหน้าต่าง 2 ชั่วโมงและ 8 ชั่วโมงใช้ขีดจำกัดความเร็วเฉพาะ Batch/Background ร่วมกับงาน Batch API โทเคนอินพุตจะถูกนับในขีดจำกัดตั้งแต่ส่งคำขอ ขณะที่ soonest ใช้ขีดจำกัดคำขอและโทเคนทั่วไป

เมื่อส่งงานขนาดใหญ่พร้อมกัน ต้องบริหารขีดจำกัดแตกต่างจากคำขอทั่วไป จึงควรตรวจทั้งจำนวนการส่งพร้อมกันและขีดจำกัดที่เหลือ

โหมดประมวลผลเบื้องหลังอาจจัดเก็บข้อมูลการตอบสนองไว้ชั่วคราวเพื่อส่งผลลัพธ์ แม้จะปิดตัวเลือกการจัดเก็บหรือใช้ Zero Data Retention เอกสารระบุว่าเนื้อหาคำขอที่จัดเก็บในกรณีนี้จะถูกเข้ารหัส

หน้าต่างเสร็จสิ้นครั้งนี้เปิดให้ใช้กับโหมดประมวลผลเบื้องหลังของ Responses API และไม่ใช่ส่วนลดสำหรับคำขอ Chat Completions ทั่วไป แอปพลิเคชันที่ต้องการการตอบสนองแบบเรียลไทม์สามารถเลือก soonest ส่วนงานวิเคราะห์เอกสารช่วงกลางคืนอาจเลือก 2h หรือ 8h

การปรับราคา API ของโอเพนเอไอไม่ใช่ครั้งแรก โดย TokenPost เคยรายงานการลดราคาค่าโทเคนอินพุต API ของ GPT-6 Luna ก่อนหน้านี้ การเปลี่ยนแปลงครั้งนี้แตกต่างตรงที่แบ่งส่วนลดตามเวลารอการประมวลผล แทนการกำหนดราคาคงที่แยกตามโมเดล

นักพัฒนาที่ใช้เบตาสาธารณะควรตรวจสอบหน้าต่างเสร็จสิ้น การเลือก Standard ข้อจำกัดการสตรีม และขีดจำกัดความเร็วที่ใช้ร่วมกัน ตัวเลือกในเอกสารปัจจุบันช่วยให้ปรับเงื่อนไขระหว่างความเร็วการตอบสนองกับต้นทุนได้ตั้งแต่ขั้นตอนส่งคำขอ API

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

Most Popular

Other related articles

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1