返回部落格

價格

GPT-6.2 背景處理:如何節省 AI API Token 成本

OleToken Blog · 7 分鐘閱讀 · 2026年11月20日

有些人工智能任务需要立即得到答案。其他人可以在下午会议或第二天早上之前完成。 GPT-6.2 後台處理為開發人員提供了一種方法來分離這些工作負載,使用非同步執行,並在符合條件時使用折扣完成視窗。

關鍵條件很簡單:背景執行本身並不保證推理費用更低。本文於 2026 年 11 月 20 日查核的 OpenAI 官方文件,將預設的 soonest 完成時段與享有折扣的兩小時、八小時時段區分開來。了解這項差異,才能準確計算 AI Token 費率並可靠地估算成本。

后台处理意味着什么

后台模式异步运行响应 API 请求。您的应用程序提交工作,保存响应 ID,并在完成后检索结果。它可以接收 Webhook 或轮询状态,而不是保持普通同步请求打开直到最终答案。

这对于长文档分析、报告生成和下一步取决于模型响应的工作流程非常有用。您的应用程序仍然协调工具和后续调用;接受后台请求并不意味着提供商会自动执行您的整个业务流程。

异步执行和折扣是分开的

完成視窗

預計時間

模型Token折扣與標準Token折扣

最快

按需工作

沒有任何

兩小時

可以等待的工作

30%

八小時

通宵或延期工作

40%

OpenAI 將較長的視窗描述為接受初始請求後的完成目標。它們並不能保證每個多步驟應用程式工作流程都在一個視窗內完成。工具時間和後續請求必須單獨規劃。

哪些 GPT-6.2 請求符合資格?

文件列出的折扣完成時段目前在 GPT-6.2 Astra、GPT-6.2 Sol、GPT-6.1 Terra 和 GPT-6 Luna 上處於公開測試階段。這些時段要求使用 Standard 處理。將 service_tier 設為 default 可明確選擇 Standard;設為 auto 時,只有系統實際選擇 Standard 才符合條件。

將後台模式設為 true 並選擇兩小時或八小時完成視窗。對於折扣窗口,必須忽略或停用串流。預設的最快視窗支援不同的流行為,但沒有完成視窗折扣。

避免將該功能與 Flex 混淆

OpenAI 表示,從 GPT-6.2 Astra 和 GPT-6.2 Sol 開始的新模型在沒有 Flex 處理的情況下啟動。折扣後台視窗是符合條件的長期運行回應請求的記錄替代方案。不要複製較舊的 Flex 配置並假設它提供 GPT-6.2 成本最佳化。

在部署之前檢查模型、端點、專案存取和目前測試條件。支援普通回應呼叫的網關可能無法以相同的方式實現後台選項、檢索、取消或 Webhook。

正確計算節省的費用

GPT-6.2 Sol 列出了每百萬個未快取輸入Token 2 美元的短上下文標準費率和每百萬個輸出Token 10 美元的短上下文標準費率。 GPT-6.2 Astra 列出了 8 美元的輸入和 40 美元的輸出。快取的讀取和寫入具有單獨的費率,長上下文定價可以更改基本計算。

對於具有 20,000 個未快取輸入Token和 2,000 個可計費輸出Token的說明性 GPT-6.2 Sol 請求,標準Token成本為 0.04 美元加 0.02 美元,即 0.06 美元。合格的兩小時窗口將其減少至 0.042 美元;八小時窗口將其減少至 0.036 美元。

在 10,000 個此類請求中,總金額分別為 600 美元、420 美元和 360 美元。這些計算假設使用相同的用法和合格的短上下文標準處理。它們不包括工具、稅收、重試和基礎設施,也不是完整的生產報價。

對適用費用套用折扣

該文件描述了模型Token費率的折扣,而不是發票上每項服務的總百分比折扣。付費工具或區域性提升可能會影響最終帳單。在輸出假設中包含所有計費推理,而不是僅計算顯示的答案。

對於輸入超過 272,000 個 Token 的 GPT-6.2 請求,整個請求的輸入與快取費率變為原來的 2 倍,輸出費率變為原來的 1.5 倍。應先計算適用的基礎費率,不能因為請求非同步執行,就套用短上下文價格。

設計可靠的非同步AI API工作流程

立即儲存回應 ID

將回應 ID 與您的申請作業 ID、所選模型、完成視窗、專案和提交時間一起保留。網路超時並不能證明提供者拒絕了這項工作。在建立重複請求之前協調現有作業。

表示應用程式中排隊、正在運行、成功、失敗、不完整和取消的結果。成功的提交並不等於成功的報告。在標記業務任務完成之前驗證傳回的內容。

喜歡經過驗證的 webhooks 或有界輪詢

OpenAI 建議透過 Webhook 接收完成事件並使用事件 ID 檢索回應。驗證 Webhook 簽章、刪除重複的交付,並在執行操作之前檢查回應是否屬於預期作業。

如果 Webhook 不可用,請在排隊或正在進行時輪詢相同的回應 ID。使用有界時間表並停止在最終狀態。不要在每次想要檢查原始請求是否完成時重新提交提示。

保持副作用冪等

重複的 Webhook 不得建立重複的電子郵件、付款指示或資料庫更新。儲存處理狀態並在支援的情況下使用冪等機制。獨立於模型文字驗證和授權下游操作。

接受符合資格的折扣請求後,OpenAI 會自動重試某些容量錯誤。當回應保持活動狀態時,繼續追蹤該回應,而不是建立作業的競爭副本。

跨多個請求繼續工作流程

後台回應可能會請求工具呼叫。您的應用程式檢索回應,運行授權工具,並在後續請求中提交工具結果。初始完成目標適用於該回應,而不是所有未來的推理和工具工作。

为了使符合条件的后续任务具有更high队列优先级,该指南描述了重用相同的延续 ID、模型、完成窗口和 API 项目,以及所需的背景和标准设置。連續 ID 對運行進行分組;它不能與攜帶對話歷史記錄的回應 ID 互換。

如果較早的回應過期,指南將描述重播已儲存的對話項目,包括所需的推理和函數呼叫項目。在啟動長時間作業之前規劃結果保留和恢復,並遵循當前端點文檔,而不是僅從可見文字重建狀態。

比較後台處理和 Batch

對於可以提前一起提交的獨立請求,請使用批次。當您的應用程式在決定下一步之前需要一個回應的結果時,請使用背景回應。這些是不同的工作負載形狀,即使兩者都可以容忍延遲。

GPT-6.2 模型頁面以標準Token費率的 50% 列出 Batch。不要假設批量折扣與後台視窗折扣疊加。選擇與依賴項、截止日期和當前條款相符的支援路線。

考慮快取邊界

OpenAI 規定,折扣視窗之外的標準請求無法重複使用由兩小時或八小時後台請求建立的提示快取項目。相同的提示不會覆蓋該邊界。按處理路線分離快取預測並檢查實際使用情況。

這對於將白天聊天與夜間分析混合在一起的應用程式很重要。排程作業可能會收到較低的Token率,同時不會為後續的互動式工作負載提供快取優勢。

資料處理與操作限制

即使停用儲存或使用零數據保留,後台模式也會暫時儲存回應數據,如 OpenAI 數據控制項所述。該指南指出,臨時儲存的請求內容是靜態加密的。查看您的要求的適用保留詳細資訊。

折扣視窗與批次作業共用批次/後台速率限制,並在提交時計算輸入Token。因此,隊列限制和申請截止日期需要與支出一起進行監控。預設最快請求使用常規請求和Token限制。

常見問題解答

设置后台模式总是省钱吗?

不會。最快的后台处理没有完成窗口折扣。節省費用需要受支援的模型、合格的標準處理以及折扣的兩小時或八小時窗口。

我可以串流折扣後台請求嗎?

文件要求兩小時和八小時完成時段省略 stream 設定,或將其設為 false。需要串流輸出時,應使用文件說明的 soonest 行為,並按對應價格計費。

統一的平台可以提供相同的功能嗎?

僅當它支援所需的選項和生命週期端點時。透過實際整合驗證定價、檢索、取消、Webhook 支援和快取行為。

下一步

將一個延遲容忍工作負載轉移到測量試點中,並比較每個可接受結果的總成本。如果您使用 OLEToken 作為統一的 AI API 平台,請在依賴這些直接提供者折扣之前確認後台視窗支援和計費條款。

來源