返回博客

价格

GPT-6.2 后台处理:如何节省 AI API Token 成本

OleToken Blog · 7 分钟阅读 · 2026年11月20日

有些人工智能任务需要立即得到答案。其他人可以在下午会议或第二天早上之前完成。 GPT-6.2 后台处理为开发人员提供了一种方法来分离这些工作负载,使用异步执行,并在符合条件时使用折扣完成窗口。

关键条件很简单:后台执行本身并不能保证更便宜的推理。 OpenAI 官方文档于 2026 年 11 月 20 日查看,将默认的最快窗口与折扣的两小时和八小时窗口区分开来。了解这种区别对于准确的 AI Token定价和可靠的成本估算至关重要。

后台处理意味着什么

后台模式异步运行Responses API 请求。您的应用程序提交工作,保存响应 ID,并在完成后检索结果。它可以接收 Webhook 或轮询状态,而不是保持普通同步请求打开直到最终答案。

这对于长文档分析、报告生成和下一步取决于模型响应的工作流程非常有用。您的应用程序仍然协调工具和后续调用;接受后台请求并不意味着提供商会自动执行您的整个业务流程。

异步执行和折扣是分开的

完成窗口

预计时间

模型 Token 费率相对 Standard 的折扣

最快

按需工作

没有任何

两小时

可以等待的工作

30%

八小时

通宵或延期工作

40%

OpenAI 将较长的窗口描述为接受初始请求后的完成目标。它们并不能保证每个多步骤应用程序工作流程都在一个窗口内完成。工具时间和后续请求必须单独计划。

哪些 GPT-6.2 请求符合资格?

文档列出的折扣完成窗口目前在 GPT-6.2 Astra、GPT-6.2 Sol、GPT-6.1 Terra 和 GPT-6 Luna 上处于公开测试阶段。这些窗口要求使用 Standard 处理。将 service_tier 设为 default 可明确选择 Standard;设为 auto 时,只有系统实际选择 Standard 才符合条件。

将后台模式设置为 true 并选择两小时或八小时完成窗口。对于折扣窗口,必须忽略或禁用流式传输。默认的最快窗口支持不同的流行为,但没有完成窗口折扣。

避免将该功能与 Flex 混淆

OpenAI 表示,从 GPT-6.2 Astra 和 GPT-6.2 Sol 开始的新模型在没有 Flex 处理的情况下启动。折扣后台窗口是符合条件的长时间运行的 Responses 请求的记录替代方案。不要复制较旧的 Flex 配置并假设它提供 GPT-6.2 成本优化。

在部署之前检查模型、端点、项目访问和当前测试条件。支持普通 Responses 调用的网关可能无法以相同的方式实现后台选项、检索、取消或 Webhook。

正确计算节省的费用

GPT-6.2 Sol 列出了每百万个未缓存输入Token 2 美元的短上下文标准费率和每百万个输出Token 10 美元的短上下文标准费率。 GPT-6.2 Astra 列出了 8 美元的输入和 40 美元的输出。缓存的读取和写入具有单独的费率,长上下文定价可以更改基本计算。

对于具有 20,000 个未缓存输入Token和 2,000 个可计费输出Token的说明性 GPT-6.2 Sol 请求,标准Token成本为 0.04 美元加 0.02 美元,即 0.06 美元。合格的两小时窗口将其减少至 0.042 美元;八小时窗口将其减少至 0.036 美元。

在 10,000 个此类请求中,总金额分别为 600 美元、420 美元和 360 美元。这些计算假设使用相同的用法和合格的短上下文标准处理。它们不包括工具、税收、重试和基础设施,并且不是完整的生产报价。

对适用费用应用折扣

该文档描述了模型Token费率的折扣,而不是发票上每项服务的总百分比折扣。付费工具或地区附加费可能会影响最终账单。在输出假设中包含所有计费推理,而不是仅计算显示的答案。

对于输入超过 272,000 个 Token 的 GPT-6.2 请求,整个请求的输入与缓存费率变为原来的 2 倍,输出费率变为原来的 1.5 倍。应先计算适用的基础费率,不能因为请求异步运行,就套用短上下文价格。

设计可靠的异步AI API工作流程

立即保存响应 ID

将响应 ID 与您的应用任务 ID、所选模型、完成窗口、项目和提交时间一起保留。网络超时并不能证明提供者拒绝了该工作。在创建重复请求之前协调现有作业。

表示应用程序中排队、正在运行、成功、失败、不完整和取消的结果。成功的提交并不等于成功的报告。在标记业务任务完成之前验证返回的内容。

优先使用已验证的 Webhook 或有限轮询

OpenAI 建议通过 Webhook 接收完成事件并使用事件 ID 检索响应。验证 Webhook 签名、删除重复的交付,并在执行操作之前检查响应是否属于预期作业。

如果 Webhook 不可用,请在排队或正在进行时轮询相同的响应 ID。使用有界时间表并停止在最终状态。不要在每次想要检查原始请求是否完成时重新提交提示。

保持副作用幂等

重复的 Webhook 不得创建重复的电子邮件、付款指令或数据库更新。存储处理状态并在支持的情况下使用幂等机制。独立于模型文本验证和授权下游操作。

接受符合条件的折扣请求后,OpenAI 会自动重试某些容量错误。当响应保持活动状态时,继续跟踪该响应,而不是创建作业的竞争副本。

跨多个请求继续工作流程

后台 Responses 请求可能会请求工具调用。您的应用程序检索响应,运行授权工具,并在后续请求中提交工具结果。初始完成目标适用于该响应,而不是所有未来的推理和工具工作。

为了使符合条件的后续任务具有更high队列优先级,该指南描述了重用相同的延续 ID、模型、完成窗口和 API 项目,以及所需的背景和标准设置。连续 ID 对运行进行分组;它不能与携带对话历史文档列出的响应 ID 互换。

如果较早的响应过期,该指南将描述重播已保存的对话项目,包括所需的推理和函数调用项目。在启动长时间作业之前规划结果保留和恢复,并遵循当前端点文档,而不是仅从可见文本重建状态。

比较后台处理和 Batch

对于可以提前一起提交的独立请求,请使用批处理。当您的应用程序在决定下一步之前需要一个响应的结果时,请使用后台 Responses 请求。这些是不同的工作负载形状,即使两者都可以容忍延迟。

GPT-6.2 模型页面以标准Token费率的 50% 列出 Batch。不要假设批量折扣与后台窗口折扣叠加。选择与依赖项、截止日期和当前条款匹配的受支持路线。

考虑缓存边界

OpenAI 规定,折扣窗口之外的标准请求无法重用由两小时或八小时后台请求创建的提示缓存条目。相同的提示不会覆盖该边界。按处理路线分离缓存预测并检查实际使用情况。

这对于将白天聊天与夜间分析混合在一起的应用程序很重要。计划作业可能会收到较低的Token率,同时不会为后续的交互式工作负载提供缓存优势。

数据处理和操作限制

即使禁用存储或使用零数据保留,后台模式也会临时存储响应数据,如 OpenAI 数据控件中所述。该指南指出,临时存储的请求内容是静态加密的。查看您的要求的适用保留详细信息。

折扣窗口与批处理作业共享批处理/后台速率限制,并在提交时计算输入Token。因此,队列限制和应用任务截止时间需要与支出一起进行监控。默认最快请求使用常规请求和Token限制。

常见问题解答

设置后台模式总是省钱吗?

不会。最快的后台处理没有完成窗口折扣。节省费用需要受支持的模型、合格的标准处理以及打折的两小时或八小时窗口。

我可以流式传输折扣后台请求吗?

文档要求两小时和八小时完成窗口省略 stream 设置,或将其设为 false。需要流式输出时,应使用文档说明的 soonest 行为,并按对应价格计费。

统一的平台可以提供相同的功能吗?

仅当它支持所需的选项和生命周期端点时。通过实际集成验证定价、检索、取消、Webhook 支持和缓存行为。

下一步

将一个延迟容忍工作负载转移到测量试点中,并比较每个可接受结果的总成本。如果您使用 OLEToken 作为统一的 AI API 平台,请在依赖这些直接提供商折扣之前确认后台窗口支持和计费条款。

来源