OpenAI 昨天宣布为Codex和Sora引入全新计费引擎,允许用户在达到速率限制时使用信用点数继续访问产品,避免传统计费系统因达到限制而突然中断服务的情况。新系统从底层重构,将速率限制、实时使用跟踪和信用点数余额整合进同一模型。

传统计费系统通常只能在速率限制和按量计费之间二选一。速率限制在前期有帮助,但一旦用尽就只能等待重置;而按量计费虽然灵活,但从第一条token开始收费不利于用户探索。新系统的关键理念是将访问建模为“决策瀑布”,而不是简单地依据额度允许或拒绝请求。系统会询问“允许多少,从哪一层额度开始扣?”这一切换对用户来说非常顺滑,只是决策瀑布中的其中一层。

OpenAI曾评估过第三方计费平台,但这些产品无法满足两个关键需求:一是实时正确性,当用户达到限制但仍有额度时,系统必须立即知道,以避免访问突然中断、计费错误等问题;二是对账性不足,用户需要清楚每次访问消耗了多少额度以及为什么被拒绝。新系统的核心原则之一是透明、正确的计费方式,内部包含三个数据集:用户实际操作、哪些行为需收费及额度调整记录与原因。这些数据集互相分离,可实现独立审计、事件重放和对账校验。
当用户触发限制时,系统将无缝切换至信用点数支付,确保请求连续完成。官方表示这套系统未来将扩展到更多产品中。