OpenAI Decisions API 在 10 月 22 日结束公测、正式可用。它基于 GPT-6 Luna,不生成段落,只回答定型问题:给定一段文本、一张图片或原生 JSON,返回某个条件成立的概率、从固定选项里挑出的一个答案,或者按量表算出的分数。官方称速度最高可达通过 Responses API 调用同一模型的 10 倍。你的应用或智能体里如果有一大堆"答案范围有限"的小判断,现在是认真评估它的时候了。
它到底替你省了什么
省的是两样东西:延迟和钱。工作流里的小决策单个看都很简单——这条评论是不是垃圾信息、这张图片里产品有没有破损、这个工单该派给哪个组——但量一上来,延迟和成本就都堆在它们身上。Decisions API 把这类请求做成专用通道:定价为每百万输入 token 0.10 美元,缓存输入 0.01 美元,只按输入收费,没有输出 token 费用。
判断你该不该用的标准很直接:先数一数你的工作流里有多少"答案有界"的判断。如果每天有成千上万次分类、路由、打分请求,它大概率比通用接口划算;如果只是偶尔问两句,省下的钱还不够你改代码的功夫。
3 种答案,对应 3 类小判断
用法是先定义问题和允许的答案,再把文本、图片或原生 JSON 作为上下文交给接口。返回分三种,对应三种典型场景:
predicate:给概率。 返回某个条件为真的概率(0 到 1)。适合"是不是"类问题,比如产品照片里有没有可见破损、这段用户发言是不是投诉。拿到概率后你自己定阈值,超过多少算阳性,业务说了算。
choice:做选择。 从预设选项里选一个,并附带概率和置信度。适合路由类问题,比如智能体下一步该继续、重试还是请求澄清。注意置信度这个字段:概率告诉你选了什么,置信度告诉你它有多确定,低置信度的请求可以自动转人工。
score:打分。 按量表档位打分,返回概率加权后的分数。适合评分类问题,比如给新闻报道按主题分类并打分、给回复质量打等级。OpenAI 内部已经在用它给交易描述归类、给新闻报道按主题分类并打分,算是官方自己验证过的用法。
单次请求最多可问 400 个问题,是公测时的两倍。批量场景别一个一个发,打包请求的习惯现在就可以养成。
正式版多出来的 3 件事
一是原生接入 GPT-Live。实时语音对话进行中就能当场决定追问、转接还是升级处理,数字人还能根据对话内容调整表情。做实时语音客服和数字人产品的团队,这个集成值得单独评估。
二是提示缓存可复用上下文。长时运行的智能体不必每次重发指令和工具定义,缓存输入只要 0.01 美元每百万 token,跑得越久省得越多。
三是推理数据驻留可选美国和欧盟,亚洲多个地区也扩充了容量、进一步压低延迟。对数据驻留有要求的出海业务,先确认你的目标地区在不在支持名单里。
接入前的 3 个实操建议
第一,先在 Decisions Playground 里用真实样本测准,再接进生产。分类阈值、选项设计这些都需要在真实数据上调,别拿着想当然的配置直接上线。
第二,牢记它的边界:只处理答案有界的问题。开放式生成和长链推理仍然要用完整的模型接口,别指望一个接口包办所有事。架构上把它当成"判断层",而不是"大脑"。
第三,从小切口开始。适合先拿一个高频决策试跑,比如内容审核的初筛或工单路由,跑顺了再铺开到更多环节。一次把全工作流的判断都迁过去,调试会很痛苦。