AI导航

OpenAI Decisions API 正式版怎么用?先看懂这 3 种答案再接入

Ai问答
3 min read
1 次阅读

OpenAI Decisions API 在 10 月 22 日结束公测、正式可用。它基于 GPT-6 Luna,不生成段落,只回答定型问题:给定一段文本、一张图片或原生 JSON,返回某个条件成立的概率、从固定选项里挑出的一个答案,或者按量表算出的分数。官方称速度最高可达通过 Responses API 调用同一模型的 10 倍。你的应用或智能体里如果有一大堆"答案范围有限"的小判断,现在是认真评估它的时候了。

它到底替你省了什么

省的是两样东西:延迟和钱。工作流里的小决策单个看都很简单——这条评论是不是垃圾信息、这张图片里产品有没有破损、这个工单该派给哪个组——但量一上来,延迟和成本就都堆在它们身上。Decisions API 把这类请求做成专用通道:定价为每百万输入 token 0.10 美元,缓存输入 0.01 美元,只按输入收费,没有输出 token 费用。

判断你该不该用的标准很直接:先数一数你的工作流里有多少"答案有界"的判断。如果每天有成千上万次分类、路由、打分请求,它大概率比通用接口划算;如果只是偶尔问两句,省下的钱还不够你改代码的功夫。

3 种答案,对应 3 类小判断

用法是先定义问题和允许的答案,再把文本、图片或原生 JSON 作为上下文交给接口。返回分三种,对应三种典型场景:

predicate:给概率。 返回某个条件为真的概率(0 到 1)。适合"是不是"类问题,比如产品照片里有没有可见破损、这段用户发言是不是投诉。拿到概率后你自己定阈值,超过多少算阳性,业务说了算。

choice:做选择。 从预设选项里选一个,并附带概率和置信度。适合路由类问题,比如智能体下一步该继续、重试还是请求澄清。注意置信度这个字段:概率告诉你选了什么,置信度告诉你它有多确定,低置信度的请求可以自动转人工。

score:打分。 按量表档位打分,返回概率加权后的分数。适合评分类问题,比如给新闻报道按主题分类并打分、给回复质量打等级。OpenAI 内部已经在用它给交易描述归类、给新闻报道按主题分类并打分,算是官方自己验证过的用法。

单次请求最多可问 400 个问题,是公测时的两倍。批量场景别一个一个发,打包请求的习惯现在就可以养成。

正式版多出来的 3 件事

一是原生接入 GPT-Live。实时语音对话进行中就能当场决定追问、转接还是升级处理,数字人还能根据对话内容调整表情。做实时语音客服和数字人产品的团队,这个集成值得单独评估。

二是提示缓存可复用上下文。长时运行的智能体不必每次重发指令和工具定义,缓存输入只要 0.01 美元每百万 token,跑得越久省得越多。

三是推理数据驻留可选美国和欧盟,亚洲多个地区也扩充了容量、进一步压低延迟。对数据驻留有要求的出海业务,先确认你的目标地区在不在支持名单里。

接入前的 3 个实操建议

第一,先在 Decisions Playground 里用真实样本测准,再接进生产。分类阈值、选项设计这些都需要在真实数据上调,别拿着想当然的配置直接上线。

第二,牢记它的边界:只处理答案有界的问题。开放式生成和长链推理仍然要用完整的模型接口,别指望一个接口包办所有事。架构上把它当成"判断层",而不是"大脑"。

第三,从小切口开始。适合先拿一个高频决策试跑,比如内容审核的初筛或工单路由,跑顺了再铺开到更多环节。一次把全工作流的判断都迁过去,调试会很痛苦。

推荐工具

NVIDIA Chat with RTX AI聊天 Chat with RTX 是 NVIDIA 面向 RTX 电脑的本地 AI 聊天工具,可围绕本地文档和视频资料做问答,适合重视隐私、离线检索并具备硬件条件的用户更适合资料不便上传云 HuggingChat AI聊天 HuggingChat 是 Hugging Face 的开源模型聊天应用,支持 Omni 自动选模型,也可手动选社区开放模型对话。它适合体验开源模型、技术探索和问答,结果可能不稳定,重要内容需复核。 纳米AI搜索 AI搜索 纳米AI 是 360 旗下 AI 搜索和智能体入口,支持文字、语音、拍照提问、多模型协作与内容创作,适合中文用户做日常搜索、学习问答、移动查询、热点追踪、生活决策、知识整理和轻量创作。 Qwen Chat(通义千问) AI聊天 Qwen Chat 是Qwen 大模型聊天助手,支持Qwen 模型聊天、写作和编程问答,适合中文用户和开发者完成 AI 对话、资料问答和任务协作,适合上线前核对权限、成本和资料质量。 DuckDuckGo AI Chat AI聊天 DuckDuckGo AI Chat 适合重视隐私的普通用户使用,围绕隐私 AI 聊天、免账户使用和多模型问答提供对话式 AI 支持和任务协作能力,适合上线前核对权限、成本和资料质量。 Goody-2 AI聊天 Goody-2 是以极端安全和伦理对齐为特色的 AI 聊天助手,常用于观察模型拒答边界、内容安全策略、保守输出体验和 AI 风险讨论,更适合作为安全边界样本使用前应理解它偏实验性质,不适合。