简介
10月22日,OpenAI宣布 Decisions API 从公测转为全面可用(GA),所有API客户都能调用。它做的事情听起来很小:只回答"分类、路由、打分、是不是"这类有界答案,不写长文本。但正因为小,它把延迟从过去的1–3秒压到了100–180毫秒,官方口径是比用Responses API跑同一个GPT-6 Luna快最多10倍。
这个接口是9月29日开发者日上首次亮相的,一个月后就转正,节奏相当快。
核心功能:三种答案类型,覆盖绝大部分小决策
用法很简单:开发者定义一个问题、限定允许的答案,再把上下文(文本、图片、原生JSON)传进去,接口只返回下面三类结果之一。
- predicate(谓词):返回0到1之间的概率,判断某个条件是否成立。比如"这张商品图是否有明显破损"。
- choice(选择):从你给定的选项中挑一个,同时返回各选项概率与置信度。典型用途是让Agent决定"继续 / 重试 / 反问用户"。
- score(评分):按有序等级打分,返回等级索引的概率加权平均值。适合"损伤严重程度"这种程度判定。
相比公测版,正式版补了五个实用能力:单次请求可提问从200条提升到400条;原生JSON输入(input_json);可以在单条问题里附带图片,把多个候选与同一张参考图对比;提示词缓存;以及与实时语音系统GPT-Live的原生集成。推理节点还按地域就近部署,官方称亚洲部分区域也加了容量。
详细分析:真实客户数据比榜单更有说服力
第三方榜单上OpenAI并没有第一。在AIM System One Index排第8,在Artificial Analysis Decision Index排第14,前面有TypeSafe的Jev、Liquid的D1 Ultra。但客户案例的数字值得看:
- Datadog 用它给Agent生成的shell命令做风险打分,再决定是否执行,p95延迟比现成前沿模型快40倍,准确率相当。
- Box 用它处理保险凭证文档分类,在30个案例上路由选择提速约5倍,准确率与Responses API持平。
- Sierra 在实时客服编排中用它在280毫秒p95内选出下一步动作,比原方案快约3倍、单次成本降90%。
- Ramp 用它把AI成本归属到具体业务,比GPT-6 Luna快4倍、便宜30%。
- Speak 的语言学习产品把"下一步动作"等待时间从1.4秒压到0.13秒。
这些场景的共同点是:调用频次高、答案空间小、延迟敏感。过去为了拿一个"是/否",要付一整段生成文本的钱,现在只按输入token计费——每百万输入token 0.10美元,缓存输入0.01美元,完全不收输出token费。
价格与影响:决策层被单独拆成了基础设施
定价结构本身就是信号。传统Chat接口按输入加输出双向收费,而Decisions只收输入,意味着OpenAI把它定位成"流水线上的传感器"而不是"会说话的助手"。对多智能体系统来说,编排层每天可能要跑几百万次路由判断,单价降一个数量级,整个系统的经济模型就变了。
竞品方面,TypeSafe的Jev靠这条赛道做到了76亿美元估值,Liquid的D1 Ultra在多个榜单领先,国内蚂蚁数科也在10月22日发布了支持原生多选与按序决策的LingDT-Decision-1.0。决策模型已经是一条独立赛道,而不是大模型的附属功能。
局限与注意事项
- 目前只支持一个模型:gpt-6-luna,接口固定在 POST /v1/decisions,不能换模型。
- 榜单不是第一:纯文本任务上Jev仍更强,选型建议用自己的数据实测。
- 答案空间必须自己设计好:选项定义得含糊,模型给的概率再漂亮也没用,这仍是工程活。
- 缓存写入要计费,区域处理溢价与长上下文档位倍率依然适用。
适合人群与总结
适合两类人:一是做客服、风控、内容审核、工作流编排的工程团队,把"要不要拦截""派给谁""算不算违规"从LLM调用里剥出来;二是做语音与实时交互的开发者,100毫秒级判断是能听出差别的地方。如果你只是偶尔问一句话,用ChatGPT就够了。想对比不同厂商的决策层方案,可以先看蚂蚁LingDT-Decision-1.0,或直接进OpenAI Decisions API工具页。