不写作的AI：什么是决策模型
不写作的AI：什么是决策模型
三周之内，三款产品指向了同一个方向。
9月15日，TypeSafe AI 发布了 Jev。三天后，Convai Innovations 推出了开源模型 Laya。9月29日，OpenAI 在 DevDay 上发布了 Decisions API，并于10月6日向所有开发者开放了测试版访问权限。
三家公司，三种商业模式，三款产品做的却是同一件事：做决策，不写作。
问答题与选择题
理解两者差异最直观的方式，是想象一场考试。
大语言模型（LLM）回答的是问答题。 这是我们最熟悉的那类AI助手背后的模型。它逐字逐句地生成答案，可以写任何东西：一封邮件、一份合同摘要、一篇分析报告。这种自由度正是它强大的原因，也是它速度较慢、成本较高的原因——每一个字的生成都需要时间和费用。即便最终答案只有一个词，它走的也是"写文章"的路。
决策模型回答的是选择题。 它读取文本，读取选项，然后选出一个。它不写任何东西。作为交换，它提供了LLM无法可靠给出的东西：对每个选项的置信度。比如："A的概率为88%，B为10%，都不是的概率为2%。"
这三款模型处理的问题类型相同：从列表中选择一个选项、在量表上打分，或者判断某个陈述是否为真。计费方式也一致——按读取的文本量收费，而非生成的内容。
为什么百分比很重要
一个经过良好调教的LLM，大多数时候也能选出正确答案。但它无法可靠地告诉你它什么时候在犹豫。如果你问它有多大把握，它会写出一个数字——而那个数字本质上只是另一段生成的文本，不是真正的度量值。
决策模型则不同，置信度随每个答案一起输出。这从根本上改变了自动化的可能性：置信度高于某个阈值，AI自主执行；低于阈值，决策交由人工处理。而这个阈值可以根据出错代价灵活调整——风险越高的场景，标准越严格。
企业日常运营中的大量决策，本质上都是选择题：这是哪类请求？应该 转给哪个团队？紧急还是可以等待？对于这类问题，决策模型响应更快、成本更低，还会在没把握时主动示警。
三款模型，三种定位
Jev（TypeSafe AI）。 三者中最早发布。以云服务形式提供，每百万个输入token收费0.042美元，不到Decisions API价格的一半。目前仅支持文本输入。
Decisions API（OpenAI）。 OpenAI进军这一品类的产品。基于单一模型GPT-6 Luna运行，每百万个输入token收费0.10美元，是三者中唯一支持图像输入的。目前仍处于测试阶段。
Laya（Convai Innovations）。 开源模型，采用Apache 2.0许可证：可在企业自有基础设施上运行，无使用费用。其中一个版本支持超过一百种语言，包括葡萄牙语。作为权衡，它被设计为需要针对具体任务进行微调的基础模型——据开发者自述，未经微调的准确率仅略高于随机猜测。此外，它支持的输入文本长度也明显短于另外两款。对于需要将所有数据保留在内部环境中的场景，这是我们正在评估的备选方案。
这一切并不会让LLM退场
决策模型不会取代LLM。它们取代的，是LLM被用于做选择的那些场景。当答案需要被写出来时——比如回复客户、生成摘要或撰写报告——LLM依然是正确的工具。
一个比喻或许有帮助。在一个收发室里，有人负责查看每个信封，判断它该送到哪张桌子；到了桌子上，另一个人读取内容并准备回复。决策模型是看信封的那个人，LLM是坐在桌子旁工作的那个人。
创新并不总意味着打造最强的模型。很多时候，它意味着在正确的地方用正确的工具。
接下来
在与一家资产管理公司合作的项目中，我们将Jev和Decisions API与原本使用的LLM并排放置，在同一天、针对同样的决策任务 进行了测试。下一篇文章，我们将公布具体数据：速度、成本与准确率。
如果您正在评估AI适合融入企业流程的哪些环节——以及哪些环节不适合， 欢迎与我们交流。
Tags: #人工智能 #决策模型 #大语言模型 #OpenAI #DecisionsAPI #流程自动化 #企业AI #机器学习 #生成式AI #文本分类 #自然语言处理 #文本处理 #商业AI #自动化 #科技创新