当AI不再「夸夸其谈」：决策模型爆红，物理世界需要端侧「快判断」
36氪 · 科技资讯
36氪 2026-11-04 21:00 北京 决策模型兴起，端侧多模态赋能物理 AI。 决策模型兴起，端侧多模态赋能物理AI。 9月中旬，一家名叫TypeSafeAI的初创公司发布了一个叫Jev的模型。它不写文章，不聊天，甚至不输出一段完整的句子。它做的事只有一件：把输入归入预设的选项，返回一个是/否、一个评分、一个概率。就是这样一款“不会说话”的模型，上线数周用户破百万，财富500强中约三分之一的企业开始使用，24天内估值从约2亿美元飙到75亿美元。 它带出了一个迅速被行业共识的新品类名字：决策模型。OpenAI两周内跟进Decisions API，AWS、微软、Cloudflare相继入场，不到一个月涌现出十余款同类产品。 决策模型的快速兴起，反映出人工智能产业正在发生一项重要变化：模型的价值评价，正在从内容生成质量进一步延伸至决策的准确性、响应速度与执行成本。 OmAI联汇 CEO兼首席科学家赵天成指出，很多场景不需要夸夸其谈地生成内容，而需要一连串连续、快速、可度量的决策。“大语言模型其实也能做很多决策， 但决策模型是快速模型，把全部能力和精力聚焦在可度量、 可验证 的决策上。 决策模型切入的，正是另一类场景：这里需要的不是一段生成出来的内容，而是一个直接可用的判断——快、低成本、端侧可读。 ” “决策的质量和成本”，这正是决策模型的产业逻辑起点。 决策模型 AI进入深水区后的“快思考”补位 事实上，近一年企业AI的叙事明显变了：前两年大家比的是“模型会不会写、会不会答”，现在云厂商、SaaS厂商和办公平台纷纷把AI Agent、智能体、智能决策嵌入 CRM、ERP、供应链和办公流程。产业信号很一致：AI正从内容生成工具，变成能进入业务流程、直接产出经营结果的“决策基础设施”。 Jev的路径输出不是文本，而是类型化的值：是或否、选项编号、校准后的概率分数，应用程序拿到就能直接用，不需要中间解析。代价是它“不会说话”，收益是端到端延迟压缩到70到500毫秒，比同类大语言模型快20到200倍；在微软的演示中，同一个分类路由请求，决策模型182毫秒返回，大模型用了6.4秒。这不是“稍微快一点”，而是把决策从“以秒计”拉回到“以毫秒计”， 降低了高频连续决策链条的时延门槛，使其更容易进入实际业务流程。 决策模型的价值，在于推动AI模型形成更加清晰 的 能力 分工。通用大模型继续负责复杂推理、内容生成和需要开放答案的任务；决策模型负责Agent工作流中那些答案空间有限、调用量大、必须快且稳的判断节点。决策模型不会取代大模型，但它把“决策”从“生成”的范畴里切割出来， 让这类模型的决策质量、响应速度和调用成本，可以围绕具体任务得到更独立、明确的评估与优化。 “在实际的智能应用中，不同决策的难度不一样，不能一视同仁。就像解决哥德巴赫猜想，和日常做客服分类问题，理论上消耗的脑力完全不一样。”赵天成说道，“但现在大语言模型推理时，成本开销是一样的。” 这也解释了为什么企业端的采用速度如此之快。过去两年，大量企业场景被套上生成式的壳，本质上 做的却是决策的事：工单路由、风险分级、流程审批、库存判断、Agent动作选择。生成式只是一个手段，决策才是目的。当手段的成本和延迟远远超过目的本身所需要的东西时，市场迟早会要求把手段和目的重新对齐。决策模型做的正是这件事： 让模型聚焦在它该聚焦的事上，快速决策和快速响应， 而不是用最昂贵的方式生产最不需要的内容。 “决策模型出现，公司整个团队第一反应是很振奋。”赵天成表示，过去五年 OmAI联汇 做的很多事，本质上就是决策模型所做的事情，只是在TypeSafe AI提出决策模型概念之前，没有一个大的名字把它们归纳成决策模型。 当一个行业开始用“快”和“可度量”来定义一个模型品类，而不是用“写得像不像人”来衡量一切时，说明它终于进入了深水区。 深水区里，用户要的不是夸夸其谈，是一连串连续的、及时的、负担得起的判断。 决策模型切中的，正是这个沉默而庞大的需求。 不过，当这些判断进入机器人、无人机等物理设备，仅有快速和低成本还不够。 物理世界的决策 需要端侧原生的流式多模态 两类场景的共同需求，都是在明确任务和约束下快速作出可执行的判断；区别在于，数字工作流主要依据已有信息完成判断与操作，而物理世界需要模型持续感知动态环境，结合任务目标，空间状态及执行反馈实时调整决策。由此，决策从一次性的结果输出，演变为贯穿感知，理解与行动全过程的连续智能活动，对响应速度、判断准确性及执行可靠性提出了更高要求。判断窗口可能从秒级压缩至百毫秒级，错误代价也从简单的结果偏差上升为真实的物理世界风险。 具体而言， 物理世界的第一道门槛：输入变了。 在软件工作流里，决策模型的输入是一段用户评论、一张表单、一条工单——本质仍是文本