从混元研发体系重构到 MaaS 推理优化,模型能力如何走向真实业务?
InfoQ 中文 · 软件开发
原创 土豆 2026-11-06 14:00 北京 过去几年,大模型厂商发布新产品,总少不了一张密密麻麻的 Benchmark 成绩表。 作者 | 土豆 过去几年,大模型厂商发布新产品,总少不了一张密密麻麻的 Benchmark 成绩表。但当模型真正进入工作场景,评判标准就没那么简单了。 今年 3 月,一项研究分析了 43 套 Agent 评测基准,涉及超过 7.2 万项任务,并与美国劳动力市场的 1016 种职业进行对照。结果发现,现有评测高度集中于编程等计算机相关任务,管理、法律等大量真实工作场景却明显覆盖不足。 模型在测试中表现出色,究竟能在多大程度上反映它解决实际问题的能力? 10 月 30 日,2026 腾讯全球数字生态大会「模型与 MaaS 服务专场」上,腾讯云 MaaS 产品中心总经理邹辉谈到了大模型市场的三项变化:模型能力持续增强,百万 Token 调用成本从“元”降至“角”甚至“分”,Agent 也从对话接口逐渐发展为能够规划和执行任务的智能主体。 随着应用门槛降低,企业关心的问题也越来越具体:模型能力是否匹配业务,成本能否控制,服务是否稳定,以及复杂任务能否真正完成。 这些要求贯穿模型研发、训练推理和业务应用,也让 MaaS 的技术体系面临新的挑战。 此次专场上,腾讯云围绕混元、TI-ONE、TokenHub 以及产业伙伴的模型实践,展示了模型能力从研发、部署到实际应用的完整链路。 当排行榜无法回答所有问题 Benchmark 依然是衡量模型能力的重要工具,但真实工作往往比测试题更复杂。 一段代码通过单元测试,与完成涉及需求理解、跨文件修改、调试验证的软件工程任务,并不是一回事。尤其在 Agent 场景中,模型还需要持续调用工具、处理执行异常,并根据中间结果调整后续动作。单项能力出色,不意味着整项任务一定能够完成。 混元在模型研发过程中,除了 Terminal-Bench、DeepSWE 等公开基准,以及 Arena 等第三方评测平台,还组织了 163 名内部高频使用大模型的业务专家,围绕软件工程、游戏开发等四类典型场景,对模型开展盲测。 目前,腾讯已建立覆盖 9 大业务方向的内部评测体系。这些来自具体业务的评价,也成为模型后续迭代的重要参考。 评测方式的变化,与混元研发体系的调整同步发生。2025 年 12 月,混元启动研发体系重组;2026 年 1 月,重点升级后训练基础设施,以适应智能体长程推理任务的需求。此后,混元逐步形成每两到三个月进行一次重大版本迭代的节奏。 模型与产品联合设计(Co-Design)是其中的重要一环。 WorkBuddy、CodeBuddy 等产品连接着大量具体任务。代码开发关注跨文件修改、调试验证和工程质量;办公应用涉及跨文档分析、数据处理与成果交付。不同业务对准确性、长程执行能力、响应速度和 Token 消耗各有要求。 这些实际需求为模型研发提供了更具体的优化方向。公开榜单能够帮助团队判断模型的能力水平,真实工作流则让能力短板变得更加清晰。 模型足够聪明,还要足够好用 模型能够完成复杂任务,并不意味着它已经适合生产环境。 长程任务通常伴随着更大的上下文窗口、更频繁的工具调用,以及持续增长的推理开销。即便最终结果正确,如果响应过慢、运行成本过高,也很难支撑规模化应用。 尤其当企业需要同时使用不同厂商、不同规模的模型时,底层硬件、推理框架和部署方式的差异,还会进一步增加工程复杂度。如何在不同算力环境下稳定交付模型服务,成为 MaaS 平台需要解决的问题。 腾讯云 TI-ONE 产品总监王仿坤将生产级推理的难点归纳为 性能、成本和运营 三方面。 Prefill 和 Decode 阶段对算力的需求不同,算子效率、并行通信、缓存策略以及长尾时延都会影响推理性能;异构算力适配与资源闲置影响使用成本;模型上线之后,还需要具备可观测、弹性伸缩和平滑更新能力。 基于开源权重部署模型已不算困难,真正的挑战是让它长期稳定地满足生产要求。 作为腾讯云的训推一体化平台, TI-ONE 向下兼容并调度国产及海外异构算力,向上支撑 TokenHub 等 MaaS 服务及企业专属部署 。训练工具链、推理加速、资源调度和部署工具被整合在同一体系中,以降低模型与硬件的适配门槛。 国产算力上的推理优化是此次升级的重点之一。 王仿坤介绍,在主流国产加速卡的测试环境下,Hy4 preview 经过优化后,单卡吞吐达到初始版本的 5 倍。相关团队仅用两周完成了这轮专项优化,并将成果沉淀到 TI-ONE 平台,供后续部署复用。 平台还将推理配置与调优经验封装为部署模板,减少企业针对不同模型、不同硬件反复配置推理服务的工作量。 这些工程优化不会直接提高模型在 Benchmark 上的得分,却能够让相同的模型能力以更低的成本