QCon上海2026:百度 SRE Agent 规模化落地实践解读

百度Geek说 · 软件开发

原创 欢迎关注的 2026-11-04 18:00 北京 QCon上海2026,百度SRE Agent规模化落地实践经验官方解读。 。 点击蓝字,关注我们 作者 | 百度 SRE 导读 introduction 过去一年,做出一个 Agent 其实不难:它能听懂问题、调几个工具、把一段任务跑完,有时候效果还挺惊艳。但当我们真的把 Agent 放进生产环境,关心的问题立刻就变了——它部署在哪、谁维护、配置怎么更新、出了问题怎么查、调一次会不会污染线上、调用生产工具安不安全、这次处理的经验能不能留下来给下一个 Agent 复用…… 也就是说,难点已经不再是"能不能做出来",而是" 能不能稳定地托管起来、能不能安全地跑起来、能不能持续地变好 "。QCo n 上海2026 百度运维部出品的《百度SRE Agent 规模化落地实践——大模型 Agent 的安全托管与自主进化探索》分享详细介绍了AgentOps业务落地经验。 全文 5194 字,预计阅读时间 8 分钟 GEEK TALK 01 背景与规模化挑战 一个团队只有一个 Agent 的时候,很多问题靠人就能解决:找台机器起个实例、配个消息通道、准备几份 Skill,出问题登录机器看日志——不优雅,但能跑。 可一旦 Agent 多了、团队多了、场景复杂了,这套做法会迅速失效。我们把它归成六类问题: 接入与部署 :每个团队都重复准备环境、配实例、接通道,大量时间花在"让 Agent 跑起来",而不是让它的业务能力变好。 配置与版本 :一个 Agent 不只有 Prompt,还有 Skill、工具、知识、运行时配置,这些没有统一的版本边界,调试里的改动很容易污染线上,出了问题也不知道是哪次变更。 运行与观测 :一次执行包含意图理解、规划、Skill 选择、多次工具调用,如果只看最后一句回答,根本判断不出问题出在模型、知识、工具还是流程。 安全与权限 :Agent 一旦能碰生产,就可能触发查询、变更、写操作,光靠 Prompt 告诉它"别干危险的事"远远不够,必须有平台级的权限、审批、限流、审计和回滚。 能力复用 :公共工具、业务知识、历史经验难沉淀,场景建设高度依赖少数专家。 质量与演进 :没有稳定的 Case、回放和评估体系,你根本没法判断新版本是不是真的变好了。 一句话收口——当 Agent 从"单点试用"走向"规模化生产",接入、版本、观测、安全这些缺失会集中爆发,结果就是: 企业用得起来,却管不住、不敢放大 。AgentOps 要解决的,就不是某一个 Agent 的问题,而是这一组规模化问题。 GEEK TALK 02 AgentOps 整体架构 自下而上五层: 基础设施层 ,算力、存储、网络; 能力供给层 ,模型、工具、知识库、公共 Skill; 平台层 ,也就是整个 AgentOps 的核心; 网关层 ,统一入口、鉴权、路由、限流; 接入层 ,如流、数字员工、Web、消息机器人、OpenAPI 这些入口。 这里有一个我们特别想强调的设计思想: 控制面和数据面分离 。控制面负责"定规则、管治理"——配置、版本、发布、评估、知识、安全策略;数据面只专注"执行"——正式实例跑真实业务,调试沙盒跑草稿和回放,两者隔离。为什么要分开?因为解耦之后才好独立演进、好扩展,业务团队专注场景逻辑,外围工程能力交给平台。 而平台层里,我们用 五大中心 统一把 Agent 管起来: Agent 管理、安全、变更、评估、知识 一起纳管,五层架构让 Agent 从"能跑"走向"敢用"。 AgentOps 的五大核心能力,是一条从"稳定运行"到"持续进化"的主线: Runtime 全生命周期托管 → 安全管控 → 场景仿真回放 → 知识沉淀与能力闭环 → Agent 自主进化 。 GEEK TALK 03 Runtime 全生命周期托管 我们不希望每个团队都自己维护运行实例,而是平台统一管 Agent 从 创建 → 配置 → 部署 → 运行 → 升级 → 监控 → 故障恢复 → 下线 的全过程。这里的"托管"不只是起个进程,它至少包含四块: 全周期托管 ,一站式纳管; 统一资产与状态 ,配置、能力资产、运行实例、会话状态、版本发布、运行观测集中管理,实例迁移重建后上下文也不丢; 高可用保障 ,健康检查、状态持久化、实例恢复、依赖切换,做到故障自愈; 弹性与多租 ,按负载伸缩、多团队隔离、配额成本可控。 这块带来的直接变化是:新 Agent 的交付周期,从"周级"降到"天级",而且稳定性有 SLA 兜底。说白了——Agent 的"可用"不是某个组件的状态,而是配置、能力、实例、依赖共同可用,这件事交给平台兜底。 GEEK TALK 04 安全管控 Agent 进了生产,安全是绕不开的底座。我们有一个基本

查看原文