TikTok SRE 技术负责人：AI Agents 说到底就是分布式系统
InfoQ 中文 · 软件开发
原创 Tina 2026-09-06 10:15 天津 “超时不是失败，是未知”，AI Agent 的分布式病如何破局？ 编译｜宇琪 策划 | Tina 你的 AI Agent 调用退款接口，网络超时了，那退款到底成功没有？ TikTok 站点可靠性工程师 Salman Munaf 用这个例子阐述了他的观点：超时从来不意味着失败，而意味着“未知”。Agent 在遇到任何失败时的第一反应往往是重试，如果没有请求标识符（request identifiers）、幂等键（idempotency keys）以及状态查询（status lookup），这种“先重试再说”的本能就可能导致同一笔退款被执行两次。 Salman 在 TikTok 从事站点可靠性工程工作。他认为，一旦模型开始调用外部服务，问题就不再只是模型问题，而变成了分布式系统问题。这也就意味着，它会遇到这个领域几十年来已经反复研究和命名的各种故障模式。 日前，他在一场演讲中系统拆解了为什么 AI Agent 已经从单纯的 LLM 调用演化成了真正的分布式系统，以及开发者必须从分布式系统工具箱里搬来哪些“武器”，才能让 Agent 在犯错时不至于造成不可逆的后果。基于该演讲视频，InfoQ 对内容进行了整理。 核心观点如下： AI Agent 从只会吐字的模型变成了会执行副作用的外部系统协调器，这个转变彻底改变了系统的边界和风险面。 上下文能够影响行动时，它就是状态。而状态会变成过期的，状态会和权威数据冲突，状态会污染 Agent 后续的行动。 我们应该把记忆当作缓存来处理，它应该可以被失效，它应该带着来源信息。 一个无害的模型，当它能执行不安全的操作时，就会变得危险。 日志不够用了，你必须记录 Agent 每一步看到了什么、据此做了什么、为什么认为这样是对的 从聊天机器人到生产系统 今天我想聊的是为什么 AI Agent 也是分布式系统。 其实一开始 LLM 模型很简单，就是文本进、文本出，不执行任何动作，它唯一能产生的影响就是一个错误的输出。不过，那时候系统是封闭的，模型错了就错在回答里，不会往外扩散。但随着 Agent 能力的崛起，现在的 Agent 可以跟外部系统交互，变成了一个分布式系统，所以，在构建 AI Agent 时融入分布式系统的思维和概念非常重要。 大家可能听说过由 AI Agent 引发的事故。Replicate 的 AI Agent 删除了生产数据库，Air Canada 的聊天机器人做出了错误的退款承诺。这些事故的背后，都是系统思维的缺失。 比如，Replicate 那个案例，如果我们有稳健的备份，如果我们有作用域权限，本来就不应该允许 AI Agent 去删除生产数据库，这件事根本不会发生。Air Canada 的案子也一样，如果它有一个权威的真相来源，确保它不会基于过时的或错误的政策做决策，那个错误的退款承诺就不会出现。 最初，当 LLM 还只是聊天机器人时，我们输入提示词，输出文本，没有副作用，Agent 没有与任何其他系统交互。然而，在 AI Agent 时代，现在这些 Agent 通过接收提示词，可以运行 Agent Loop、调用外部服务和工具，还可以执行状态变更，架构边界已经远远超出了 LLM 模型本身，可以对外部世界产生副作用。所以在构建 AI Agent 时，重要的是要认识到它正在与哪些外部系统通信，它正在与哪些状态交互，它拥有什么凭证，以及它可以执行哪些操作。 我想强调一个非常关键的对比。在分布式系统里，我们以前也有服务在协调多步工作流，但它们是确定性的，每一步做什么、出错了怎么办，都是预先定义的。但 AI Agent 不一样，它本质上是一个概率性的协调器。它能执行的动作种类、下一步会做什么，变化范围太大了，不是一个传统的决策树能覆盖的。如果这些操作没有确定性控制来约束，它们可能会产生严重后果。因此，确保我们有确定性控制措施，确保 AI Agent 不会执行任何可能有问题的操作，这一点非常重要。 Agent 循环每一步都在过边界 一个典型的 Agent 循环是什么样的？首先它做规划，然后基于规划执行一个动作，接着观察这个动作的结果，可能把结果持久化到某个数据存储里，然后决定下一步做什么。这个循环里的每一步都在跨越系统边界。 规划阶段，它要跟数据源交互去检索信息。行动阶段，它要调用外部 API、工具、数据库，执行真实的操作。观察阶段，它拿到的是部分结果，然后基于这些部分结果决定后续动作。它可以持久化错误的数据，也可以在决策时选择执行一个不正确的动作，更糟糕的是，它可能会发起“重试风暴”。 所以构建 Agent 循环时，有一个原则特别重要：每一个步骤都必须被持久化。Agent 做的每个动作、检索到的每一份上下文，都必须记录下来。为什么