Jeff Dean对话李飞飞：RSI被硅谷过度炒作了吗？
DeepTech深科技 · 科技资讯
原创 张锦怡 2026-11-06 16:15 北京 AI 能否自己改进自己，甚至不断加快下一代 AI 的研发速度？ 过去几个月，递归自我改进（Recursive Self-Improvement，RSI）迅速成为硅谷的热门话题。 随着 AI 在编程、算法优化和模型研发中承担越来越多的工作，让 AI 参与自身研发的设想开始走向实践。但 RSI 究竟意味着什么，行业仍缺少统一的定义。从自动优化模型参数、寻找更好的神经网络架构，到让 AI 独立开展研究、持续改进自身能力，不同程度的自动化都被冠以 RSI 之名。概念的热度不断攀升，它的技术边界却仍然模糊。 近日，在斯坦福大学举办的“直面 AI 的未来”（Confronting Our AI Future）大会上，斯坦福大学计算机科学教授李飞飞与前 Google 首席科学家 Jeff Dean 就这一问题展开了讨论。 李飞飞直言，硅谷如今对 RSI 这一概念的使用过于宽泛，作为科学家，这让她感到困扰。 她尤其质疑，AI 通过自我改进实现无限加速的设想是否被过度炒作，其中究竟有多少真实的技术依据。 对此，Jeff Dean 表示，自动化确实能够加快模型研发，但训练、计算和实验验证始终需要时间。他认为，有些人以为自我改进循环能够无限加速，这种想法并不现实。 有意思的是，Jeff Dean 本人也是这股 AI 自我改进热潮的参与者。今年 8 月， 他结束了在 Google 长达 27 年的工作经历 ，与三位前 Google 核心研究人员共同创办 Discovery Loop，希望通过 AI 自动化实验循环，加速科学与工程研究。 在当天大会的闭幕环节，Jeff Dean 先进行了独立演讲，介绍 Discovery Loop 的研究方向与创业进展。随后，李飞飞登台与他展开了约半小时的对话。 除了 RSI，两人还讨论了 AI 如何改变科学发现、机器能否创造优雅的数学证明，以及过去十年 AI 技术发展中一些出乎预料的变化。 （来源：StandFord HAI） RSI 究竟能到什么程度？ 在对话的开头，李飞飞首先提出了关于 RSI 的一个基本问题：这一概念与过去几十年机器学习领域研究的自我改进，究竟有什么区别？ 她回顾说，从增量学习、持续学习，到元学习、终身学习，再到神经架构搜索，机器学习领域长期以来都在探索如何让系统通过经验提升能力。如今，人们开始频繁使用自我改进和 RSI 等概念，但这些术语之间的界限却十分模糊。 Jeff Dean 举了一个医学影像的例子。假设研究人员希望开发一个能够识别 MRI 图像的模型，可以让 AI 自动尝试不同的神经网络架构，再根据实验结果选择准确率更高的方案。随着实验不断进行，这个医学影像模型的性能可能逐渐提升。 这样的过程属于自我改进，但还不能算严格意义上的 RSI。因为负责提出实验方案、选择模型架构的基础系统，其自身能力并没有因此改变。 真正的递归自我改进，还需要这个系统能够反过来改进自身的研究能力，让改进后的系统继续提出更好的方案，并通过后续研究进一步提升自己。 李飞飞认为，这一区别至关重要。她随即追问，既然 RSI 涉及系统自身的持续优化，那么它是否存在物理极限？为什么它会被被炒作得几乎像是一个没有终点的系统，其中真实的进展和虚构的界限在哪里？ Jeff Dean 以过去十多年的模型研发过程作为回应。在传统的 AI 研究中，研究人员通常会先开展大量小规模实验，判断哪些技术方案有效，再将成功的方案应用到下一代模型。Google 开发 Gemini 的过程也是如此，通过一轮轮实验和调整，不断改进模型的能力。 如果将其中一部分工作交给 AI，整个过程就有机会加快。 例如，一项实验在凌晨两点结束，人类研究人员可能要等到早上八点才回来查看结果，而自动化系统可以立即分析数据，判断下一步应该尝试什么，并启动新的实验。 在大型研发项目中，它还可能综合不同团队的实验结果，减少协调和等待所消耗的时间。 但 Jeff Dean 强调，模型训练仍然需要真实的计算过程。计算机必须完成任务，系统需要保存数据、分析结果，再据此决定下一轮实验。即使所有环节都实现了自动化，这些物理过程也无法被无限压缩。因此，在他看来，AI 自动化研发能够提高模型改进速度，但所谓无限加速的设想并不可信。 这与近期一些 AI 公司的乐观预期有所不同。今年以来，越来越多的创业公司开始探索自动化 AI 研究，希望让模型自主提出想法、开展实验并验证结果。但这些探索目前仍处于早期阶段，距离实现真正的递归自我改进还有多远，尚不明确。 11 月 5 日，AI 评估机构 METR 公布了对 Anthropic 内部研发流程的评估结果。研究人员结合部分内部数据和访谈发现， 自 2025 年 10 月以来，Anthropic 模