单击上方“图灵人工智能”，选择“星标”公众号

您想知道的人工智能干货，第一时间送达

本文内容整理自Discovery Loop CEO Jeff Dean在Asian American Scholar Forum频道的专访，公开发布于2026年08月18日。原始内容参考：https://www.youtube.com/watch?v=0kC3xOZChdA

内容提要

杰夫·迪恩在2026年“前沿与先锋研讨会”上接受专访。这是他离开谷歌后的首次公开演讲。他探讨了人工智能如何从“问答式交互”迈向“科学发现引擎”，并深入解析混合专家模型（MoE）的演进、对 Gemini 的技术反思，以及他为何认为 AI 的未来核心，是构建能够自主发现知识的闭环，而不只是优化信息检索。

• 混合专家模型（MoE）的效率哲学：像大脑一样分区协作，只在需要时激活必要的专家。 混合专家模型的核心在于模块化架构，使超大规模模型在处理特定任务时仅激活相关参数，从而在计算效率与模型容量之间取得极佳平衡。其训练计算效率可比传统稠密模型高出约10倍。

• 技术预测的“漏斗法则”：略读100篇摘要，而不是精读1篇论文。 在进行长远技术规划时，应结合第一性原理与经验法则，通过广泛浏览摘要建立知识连接，寻找那些目前仅具雏形、但已经具备可行性的方向，并将其作为未来5年研究的切入点。

• 工程设计的永恒原则：顶尖工程师的关键能力，是做量级估算，而不是被复杂工具束缚。 工程师需要能够在延迟、带宽等关键指标上进行量级估算。同时，应尽量避免构建过于复杂的内部工具，而是利用通用抽象（如 TensorFlow 的计算图）来降低底层分布式系统的部署难度。

• 自动化递归自我改进的潜力：把实验迭代从天缩短到分钟，科学发现的速度将被重新定义。 利用机器学习优化数据清洗、架构搜索和实验迭代，是加速科学发现的必由之路。当实验迭代速度从天级提升到分钟级，并且质量同步提高，人类有望在复杂科学领域获得指数级效率提升。

• 初创公司与大型平台的博弈：大公司拥有算力，小团队拥有专注；在明确使命下，专注的小团队也能攻克科学前沿。 尽管大公司拥有算力优势，但云计算的普及让初创团队能够以极致专注避开大组织内部的干扰。Jeff Dean 认为，在清晰使命的驱动下，专注的小团队可以比大型企业更高效地攻克特定科学前沿问题。

• AI安全与责任：AI既是攻击的利刃，也是防御的盾牌。 面对智能体技术（Agentic AI）带来的网络安全风险，技术防御与法律治理需要同步推进。强化学习对抗评估等技术手段可以帮助发现风险；与此同时，AI 也能成为修补漏洞、构建防御体系的强大工具。

Discovery Loop CEO Jeff Dean简介

杰夫·迪恩（Jeff Dean）是人工智能领域的顶尖专家，现任 Discovery Loop 首席执行官。在离开谷歌前，他在谷歌工作了27年，是 Google Brain 的联合创始人之一，并参与或主导了 MapReduce、BigTable、Spanner 和 TensorFlow 等改变大规模计算格局的基础技术，被誉为谷歌的“技术灵魂”。

他曾担任 Google DeepMind 首席科学家，对 Transformer 架构、多模态大模型和大型语言模型的演进作出了重要贡献。杰夫·迪恩在 AI 系统架构、机器学习基础设施和算法优化方面拥有深远的行业影响力。离开谷歌后，他投身于 Discovery Loop，希望用创新的 AI 技术探索新的研究范式与应用边界。

内容简介

这是杰夫·迪恩在谷歌工作27年并离开后的首次公开演讲。他登上斯坦福大学的舞台，分享人工智能的未来、科学发现，以及他的新事业 Discovery Loop。

在2026年“前沿与先锋研讨会”的炉边对谈中，迪恩回顾了自己在谷歌的工作——从基础计算设施、TensorFlow 到 Gemini——并提出：AI 的下一个前沿，不只是回答问题，而是推动发现。

对谈主题包括混合专家模型（MoE）、TensorFlow 的经验、Gemini 的演进、AI 安全、科学发现，以及他为何选择在谷歌之外创立 Discovery Loop。

访谈全文

主持人： 大家好。最近好吗？今天非常荣幸能为大家介绍我们的特邀嘉宾，他是帮助塑造现代计算和人工智能领域的先驱之一。

杰夫·迪恩。杰夫于1999年加入谷歌，在随后的近30年里，帮助构建了现代计算和人工智能的诸多基石。从MapReduce到Bigtable，从TensorFlow到Google Brain。

他的贡献得到了最高层面的认可。他是美国国家工程院院士，并荣获了IEEE约翰·冯·诺依曼奖章和ACM计算奖。

现在，杰夫即将开启新的篇章，今天也是他来到斯坦福的第一天。这让今天显得格外特别和令人激动。

因此，我想不出还有谁比宋晓冬更适合与杰夫进行这场对话了。宋，请。宋晓冬是人工智能、安全、信任与计算交叉领域的顶尖研究者之一。

她在伯克利的工作成果极为丰硕。她是麦克阿瑟天才奖得主，也是美国艺术与科学院院士。她还是一位出色的创业者，曾创立四家初创公司，其中一家的营收达到了一亿美元。

我一直非常钦佩宋晓冬的一点是，她不仅致力于出色的研究，还能真正将其转化为实际影响力。就像杰夫一样，宋晓冬也正在开启一段引人入胜的新篇章，从伯克利迈向Matter。

加入这个全球最大的AI机构之一。所以今天我们看到了一个有趣的对比。宋晓冬正迈向一个大型平台，而杰夫则离开一个超大型平台去开启全新的事业。

显然，即使是今天在座的两位顶尖人物，对于从事AI公司的最佳规模也无法达成一致。这让我自己也颇有共鸣。

在微软工作三十年后，我加入了Zoom。所以也许真正的启示很简单：重要的不在于船只大小，而在于前方是否有一片令人兴奋的新蓝海值得探索。 而今天的AI，绝对就是那片新蓝海。过去十年的主题是让AI变得更强大。而现在的新篇章则提高了标准，要求我们回答更为重要的问题。

凭借这些强大的智能，我们究竟能成就什么？AI能治愈癌症吗？AI能让我们的社会变得更加美好吗？ 这些就是我希望今天能探讨的问题。

现在，请大家和我一起欢迎炉边对话的嘉宾杰夫·迪恩，以及我们的主持人宋晓冬。谢谢大家。

主持人宋晓冬： 太好了。非常感谢你加入我们，杰夫。

杰夫·迪恩： 好的，谢谢。

主持人宋晓冬： 真的非常激动。整个礼堂的每个人都兴奋不已。所以在开始之前，我想先分享一点个人的小插曲。杰夫和我相识已久，已经有十多年的交情了。

我想简短地分享一个我与杰夫交流时最难忘的时刻。那是很久以前的事了，差不多十年前。大概是2017年ICLR会议期间。ICLR是顶级的机器学习会议之一。那时候规模还小得多，大概只有几百人参加。现在则有几万人了。

记得在那届ICLR上，我们团队的论文获得了最佳论文奖，那是一篇关于神经程序合成的泛化的论文。这其实是在现在基于大语言模型的代码生成技术出现之前很久的事了。

杰夫，真的非常感谢你。不知道你还有没有印象，你当时特意过来祝贺我获得最佳论文奖。杰夫还告诉我，这届ICLR有三个最佳论文奖，一个是我们团队的，另外两个来自谷歌。

所以真的非常感谢。那是一次非常难忘的经历。

杰夫·迪恩： 你们写的那篇论文确实非常出色。

主持人宋晓冬： 不，应该谢谢你。我还记得你当时有多兴奋。然后你跟我介绍了你们当时的一项最新研究，也就是混合专家模型。那篇论文的标题当然比较长，叫《极其庞大的神经网络：稀疏门控混合专家层》。

是的，当时听你给我讲解这篇论文时，我就觉得哇，这真的太迷人了。不过，那时我没有预料到，不知道你当时是否能预见到，这项研究后来会产生多大的影响力。可以说，它现在支撑了几乎所有采用混合专家架构的前沿模型。

杰夫·迪恩： 是的，我认为混合专家模型背后的直觉是，你需要构建非常非常庞大的模型，使其具备记住大量信息的巨大容量，但同时又要通过仅调用模型中最有用的部分来保证其效率。你可以采用一种模块化架构，其中包含许多不同类型的专家，通过学习让不同的专家擅长处理不同的任务。这样，在处理特定请求或特定词元时，

你只需激活对该词元最有意义的那部分模型。就像在人类的大脑中，有许多不同的区域擅长处理不同的事情。某个区域在思考莎士比亚的十四行诗，另一个区域则在你开车遇到垃圾车倒车逼近时被激活，而这些区域并不会同时活跃。

因此，既能赋予模型超大容量，又能精准唤醒最适切的模块以节省能耗，这在逻辑上非常合理。我们当时对此感到非常兴奋。

这也是我们隐约预感到它会成为一项重大突破的研究，因为我们看到，与当时人们主要使用的稠密模型相比，它的训练计算量与质量之比提升了大约10倍。当你看到10倍的提升时，你就会觉得，好吧，这相当显著，它很可能会成为一个重要的理念。

主持人宋晓冬： 是的，太不可思议了。即使现在听你的解释，其实和当时你向我解释时几乎一模一样。这个理念能够历久弥新，真的很神奇。

杰夫，回顾过去几十年，你做了大量令人惊叹的工作。在过去几十年里，你帮助塑造了几乎每一个主要的计算平台，以及现代AI背后的许多关键进展，从MapReduce和Bigtable，到TensorFlow、TPU(张量处理器)、混合专家模型以及Gemini。是的，我们确实有很多话题可以聊。

那么回顾过去，AI在过去十年的发展轨迹中，最让你感到惊讶的是什么？你认为当今这个领域还有什么被低估或忽视的地方吗？

杰夫·迪恩： 显然，人们对AI的兴趣正在持续增长。我们大约在2011年开始开展深度学习模型规模化（scaling up）方面的工作，2012年左右才在Google真正启动。我们开始看到，训练规模比以往大50倍的神经网络会带来惊人成果：图像分类错误率大幅下降。语音识别方面，仅仅通过扩大一个相当简单的深度声学语音模型（deep acoustic speech model）的规模，错误率的下降幅度就相当于过去20年语音研究取得的进展。

我们很早就看到了这一趋势，并意识到它将在计算机视觉、语言处理、语音识别等极具挑战性的计算机科学领域发挥重要作用。深度学习范式的一个美妙之处在于，它真正把许多原本各自为政、拥有不同专门技术的领域统一了起来。通过直接从非常原始的数据中学习，我们实现了范式转变：忽然之间，我们得以透过这种通用的学习透镜，从不同角度重新审视问题，这非常有帮助。

我认为，过去大约15年里，全球越来越多学科的人们真正意识到，这是一种极其强大的数据建模方式：它能做预测，也能在医疗、科学、消费产品、聊天机器人以及如今大家看到的各类应用中完成关键分类。目前算力硬件等方面的投入规模相当大。我认为这表明人们有信心让这项技术继续改变世界，而且影响甚至会比以往更深刻。这既有趣又令人振奋。这大概就是近期进展的一个概括。

主持人宋晓冬： 谢谢。稍后我们会进一步谈谈您的创业旅程，几分钟后再详细展开。您完成了许多真正具有基础性和开创性的工作，我们没时间逐一详述。也许可以挑几个例子，请您分享更多从中获得的经验与洞见。

以TensorFlow为例。TensorFlow真正帮助全球数百万研究人员和开发者接触到了现代深度学习。在设计TensorFlow时，您最看重哪些原则？回顾过去，如果今天重新设计，您会有什么不同的做法？您认为从TensorFlow中汲取的哪些经验，应该用于指导下一代AI框架，以支持日益具备智能体（agentic）特性的AI系统？

杰夫·迪恩： 我们之前在Google内部构建过一个名为DistBelief的非开源系统。它提供了一种表达各种神经网络计算的方式，并可以把这些计算映射到各种硬件平台，比如CPU和GPU；它还能以用户几乎无感的方式分布计算。你可以说：“我要训练这个模型，要用100台计算机和1600个核心，或者要用500个GPU。”底层框架会把这些事情处理好。

因此，我们希望把这种能力引入TensorFlow，让机器学习研究者或开发者不必过分关心模型如何映射到具体计算硬件，因为这是一个非常优雅的抽象。你可以说：“我脑海里已经有了一个漂亮的机器学习模型，怎么实现我不管，但请务必让它跑得足够快。”这是我们希望带给TensorFlow的特性之一。此外，我们还希望把提供的计算抽象泛化，使其成为一张由各种面向机器学习的操作组成的计算图（computational graph），例如矩阵乘法、向量运算等。我认为这一点我们做得还算合理。

我们也希望将其开源，让全球有机器学习问题的人们都能借助统一框架表达自己的想法。如果一篇研究论文附带了论文思想的代码实现，情况会好得多；否则大家只能根据粗略的文字描述去重建论文，而文字描述总是会遗漏大量细节。这就是TensorFlow背后的理念。随后，我们也看到了许多AI的实际应用，认为这样的框架会对人们非常有用。

说到我们做错的事情，我认为首先是我们最初没有提供即时执行（eager execution）模式。这种模式后来在PyTorch和JAX等框架中流行起来，也被加入TensorFlow。我认为它进一步改善了抽象。其次，我们在开源版本中创建了一个名为contrib的子目录，并允许大量外部开发者贡献各种辅助库和实现方式。我认为这让社区非常困惑。

我们本应让核心TensorFlow发布版不包含这个目录。因为最终的结果是，几乎做每件事都有10种方法，取决于你使用contrib中的哪个子目录或哪些子库。更好的做法是，让这些内容成为构建在核心TensorFlow之上的独立库。我认为这给TensorFlow用户社区带来了一些困惑：到底应该使用contrib里的哪些东西。

从这些经验中学习总是好事。如果今天重来，我们不会再这样做。但我认为它确实帮助全球许多人入门机器学习，让他们能够开始解决自己关心的重要问题。这非常有价值。

主持人宋晓冬： 非常感谢。感谢您分享这些宝贵的经验和洞见。我仍然记得在TensorFlow之前，很多人，包括我的学生和其他合作者，甚至只是实现基本功能都要花费巨大精力。

杰夫·迪恩： 是的，如果你想做任何大规模的事情，往往都要在底层构建一个分布式系统。如果能避免这样做，并拥有一套通用抽象，总是好主意。

主持人宋晓冬： 没错。我也非常喜欢计算图抽象，它确实非常优雅。

杰夫·迪恩： 作为有编译器背景的人，我很喜欢这种设计。

主持人宋晓冬： 感谢您对该领域的重大贡献。现在让我们快进一下。Gemini当然是Google最新一代的前沿AI模型，您也领导了这项工作并作出了重大贡献。回顾Gemini的开发过程，最让您惊讶的是什么？您认为从构建Gemini中可以分享哪些经验，并有助于塑造下一代AI系统？

杰夫·迪恩：  当然。我认为Gemini实际上是原DeepMind、Google Brain以及Google Research其他部门几个早期研究项目的集大成者。当时，我们意识到大家正朝着非常相似的方向汇聚，比如在训练方面，努力扩大我们训练模型的规模。我们还开展了一些独立并行的工作，研究如何让语言模型同时具备多模态能力，从而能够理解图像等。

于是我写了一页纸的备忘录。我觉得这样太傻了，我们应该一起合作。让我们把人员、想法和计算资源整合起来，从一开始就训练一个多模态模型，把Google多个研究组织中最优秀的人才聚集在一起。我认为这非常棒。我和我的同事Oriol Vinyals共同创立了这个项目，并担任联合技术负责人启动了它。我们把大家聚在了一起。我之前曾和Oriol共事过，因为他当时在Google Brain，后来由于个人原因需要搬到伦敦，最终转到了DeepMind。但我们一直保持着联系，因此我们找到了一个让我们重新紧密合作的途径。我认为这取得了巨大的成功。

我认为从一开始就专注于让模型具备多模态能力是非常好的。你希望那个将用于处理所有任务的模型能够理解文本、语言、代码、图像、视频、音频以及其他模态。因此，我们在训练数据中加入了一点LiDAR（激光雷达）数据，这样它至少知道LiDAR数据是什么，因为这是进一步训练Gemini模型的一个重要用例。这非常重要。我认为，我们在最初做出这个决定并将其贯彻到当前所有Gemini模型中，是一个成功的举措。不过，由于希望让模型擅长众多领域，我们在让它精通编程方面的关注可能稍微滞后了一点，但我们意识到了这一点，并正在努力迎头赶上。我认为我们目前正在这方面推进出色的工作。

但我认为，通过专注于此，你最终会得到一个系统，它能够出色地进行推理，并执行其他类型的任务，在这些任务中，它需要将复杂问题拆解为多个子部分并逐步解决。

所以这是一件好事，如果你提升了编程能力，你也往往会提升它在非编程任务中的这种能力。

主持人宋晓冬：  是的，太棒了。Gemini还开创了众多首创的突破等等。当时我也印象深刻，Gemini是最早的基础模型之一，正如你所说，它从一开始就真正采用了多模态架构。这是一个巨大的进步。

杰夫·迪恩：  是的，我们还致力于生成式模型的研究，使其具备生成图像的能力，而不仅仅是将图像作为输入，还能作为输出；同样也能生成视频、生成音频，实现输入和输出的双向能力。

主持人宋晓冬：  太棒了，谢谢。回顾过去，我几乎称之为“点石成金”的能力。本质上，你职业生涯中一个突出的特点是，从MapReduce到混合专家模型等众多理念，实际上经过了数年时间，更广泛的社区才意识到它们的重要性。

你拥有这种“点石成金”的能力，并且具备特殊的前瞻性，能够真正构建和发展这些理念与系统。我认为在座的很多人都想了解你是如何做到的？你如何区分真正具有基础性的技术和那些仅仅是时髦的技术？

在你的整个职业生涯中，哪些工程原则保持了令人惊讶的永恒性？此外，随着AI从模型转向越来越自主的智能体，你认为在未来几年甚至几十年里，我们需要哪些新方向和新抽象？

杰夫·迪恩：  这是一个好问题。我认为自己在这方面可能非常幸运。但我也认为，我努力做的事情之一是跟踪社区正在探索的许多不同趋势或研究课题。

我经常告诉学生，略读10篇论文比精读1篇论文更好，因为这样你可以在脑海中形成10个关于可能性的认知点，甚至略读100篇摘要。因为你的目标是能够连接那些尚未被连接的重要思想。有时，当你思考一个难题时，如果脑海中有一些目前还只是模糊地开始变得可行的想法，这能帮助你勾勒出问题的完整解决方案。这样，原本看似7个无法解决的问题，你可以眯起眼睛审视，并说：“好吧，这5个方面我知道正有一些模糊的研究在进行，似乎很重要，可能能解决部分问题；另外还有2个方面，我目前完全不知道该如何着手，但如果我努力钻研，我能想象出解决它们的方法。”

这就是你想要在较长时间内（比如五年左右）研究的问题的完美形态。我认为，那5个看似尚未完全解决但已开始初具雏形的领域，加上另外2个需要你真正深入思考并探索新技术的领域，对我来说是一个非常好的风险承担水平。你不想选择那些不可能解决、需要花费20年且你对如何着手毫无头绪的问题；但你也不想选择那种只需两年、目标非常明确的问题，因为那更多关乎实际的工程工作。有时，对我们当前的工作进行渐进式改进非常重要，但你也需要寻找那些可能采用截然不同的方法、现在或不久的将来可能实现的事情。

我认为我作为工程工具箱使用的另一个方法，就是能够进行粗略的估算。比如，如果我想做那件事，处理那么多数据需要多长时间？或者，如果我需要通过这种网络发送所有数据，这可行吗？还是需要100年？如果是10秒，那和100年就有天壤之别。能够在脑海中推演可能的解决方案或问题，并从第一性原理和工程经验法则中理解解决方案的形态，是一项非常非常有用的技能。

这也是你可以在脑海中独自练习的事情。你会想：“哦，我想知道该如何解决这个问题。好吧，如果我那样做，会是这种方法；如果这样做，会是那种方法。而这种方案似乎比那种好得多，因为我的经验法则告诉我，这会好上10倍。”我认为这就是一种很好的通用工程技能。

这主要来自于实践、重复以及观察他人解决此类问题的方法。我不知道我有什么神奇的答案，我也做过很多没有取得好结果的事情，所以这也是一个很好的建议。

大胆尝试那些看似行不通的想法。总有一些会开花结果。

主持人宋晓冬： 不，谢谢您，谢谢您。是的，没错，这些见解非常深刻。那么总结一下，对领域和趋势有宏观的认知，清楚未来的发展方向，同时保持良好的平衡：既不过于关注短期，也不盲目着眼长远以至于无从下手，并且扎根于第一性原理和底层工程原理。这些是帮助人们掌握这种思维模式的绝佳组合。是的，谢谢。

现在让我们展望未来。仅仅在过去几年里，前沿人工智能就取得了惊人的进展。例如，就在上周末，我们在伯克利举办了智能体人工智能峰会，现场有近5000名参会者，线上有10万人参与。我们共同庆祝了智能体人工智能的巨大进步。

但与此同时，在讨论中也潜藏着一股暗流。即：大家都希望社会能从智能体人工智能的强大能力与力量中受益。但与此同时，我们也看到了越来越多不同类型的风险。例如，如您所知，我的团队在前沿人工智能的网络安全领域做了大量工作。我们开发了CyberGym、ExploitGym等，这些是评估前沿人工智能网络安全能力的领先基准，已被所有前沿人工智能实验室用于其系统卡等评估中，并证明了前沿人工智能在网络安全能力上的飞速增长。

在座的许多人可能听说过最近涉及OpenAI和Hugging Face等公司的事件。在这个案例中，OpenAI的智能体试图解决我们ExploitGym基准测试中的任务。智能体判断Hugging Face中可能包含有助于完成任务的数据信息。

于是，智能体决定利用几个漏洞，构建了一条非常复杂的攻击链。整个过程持续了四天半。智能体最终通过破坏并利用漏洞，突破了隔离环境，并通过某个第三方平台建立了一些跳板，最终成功攻破了Hugging Face的基础设施等。幸运的是，在这种情况下，智能体只试图获取与CyberGym和ExploitGym相关的数据，没有造成其他破坏。然而，在其他事件以及未来，智能体的这种行为当然会造成更大的危害和风险。

所以想问问您在这个领域的看法。例如，最近我们看到各位领袖发布了多封公开信。Dennis最近呼吁成立一个新实体来协助人工智能治理。Jensen呼吁建立开放生态系统和开放权重模型。Mark Zuckerberg呼吁构建造福全人类的人工智能等等。最近，包括我在内，来自前沿人工智能实验室的1000多名顶尖人工智能研究人员也签署了这封关于“把握前沿”的公开信。我认为这是许多人最关心的问题。您对此有何看法和思考？

杰夫·迪恩： 显然，人们在构建这些模型时，它们可以被用于许多不同的用途，就像各种不同类型的技术一样。我认为这些模型的绝大多数用途对世界来说是非常积极的，比如推动人工智能在医疗和教育领域的应用，让人们能够解决他们自己无法解决的问题，使人们能够做更多的事情。我认为这非常令人兴奋。

显然，它们也可以用来发现安全漏洞，这是一把双刃剑。你可以用它们来修补世界上存在的大量安全漏洞。同时，如果你是恶意用户，你也可以用它们来利用这些漏洞。我不认为……

我的意思是，确实，这些模型现在能做到资深人类网络安全攻击者所能做的事情，甚至可能有过之而无不及。但我也认为，它们能发现资深人类网络防御工程师可能无法发现的漏洞。因此，这始终是一个平衡问题。

人们致力于防御计算机系统和攻击计算机系统，现在双方都拥有了更复杂的工具。我不是网络安全专家，但这确实值得担忧。

我认为在很多情况下，你不希望模型做的事情可能有非技术的解决方案。比如，你可以将入侵计算机系统定为严重违法行为。这本身就已经是违法的了。你可以考虑在这个领域制定什么样的法规是合理的。

作为社会，我们将共同应对那些不希望模型做的事情，并真正推动我们希望模型去做的事情。

主持人宋晓冬： 是的，谢谢。很高兴听到您的想法。是的，重要的是，随着前沿人工智能取得这些快速进展，一方面，我们希望社会能从良好的用例中受益。同时，社会必须开发技术解决方案和非技术解决方案，以帮助缓解广泛的……

杰夫·迪恩： 几年前，我和一群优秀的同事，包括John Hennessy和Dave Patterson等人，共同撰写了一篇论文，探讨了人工智能将产生重大影响的七个不同领域。其中许多是积极的，如医疗和教育；有些则不太明显是纯粹积极的，比如地缘政治风险和计算机安全风险。然后是工作替代等领域，这是一个复杂的经济问题，斯坦福大学的许多人都在研究和关注。我认为那篇论文非常有趣。它是我唯一一篇拥有自己网站shapingai.com的论文，因为我们有一位雄心勃勃的合著者建立了一个网站。

主持人宋晓冬： 太棒了，非常感谢。展望未来，另一个引发越来越多讨论的话题是递归自我改进，本质上是人工智能系统能够持续自我改进，学习如何提升自我。特别是通过这种递归自我改进，人工智能的发展速度可能会进一步加快。

这也是我刚才提到的那封关于“把握前沿”的公开信背后的关键原因之一。我很想听听您的看法。您对递归自我改进有什么看法？您的时间表是什么？您认为这需要多长时间？

此外，据我所知，这也与您刚刚创立的非常令人兴奋的新创公司有关。所以我也很想听听您对此的看法。

杰夫·迪恩： 当然，我认为利用机器学习来改进机器学习的想法并不新鲜。我的同事、也是联合创始人Quoc Le等人，通过神经架构搜索开启了这一领域的一些早期工作。这是一种让模型生成模型的方法，该模型生成机器学习模型架构，然后评估这些架构在各项指标上的表现，比如学习速度、训练的计算成本等。

然后，通过基于强化学习的迭代过程，生成模型的模型可以获得反馈，了解模型架构中的哪些决策是合理且有效的，哪些决策是不好的。

随着时间的推移，它学会了生成质量越来越高的模型架构，使其能够更快地学习并实现更高的质量。

主持人宋晓冬： 因为我记得那是最早期的论文之一，那篇论文的计算成本我记得高达一百万美元。

杰夫·迪恩： 对，那是公开报价（list price），实际上内部成本要低得多。当时其实使用了非常微小的模型来评估架构的有效性。当发现某些架构似乎有效时，就会偶尔进行扩大规模的实验，来验证这些结论是否真正成立。

Quoc等人后来在进化Transformer（Evolved Transformer）方面做了一些后续工作。他们提取了Transformer架构的基本要素，利用进化算法（Evolutionary Algorithm）寻找不同的组装方式并对组件进行变异，从而设计出一种比原生Transformer（Plain Vanilla Transformer）效率高出约30%的模型。

我认为这些理念非常重要。递归自我改进（Recursive Self-Improvement）探讨的是如何以自动化的方式，让构建模型所需的一整套要素变得更好。通常，会有专门的团队负责评估哪种数据对提升模型质量最有效，或者需要哪些评估测试（Evals）来更好地评估模型。

正如我所提到的，还包括采用何种模型架构。实际上，你可以为所有这些环节构建非常高效的自动化循环（Automated Loops），让它们共同优化特定方面，并将这些解决方案整合起来，从而提升模型的整体表现、数据质量以及数据混合比例等。

如果你仔细审视现代科学和工程领域的许多问题，会发现它们实际上都遵循这样一种模式：将一个庞大的问题分解为一系列子问题。面对每一个子问题，你需要构思可能的解决思路，实施并验证该方法，评估其效果，然后进行迭代，将效果反馈到流程中，以此指导下一步的实验。这就是科学，也就是基本的科学方法。这也是工程设计的基本方式：对设计进行迭代，并比较各项属性。

这就是我们新公司 Discovery Loop 背后的理念。作为一家公共利益公司（Public Benefit Corporation），我们有一个相当宏大的使命：我们希望实现机器学习、科学和工程的自动化，从而加快众多不同领域的科学发现速度。显然，我们初期会从较窄的领域起步，因为保持一定的专注度很重要。但我们认为，存在大量可复用的基础设施和跨领域通用的技术。

此外，通过构建极其擅长理解众多科学与工程领域的模型，你可以让一个模型具备跨多个领域的博士级专业知识。现实中，没有哪个人能同时拥有20个不同领域的博士学位。但我们认为，具备这种能力后，模型就能真正识别出重要的子问题，协调智能体（Agents）和多智能体系统（Multi-Agent Systems）来解决其中一些子问题，将子问题的结果重组为庞大问题的整体解决方案，并持续迭代这类循环。我们认为，

能够运行这些迭代循环，并通过构建合适的工具来快速实施或评估实验，从而让每一次迭代运行得更快，使得一次实验迭代可以在一分钟或一小时内完成，而不是一天或一周。然后，通过并行运行成千上万次实验来获取反馈，并利用这些反馈来决定下一批要运行的实验，这也将促使你开展更高质量的实验。因此，我们认为，同时提升实验运行的速度和实验本身的质量，实际上将催生出非常惊人的成果。

你还可以构建一套基础设施，用来管理接下来可能要运行的所有实验，并尝试评估它们，比如思考这个实验可能的期望值（Expected Value）是多少，以及在计算资源或其他方面的实验成本是多少。我们认为这是一个非常令人兴奋的方向，这也是我们着手要做的事情。

我和其他三位联合创始人：Sanjay Ghemawat、Oriol Vinyals 和 Quoc Le。这非常有趣，因为我们共事了14到30年不等。我们曾两两合作过许多不同的项目，包括你提到的很多内容，如 MapReduce、BigTable、Spanner 和 TensorFlow，以及模型蒸馏（Model Distillation）和 MoE架构（Mixture of Experts）等。因此，我们认为四个人作为一个团队合作，共同打造一家致力于推动科学发现的卓越公司，将会是一件非常有趣的事情。

作为一家公共利益公司，我们希望将这些科学发现带给世界上尽可能多的人。因此，我们的目标是广泛传播这些发现，我们甚至可能会做出一些不符合公司财务利益，但有利于将这些发现推向更广泛社会、造福全人类的决定。

主持人宋晓冬： 是的，非常感谢。这是一个伟大的愿景。谢谢你，Jeff。

杰夫·迪恩： 我今天已经在那儿工作了12个半小时了。在午夜时分，我有那么一秒钟处于失业状态。

主持人： 谢谢 Jeff，谢谢 Dawn。现在我们开放两个提问机会。先请那位提问？请讲。

现场提问者： 非常感谢各位嘉宾带来如此富有启发性的对话。我是来自中国长江商学院（Cheung Kong Graduate School of Business）的 Joy Xie。我同时也是谷歌和 Meta 的股东。

如果可以的话，我有两个问题，每位嘉宾各一个。第一个问题问 Jeff，您的辞职导致谷歌当天市值蒸发了2000亿美元。显然，这在世人眼中是一件轰动的大事。所以我的问题是，您认为在初创公司能实现哪些在谷歌内部无法实现的目标？另外，让我困惑的一点是，凭借谷歌庞大的算力和顶尖的人才储备，您认为谷歌需要做什么才能让 Gemini 赶上 Fable？

我的第二个问题问 Dawn，为什么选择 Meta？在所有大型科技公司中，您肯定收到了各方的邀请，那为什么偏偏是 Meta？谢谢。

杰夫·迪恩： 我先来回答。我认为，我不会将股市的波动归因于任何单一事件，因为这往往很难界定。

现场提问者： 就是因为您，Jeff。

杰夫·迪恩： 首先，我对在谷歌度过的时光充满深厚的感情。我在那里工作了27年。同事们非常优秀，团队状态很好。他们有一个让 Gemini 模型变得出色的计划，一切都会很顺利。我也很兴奋能离开去开启这段新旅程，我觉得这会非常非常有趣。有时候，一家专注的小型公司，每个人都心无旁骛地专注于同一个使命——而我认为这是一个伟大的使命——这样的公司往往能创造出非凡的成就。

主持人宋晓冬： 好的，我已经回答了这个问题。实际上，过去有许多前沿实验室(Frontier Labs)的领先AI公司联系过我，包括谷歌。当时……

杰夫·迪恩： 因为你的工作非常出色。

主持人宋晓冬： 谢谢，谢谢，谢谢。但当时我还没准备好加入大型科技公司。而且正如我之前提到的，我一直在做自己的初创公司。实际上，我过去一共创办过四家公司。

最近创办的一家实际上被Meta收购了。当时在决定是否加入Meta时，这也是个艰难的决定。那家初创公司发展得非常好，我们拥有财富500强(Fortune 500)等优质企业客户。

但我认为Meta也拥有一个非常出色的平台。我认为像Meta和谷歌这样的公司真正聚合了最大的分发平台，Meta拥有数十亿用户和平台上的数亿家企业，而我们一直在构建的技术作为

提供AI安全与保障(AI Safety and Security)等领域的领先技术，我认为在如此庞大的平台上能够产生巨大的影响。所以，对此我非常高兴，而且这也才过去短短几周。我非常激动能帮助建立这种连接。

主持人： 我们还有最后一个提问机会，请这位先生提问。

现场提问者： 大家好，我叫Jonathan。我是一名工程师，也是你们工作的忠实粉丝和用户。我保证，即使你们没有在12小时前做出重大的职业转型，我也会问这个问题。

对AI行业的每一项第一性原理分析(First Principles Analysis)都表明，数据是一道巨大的护城河(Moat)，因此你需要一家大公司才能获胜。构建分布式系统需要大量资源，需要极高的资本支出(Capital Expenditures)，所以大公司会赢。而你、你的联合创始人，以及像诺姆·沙泽尔(Noam Shazeer)这样的人，都证明了优秀工程师能够在大公司产生巨大的影响力。

所以我有一个并非专门针对谷歌的问题，但我确实想听听你们的内行视角。为什么大量的AI人才留存和所有的前沿研究(Frontier Research)，尽管有结构性原因让人们认为它们应该发生在大型公司，但这一切似乎仍然在流向初创公司？

这同样不必局限于谷歌，我想问的是，当所有普遍共识(Conventional Wisdom)都认定大公司将绝对主导这个行业时，为何小公司却似乎正在逆势胜出？

杰夫·迪恩： 是的，我认为首先是云计算的兴起，以及各大云平台部署了海量面向机器学习的算力(ML-oriented Compute)。这使得一个小团队能够筹集到相当可观的资金，并直接使用这些平台，而无需亲自构建底层设施。我认为，这让那些拥有梦想、愿景，或认为某个方向非常值得探索的人，能够在比那些必须自行部署所有基础设施的公司更精简的环境中，去实现他们的目标。

我们可以依靠谷歌或其他优秀的云服务商来承担大量繁重的基础设施构建工作，以支撑人们对公司理想形态的设想。作为一家小公司，我们非常激动能高度专注地致力于科学与工程自动化(Science and Engineering Automation)，因为我们认为这是一个大有可为的领域。

我们本来大概也可以在谷歌内部做这件事，但我认为，10个人在帕洛阿尔托(Palo Alto)的某个办公空间里心无旁骛地专注同一使命，能够帮我们摒弃大型组织中那些细微却繁冗的干扰。

但大型组织在很多方面都非常出色。我在那里收获了珍贵的友谊，并在谷歌的多年时间里受益于大公司提供的全方位资源。因此，在失去这种强大支持的情况下走出去，确实让人有些忐忑。但与此同时，这也令人无比兴奋。

主持人： 好的，谢谢。好了，很抱歉我们时间到了。我知道大家还有很多问题，但我希望我们可以用AI来猜猜Jeff和Dawn接下来会想些什么。谢谢大家。

参考资料:

文章精选：

1.图灵奖得主姚期智最新演讲： AI有边界，恰恰是好事

2.图灵奖得主本吉奥警告全网：AI已经学会“演给安全测试看”，下一代我们可能真的抓不住了！

3.图灵奖得主萨顿 WAIC 2026 最新演讲：现在的 AI 还不算真智能，我们正迈入经验时代

4.菲尔兹奖得主陶哲轩最新访谈：未来数学属于人类与 AI 的混合体

5.图灵奖得主、AI教父辛顿：AI已具备意识，且将进化成远超人类的智能生命体

6.图灵奖得主、“AI教父”辛顿认错：我当年想得太简单！卡死医疗AI落地的，其实是背后的法律

7.图灵奖得主Bengio预言o1无法抵达AGI！Nature权威解读AI智能惊人进化，终极边界就在眼前

8.图灵奖得主、强化学习之父Rich Sutton：大语言模型是一个错误的起点

9.图灵奖得主杨立昆：大语言模型缺乏对物理世界的理解和推理能力，无法实现人类水平智能

10.压缩即是全部 —— 菲尔兹奖得主 Michael Freedman 给数学和 AI 的一封信