从微软亚研到MIT何恺明:他不预测AI的终点,却一次次改变AI前进的道路
单击上方“图灵人工智能”,选择“星标”公众号
您想知道的人工智能干货,第一时间送达

转自i少数派,仅用于学术分享,如有侵权留言删除

导言:
从暗通道、ResNet、MAE到单步生成与视觉智能体,读懂一位科学家如何改变“智能可以怎样被建造”。
假如把一个20层的神经网络加深到56层,结果会怎样?常识说,它至少应该更容易记住训练数据。哪怕多出来的层毫无用处,理论上也可以让它们什么都不做,至少不该比20层更差。
2015年,何恺明与张祥雨、任少卿、孙剑共同面对的,恰恰是一个违反这种直觉的现象:更深的普通网络,连训练集上的错误都更高。问题不是模型太大、在考试时“背过头”了,而是它连课本都没学会。团队由此提出ResNet,让信息可以沿着一条直接路径向前传递,新加的层只需学习对原有表示的修正。
这是何恺明教授最为人熟知的一项工作。但只把他看成“残差网络的发明者”,仍然低估了他的研究价值。过去十多年,他与不同团队反复追问同一种问题:一个领域公认必须存在的中间环节,究竟是自然规律,还是过去技术条件下留下的脚手架?
在ResNet里,被质疑的是“每一层都必须从头学习完整映射”;在MAE里,是“视觉模型需要大量人工标签”;在JiT里,是“图像生成必须先借助潜空间分词器”;在MeanFlow里,是“高质量生成必须一步一步迭代”;在VISTA里,是“智能体必须先把所见世界压缩成文字或代码,才有能力长期行动”。这些工作不是同一人独自完成的,也并非都已被产业验证;然而它们提出的问题,确实构成了一种辨识度很高的研究路径。
这篇文章想回答的,不是何恺明教授得过多少奖,而是更重要的五个问题:他的思想从哪里来?背后有哪些可以说清、也可以被推翻的假设?为什么其中一些成果已经成为AI基础设施,而另一些仍只是可能的未来?他在全球AI思想谱系中处于什么位置?最后,一位企业家或科学家,究竟能从他的做法里学到什么,而不误用一个漂亮的类比?
一、学脉的真正线索:从“给世界一个先验”,到“让机器学出先验”
何恺明教授2007年本科毕业于清华大学,2011年在香港中文大学取得博士学位。香港中文大学工程学院明确记载,其博士阶段的指导教师是汤晓鸥教授。2011至2016年,他在微软亚洲研究院工作;2016至2024年在FAIR工作;2024年加入MIT,目前是电子工程与计算机科学系终身副教授,同时兼职担任Google DeepMind杰出科学家。这条履历如果只写成“名校—名师—名企”,没有解释力。真正值得注意的,是他早期和后来的研究看起来甚至有一点矛盾。
2009年,何恺明、孙剑、汤晓鸥合作的单张图像去雾论文提出“暗通道先验”:观察大量无雾户外图像后发现,在许多非天空区域,总能找到某些颜色通道数值很低的像素。结合大气成像模型,团队利用这一统计规律,从一张有雾照片中估计雾的影响。这是一项高度依赖人类观察、物理模型和领域知识的研究。何恺明的博士论文也明确讨论:图像恢复之所以困难,是因为从一张图像反推真实世界存在歧义;先验帮助排除不合理的解。
十多年后,MAE选择让机器自己遮住图像、重建像素,尽量减少人工标签与专用规则。乍看之下,一头是“人为设计先验”,另一头是“把先验交给数据”,为什么都出自同一条研究线?我的理解是:何恺明教授持续关心的,并不是“人类知识与机器学习谁更高贵”,而是怎样把一个原本无解或难学的问题,改写成机器可以利用结构、不断逼近答案的问题。2009年,数据、算力和模型能力尚不足以大规模学习视觉规律,一个准确、可计算的自然统计先验非常有力量;到MAE时代,算力与数据规模发生变化,用重建任务让模型自行形成表示更有前景。变化的不是他对科学问题的兴趣,而是解决问题时最有效的先验来源。
这也是理解“师承学脉”的更好方式。汤晓鸥教授是可核实的博士导师;孙剑是早期论文的重要合作者,也是微软亚洲研究院阶段的关键同行。不能把这两种关系统称为“师徒”,更不能把ResNet归功于某一个人。比较可靠的思想脉络是:香港中文大学阶段训练他从视觉歧义中寻找约束,微软亚洲研究院的团队把这种问题意识推进到可扩展的网络结构;FAIR时期,他与合作者转向大规模表征和自监督学习;MIT阶段的团队进一步触碰生成、推理和交互。
一个更耐人寻味的结论随之出现:何恺明教授并不是“从手工设计走向反对一切先验”,而是不断追问:先验应该放在哪里,哪些先验值得让机器自己学出来?
二、ResNet真正改写的,不是“网络可以更深”,而是“规模如何变得可训练”
很多人把ResNet理解成一个技巧:在网络中加一条捷径。但如果只看见这条线,就看不见它为什么重要。深网络最诱人的地方,是它可以把低级特征层层组合成高级表示。问题是,容量增加不等于能力增加。一个56层的模型,理论上至少有能力模拟20层模型;现实里却训练得更差。这说明障碍不是“答案不存在”,而是现有训练方法走不到那个答案。ResNet的表达式通常写成`H(x)=x+F(x)`:输入`x`先走一条直通路径,新增模块学习的不是完整输出,而是需要改变的部分`F(x)`。当改变没有必要时,接近零的残差至少提供了一个更容易接近的参照。
这里有两层经常被忽略的含义。
第一,创新不一定是让模型“知道得更多”,也可以是让模型已有的潜在能力更容易被训练出来。今天AI产业喜欢比较参数量、训练数据和算力,却常常忽略:如果优化方式没有跟上,额外资源不一定会兑现为能力。
第二,ResNet没有证明“自然界所有最优变化都很小”。它证明的是,在一类深度网络和任务中,把学习对象重新参数化,可以明显改善训练。所谓“学增量”是一个成功的工程设计,不是关于世界万物都按增量变化的哲学定律。
还要把历史说准确:ResNet并非凭空发明一切“跳跃连接”。在它之前,Highway Networks已经探索了让信息跨越多层的通路;ResNet的重要性在于用简单的恒等路径和残差学习形成了极易复用、足以支撑深层训练的结构。此后,残差连接成为Transformer等架构的常见设计。这里说的是架构思想被广泛吸收,并非每一个后来模型都完整照搬ResNet的视觉模块,更不能把ChatGPT的能力都归因于一篇2015年的论文。
从产业角度看,这是一种非常稀缺的贡献:它不是某个产品功能,而是能让后来的人在其上继续建造的通用基础构件。企业经营里最相似的东西,不是一个“爆款应用”,而是改变许多应用可行性的底层工艺。ResNet后来获得CVPR 2026年“时间检验奖”;何恺明教授参与的Faster R-CNN也获NeurIPS 2025年“时间检验奖”。奖项本身不证明所有产业收益,却至少说明相关共同成果经受了很长时间的同行使用和检验。
三、MAE提出第二个问题:没有人告诉机器答案,它能不能学会“看”?
工业企业最容易理解一种AI训练方法:给大量图像贴上“合格”“缺陷”“猫”“汽车”的标签,机器在答案监督下学习。但世界里的图像远多于人能标注的图像。倘若每增加一个场景,就要重新雇人标注,视觉智能的扩张会长期受制于人力。
MoCo和MAE是何恺明教授参与的两条重要探索。MoCo把对比学习组织成一个可以持续更新的“字典”:模型学习判断不同图像表示之间的关系;MAE则更直观,把图像切成小块,随机遮住约75%,只让编码器看剩余部分,再训练系统重建被遮住的像素。遮得太少,任务可能退化为邻近像素插值;遮得足够多,系统才不得不利用图像中更大范围的结构。MAE还把较重的编码工作放在可见部分,解码器设计得更轻,以改善训练效率。
这背后的假设不是“图像像人一样会说话”,而是更朴素的:原始数据内部有可预测的结构,预测缺失部分本身可以成为训练信号。在自然图像里,物体、边界、纹理和空间关系有统计规律;模型如果捕捉不到这些规律,就难以完成重建。
这个洞见对于AI产业的意义,不只是节省一笔标注费。它改变了“什么可以被当作训练材料”的范围,也推动视觉预训练从为单个任务量身定制,走向可迁移的底座。可是,这里必须踩住刹车:MAE的实验说明预训练不必依赖每张图的人工标签,并不说明真实业务完全不需要标注。迁移到某类缺陷检测、医学影像、工地巡检,仍然需要针对任务的校准、评测、误报漏报管理,以及来自现场的可靠反馈。预训练解决“先学到一些世界结构”;部署解决“在这个场景里犯错的代价由谁承担”。两张成绩单不能合并。
更深一层看,ResNet和MAE表面上各有一套算法,实际上同时在改变“学习的难度”:前者让深度可优化,后者让没有外部答案的数据也能产生可学习任务。科学突破有时不是寻找更聪明的模型,而是重新安排模型与问题相遇的方式。
四、2025年之后的“减法”,究竟删掉了什么?
进入生成式AI阶段,何恺明教授及其合作者不再满足于让模型识别一张图,而是追问:生成一张图要经过多少中间步骤?哪些步骤是必要的,哪些只是历史遗留?
2024年的一项研究先将扩散模型逐步拆解,考察不同组件对自监督表示学习的贡献,结论是,在被研究的设置里,真正关键的现代组件比人们想象得少。请注意它研究的是表示学习能力,不能据此推出“生成质量所需的大多数组件都可删掉”。这一差别,正是科学家做消融实验与媒体写“颠覆传统”之间的距离。
接下来的研究把问题推进到三个层面。
其一,生成是否非得一步步走?MeanFlow通过学习时间区间的平均速度,探索从噪声一步抵达图像,不依赖预训练或蒸馏;后续iMF进一步调整训练目标与条件控制。论文报告,在ImageNet 256×256的特定基准上,iMF用一次函数求值达到1.72的FID。这意味着在这一实验条件下,单步生成的质量与过去多步方法之间的差距显著缩小。它尚不能证明产业级文生图、视频生成马上会整体转向一步完成,更不能把一次函数求值等同于全部训练、存储和产品迭代成本的下降。
其二,生成是否必须先离开像素?JiT提出,现行去噪模型通常预测噪声或带噪变量,但自然图像存在较低维的结构,直接预测干净图像也许更有利于学习。团队让普通的大块图像Transformer直接在像素上工作,不使用分词器、不做预训练、不添加额外损失,并在论文所述ImageNet分辨率上得到有竞争力的结果。它挑战的是“潜空间分词器绝对必要”这一默认判断,而不是已经证明所有商业图像系统都应该抛弃压缩层。高分辨率、长视频、多条件编辑、吞吐和成本,仍需逐一比较。
其三,视觉问题为什么一出现,就必须先翻译成语言?何恺明教授参与的VARC研究把ARC抽象推理题改写成图像到图像任务。团队让视觉模型在ARC数据上从零训练,再通过测试时训练适应新题,报告在ARC-1上取得60.4%的准确率。这个实验最重要的意义,不在于宣布“语言路线输了”,而在于给出一个反例:至少某些看似需要文字解释的抽象题,可以在视觉表示空间里有效求解。ARC-1成绩不是通用推理能力证明,更不是对开放物理环境的证明。
同一研究脉络中的VISTA则补上了另一块拼图。它不重新训练底层多模态模型,而是让模型直接看到画面,保留可回看的原始视觉记忆,在交互时自己决定何时检索过去的画面。研究团队报告,在ARC-AGI-3的25个公开互动游戏中,配合VISTA的模型全部完成,动作效率指标达到该基准的满分。但它仍然使用语言进行推理;它所减少的是把环境一开始就强制压成文字、摘要或代码的损失。团队也明确承认,所用模型发布时间晚于公开游戏,不能排除训练中见过这些游戏;真正检验泛化的还包括未公开任务和更真实的环境。
这四项工作可以画出一种“思想形状”:不是一律反对复杂系统,而是追问复杂性应该放在何处。有时把复杂性从人工标签转移到可扩展的训练任务;有时从几十步推理转移到更困难的训练目标;有时不改底座模型,而把能力释放放在外部记忆和工具接口。这与“越简单越好”不是同一个意思。删除一个中间环节,可能会增加别处的负担;只有把质量、训练、推理和维护的总账算清,减法才是真减法。
五、他在全球AI思想谱系中的位置:不是宏大终局的预言者,而是“可扩展性条件”的设计者
如果把AI研究者粗略分成三类:有人回答“智能究竟是什么”,有人回答“规模扩张会出现什么能力”,还有人回答“什么结构与训练目标,才能让规模真正转化成能力”。何恺明教授主要属于第三类。
这不是说他不研究智能。2018年的公开教程以“深度学习就是表示学习”概括视觉研究:原始像素需要被转成适合任务的内部表示。但他的论文通常不试图给出一套完整的意识理论、AGI定义或人类认知模型,而是选一个能被实验检验的阻塞点:深网络为何训不动?没有标签能不能学?一步能不能生成?视觉推理是不是必须先语言化?
他与辛顿、杨立昆等人共享联结主义和表示学习的大背景,但不可把这种共同背景误写成直接师承。与杨立昆的视觉自监督路线,他有重合,也存在不同实验偏好:一个强调可预测的潜在表示,不等于所有问题都要重建像素;何恺明教授团队既研究像素重建,也研究生成、流模型和视觉—语言协作。两人并非一场公开的“谁真懂视觉”的擂台赛。
与理查德·萨顿的《苦涩教训》相比,他又提供了一条有趣的修正。萨顿强调,长远看能利用更多计算的通用方法往往胜过人为灌入的领域知识。ResNet、MAE、JiT的确都在寻找更可扩展的通用做法;但暗通道先验提醒我们,在计算资源和数据条件不同的时代,精确的人类知识可以是真实的突破。这不是对《苦涩教训》的反驳,而是对其适用时间尺度的提醒:一种先验的价值,取决于当时让机器自己学出它的成本。
因此,他更准确的位置,是“学习条件的设计者”:把无法利用的深度变成可优化的深度,把缺少标签的图像变成可自监督的数据,把需要漫长迭代的生成改写成可研究的一步目标,把短暂而丢失细节的视觉上下文变成可回看的记忆。若要用一句话概括他的独特贡献:他不替机器写好答案,而是改变机器得到答案所必须经过的道路。
当然,历史地位还要分时间层次。ResNet及视觉检测体系已经有长期复用和时间检验;MAE建立了有影响力的研究路径;单步生成、原生像素建模与VISTA仍在竞争中的新阶段。把三者都写成“已重塑产业格局”,既不尊重科学,也容易给企业投资决策制造幻觉。
六、从论文到产业:真正的影响,是成本曲线与能力边界可能在哪里改变
ResNet对产业的影响比较明确:它帮助深网络更可靠地训练,并以架构构件的形式进入更广泛的模型体系。Faster R-CNN、Mask R-CNN等共同成果又把“在图中找到物体、勾勒物体”做成后来研究与应用经常使用的基础框架。Mask R-CNN不是独立于前人方案的凭空创造,而是在Faster R-CNN上增加并行的实例掩码分支,以较小额外开销扩展目标识别能力。
而近两年工作的产业影响,更应写成若被验证,会怎样改变选择权。
假如单步生成在更复杂的条件生成和视频场景里仍能保持质量,产品团队可能从“等一段时间出一张成品”,走向“随时看见修改结果”;但这要求比较端到端延迟、显存、吞吐、训练成本和人的反复筛选时间。假如像素空间路线在高分辨率场景里也具成本优势,潜空间压缩层的必要性需要重估;但压缩依然可能是降低算力和延迟的重要资产。假如可回看的视觉记忆在工业巡检、远程操作或机器人上被验证,智能体的竞争点就不只在“买哪家模型”,还在谁能管理原始观察、上下文、工具和纠错。这些都是条件判断,不是今天已经发生的产业事实。
对于企业而言,更现实的战略不是押注某篇论文注定统治市场,而是把技术栈设计为可替换:模型、表示方式、记忆、评测与业务流程之间留出清晰接口。一项新研究一旦真正越过质量—成本—可靠性的门槛,组织能够替换相应部件;如果没有越过,也不至于为了一个漂亮的演示推翻既有系统。
这正好接上一个值得讨论的跨界概念:“残差式AI转型”。它不是何恺明教授为企业提出的管理理论,而是我从其研究方法获得启发后,对企业转型路径所做的分析性转译。
它至少有三个动作。第一,先把业务中的知识、权限、异常、决策依据和结果记录下来,让AI能够理解任务情境;如果业务知识仍藏在老师傅脑子里,采购任何模型都只是“模型先进、组织失明”。第二,把AI放到流程中能够创造增量的位置,让原有关键能力在过渡期继续可用,明确哪些情形转人工、谁有否决权、如何回滚。第三,用真实业务结果和可比较的对照组验证收益,既看任务质量与时间,也看端到端交付、风险、收入或成本,不拿试点完成率冒充转型成果。
但这个类比必须在关键处停住。数学里的`x+F(x)`不自带失败回退机制:如果`F(x)`出错,输出一样可能被污染。企业里要有能真正生效的旁路、阈值、审计和追责设计,才谈得上“保住原有能力”。而且,神经网络参数不会因为利益分配而拒绝更新,企业组织会。若管理层不愿共享数据、绩效鼓励局部最优、专业人员没有纠错权,再漂亮的残差式架构也无法自动训练出组织能力。
同样,JiT“直接预测干净图像”也不能机械翻译成“企业只看利润表”。利润是终局结果,但受到市场周期、定价、供应链等因素影响,滞后且多因;单个AI项目仍要用中间过程指标识别因果。更合理的做法,是把经营结果当北极星,把流程时间、错误率、退回率和客户反馈当仪表盘。只有两者同时存在,企业才知道是AI带来了收益,还是市场恰好变好了。
这里最值得企业家记住的,或许不是“残差”这个词,而是其背后的次序:先建立可表示的业务,再建立可控制的增量,最后建立可验证的结果。如果未来的证据证明新流程可以更稳定地端到端运行,就可以重构旧流程;“残差式”应当成为深度转型的过渡架构,而不是永远不敢触碰原流程的借口。
七、其他科学家可以学什么:不是学他的算法,而是学他提出问题的方式
何恺明教授最难被复制的,当然是个人能力、团队协作与研究资源。但他的作品里有几种研究动作,值得不同领域的科学家认真借鉴。
第一,先找到一个“理论上不应该这样”的反常。56层网络为何比20层更难拟合训练集?这不是简单的性能落后,而是对现有解释的一次压力测试。好的科学问题,常常从“按常识本该如此,却没有发生”开始。企业也一样:增加了人手和软件,为什么交付更慢?如果只把它当执行不力,就错过了结构性问题。
第二,把前提拆成能够单独拔掉的零件。MAE测试遮蔽比例和编码—解码结构;扩散模型拆解工作考察哪些组件真正贡献表示;JiT直接换掉预测对象。无论最后是不是成功,实验的设计都让后人知道:改动究竟发生在什么地方。与其推出一套集成了十种技巧的新系统,不如先证明其中哪一个条件不可或缺。
第三,设计能供别人反复使用的构件。ResNet的价值不只在2015年赢过某项竞赛,而在后续研究者可以把这一结构带入新的网络。Mask R-CNN、MAE也具有可复用的框架属性。科学成果的另一种评价,因而不是“第一次赢了谁”,而是“有没有降低下一代研究者进入问题的门槛”。
第四,事前写下判断,避免事后把结果讲成必然。何恺明教授在2024年关于机器学习研究的演讲里谈到“未来才是真正的测试集”,并用研究中的探索、惊喜和算力变化提醒同行:今天的最佳成绩容易使研究者过拟合当下。把这句话落到实验室,可以是一个朴素制度:实验前记录预期、最强反例以及判错标准,实验后保留失败原因。如此一来,科学家不是每篇论文都有“正确故事”,而是拥有不断修正解释的能力。
第五,尊重研究生产的社会条件。ResNet是四位作者的共同成果;MoCo、MAE、MeanFlow、VARC、VISTA跨越不同团队、不同一作与不同组织。把一切写成“一个天才连续十几年独自删减AI”,是好传播、坏研究。真正可学的是一个团队如何允许年轻研究者提出反常、如何给出公平的实验资源、如何让复现与消融比口号更有地位。
还有一条更难的:敢于让自己的早期成功成为后来研究的对照组,而不是信仰。暗通道先验没有因为深度学习兴起就变成“错误”;自监督也没有让所有领域知识失效。科学家的成熟,不是终身坚持同一种技术,而是始终清楚:今天这个方法有效,是因为哪些约束还在;约束一旦变化,自己是否愿意重做选择。
结语:真正的“减法”,是为未来留下空间
何恺明教授的研究很容易被浓缩为“极简主义”。但只讲极简,会漏掉它最有力量的一面。ResNet通过增加一条连接,减少了深度训练的障碍;MAE通过增加一个困难的重建任务,减少了对人工标签的依赖;VISTA通过增加可回看的记忆,减少了把复杂世界提前压成几行文字的损失。
所以他的研究不是迷信少,而是寻找应该保留什么、应该删除什么、应该把困难移到哪里。在这个意义上,他提供给AI领域的,不是一套关于智能终局的口号,而是一种有科学约束的进步方式:发现不合理的默认前提,提出一个更简洁的替代,做出足够尖锐的实验,再接受未来规模与真实世界的检验。
对科学家,这是一种研究伦理;对企业家,也是一种转型纪律:不要因为今天的流程、架构和考核方式用了十年,就把它们误认为经营的自然规律。真正值得追问的,永远是那个看似“不能不要”、其实可能只是还没人认真检验过的中间环节。
事实与归属说明:上述论文均为团队共同成果;“学习条件的设计者”“残差式AI转型”等是本文的分析概念,不是何恺明教授自命名的理论。所提供材料中“Pixio/Pixo使用20亿图像”的研究为其他作者论文,核查其作者名单后未将其归入何恺明教授的成果。学术基准结果、商业部署和产业规模效应是不同证据层级。本文不代表何恺明教授、MIT、Google DeepMind或任何其他机构的立场与背书。

文章精选:
1.刚刚,图灵奖得主Hinton发了首篇RSI论文
