从语言到世界——李飞飞:LLM之后AI为什么需要“世界模型”?
如果把过去十几年的人工智能发展浓缩成一条主线,你会发现一个特别有意思的变化:
AI最初是在“识别世界”,后来开始“生成内容”,再后来开始“理解和推理”,而现在,它正在尝试真正进入世界。
过去几年,ChatGPT、Claude、Gemini等大语言模型(LLM)让我们第一次强烈感受到机器处理知识和语言的能力。它们可以写文章、编代码、回答问题、总结文档,甚至进行复杂推理。
但问题也越来越明显——
语言并不是世界本身。

我们生活在一个三维的、动态的、遵循物理规律的世界里。一个机器人要拿起桌上的杯子,并不只是需要知道“杯子”这个词是什么意思;它还需要知道杯子在哪里、它有多大、从什么角度可以抓住、手伸过去会发生什么,以及抓住以后如何移动它。
这正是近年来“世界模型(World Model)”受到越来越多关注的原因。
而在这个方向上,斯坦福大学教授、ImageNet的主要推动者之一李飞飞(Fei-Fei Li)给出了非常系统的一套思考:AI下一阶段的重要问题,不只是让机器更懂语言,而是让机器获得“空间智能(Spatial Intelligence)”。而世界模型,是实现空间智能的重要基础。
今天的AI到底有哪些“模型”?
在聊世界模型之前,我们有必要先把今天主流的AI模型放到一张地图里。
现在大家经常把“模型”“大模型”“生成模型”“多模态模型”“推理模型”“Agent”混在一起说,它们其实处在不同的层次。
判别式模型:AI首先学会“看懂”
早期深度学习最重要的突破之一,是让机器从数据中学习识别规律。比如:这张图片里有没有猫?这段语音说的是什么?这封邮件是不是垃圾邮件?
这类模型的核心任务可以简单理解成:输入一个东西,判断它是什么。
计算机视觉中的图像分类、目标检测、语音识别等,都属于这一大类。
李飞飞推动ImageNet的意义就在这里。ImageNet并不是简单地“给AI看图片”,而是建立了大规模、标准化的视觉数据和分类体系,让神经网络能够系统学习“像素背后的对象”。
换句话说,第一阶段的AI,主要是在学习给世界贴标签。
生成模型:AI从“看懂”变成“创造”
接下来发生了一次重要变化。
AI不再满足于判断“这是什么”,而开始尝试回答:“如果让我创造一个,它会是什么样?”
于是出现了生成模型。这一阶段又分成了几个重要方向。
自回归模型:一个Token接一个Token地生成
GPT代表的Transformer语言模型,本质上是一类非常强大的自回归生成模型。它学习的是语言中的统计规律:给定前面的内容,下一个Token最可能是什么?
当模型规模、数据规模和计算量不断扩大之后,这个简单的训练目标产生了令人惊讶的能力。于是我们得到了今天的大语言模型:LLM = Large Language Model。
它们擅长的是语言、知识、代码以及越来越复杂的抽象推理。
扩散模型:从噪声中生成图像和视频
另一条重要路线是扩散模型。它在图像、视频等生成领域取得了巨大成功。简单来说,模型学习如何从随机噪声逐步恢复出符合条件的数据。
文字→图片、文字→视频、图片→图片、视频→视频,都成为可能。
这意味着AI开始具备一种新的能力:不仅能够描述世界,还能够生成世界的视觉表象。
但这里埋着一个非常重要的问题:“看起来像世界”,等于“理解世界”吗?
未必。
多模态模型:AI开始把不同形式的信息放在一起
语言模型继续发展,又出现了多模态大模型(MLLM)。它们不再只处理文字,而可以同时处理:文字 + 图片 + 音频 + 视频 + 代码。
例如,你可以给模型一张照片,让它回答:“桌子上有几个杯子?”或者给它一张复杂的工程图,让它解释其中的结构。
这比纯粹的LLM前进了一步。因为现实世界本来就是多模态的。人类不会只通过语言认识世界,我们同时使用视觉、听觉、触觉、运动反馈以及长期记忆。
因此,多模态模型实际上是在把AI从“语言世界”进一步拉回现实世界。
但它仍然存在一个根本问题:把视觉信息转换成Token,再进行语言式处理,并不意味着模型真正拥有了一个稳定的、可交互的世界表示。
推理模型:AI开始尝试“想一想再回答”
最近几年又出现了另一条非常重要的发展路线:Reasoning Models,推理模型。
它们试图让模型在最终给出答案之前进行更长、更复杂的推理。数学题、代码、逻辑问题、科学问题,都可以因此得到明显提升。
这一步解决的是:“AI能不能想得更复杂?”
但它主要解决的仍然是抽象推理。而世界中的问题往往不是纯粹的语言和符号问题。比如:“如果我把这个杯子推到桌边,它会发生什么?”
这句话当然可以用语言回答。但真正的智能不仅仅是“说出答案”,而是能够在内部构建一个关于杯子、桌子、位置、运动和结果的模型,然后预测:如果我真的这么做,世界接下来会变成什么样?
这就开始触碰世界模型的问题了。
AI懂“世界”吗?
这是理解世界模型最关键的一步。
一个LLM可以告诉你:杯子掉到地上以后可能会摔碎。但它为什么知道?很大程度上,是因为训练数据中存在大量关于“杯子”“重力”“掉落”“破碎”的语言描述。
这和一个人真正站在桌边,看着杯子,伸手把它推下去,然后观察结果,是两种不同的经验。
前者主要是:从语言中学习世界。
后者则是:通过感知、行动和反馈直接建立世界模型。
这也是李飞飞思考“空间智能”的出发点之一。她曾把空间智能描述为机器在三维空间和时间中进行感知、推理和行动的能力:理解物体和事件在空间与时间中的位置,以及世界中的交互如何改变它们。
这里有一个非常重要的关键词:Action——行动。
世界模型不是单纯让AI“看见一个世界”,而是让AI能够在这个世界里:理解 → 预测 → 行动 → 再理解。
李飞飞为什么把“空间智能”看成AI的下一站?
李飞飞的一个核心判断非常简单:世界是三维的。
这听起来甚至有点过于简单。但它其实非常重要。
我们今天的大模型,无论处理文字、图片还是视频,最终往往都会把数据转换成某种形式的Token或者序列,再交给模型处理。而现实世界并不是一个一维序列。
现实世界拥有:三维空间、时间、物体、物体之间的关系、遮挡、深度、运动、物理规律、因果关系、持续存在的状态。
一个房间不是“一张图片”。即使摄像机离开了房间,房间仍然存在。杯子不会因为暂时没有被摄像机看到,就从世界中消失。这就是所谓的persistent world state(持续存在的世界状态)所要解决的问题。
李飞飞在讨论空间智能时反复强调,真正的目标并不是简单生成漂亮的3D画面,而是让机器能够理解、生成、推理并与3D世界交互。
李飞飞所说的“世界模型”到底是什么?
在2025年的《From Words to Worlds》中,李飞飞明确提出:要实现真正的空间智能,需要一种比今天LLM更加雄心勃勃的新型生成模型——世界模型。
她对世界模型提出了三个核心能力要求:Generative、Multimodal、Interactive。 也就是:生成、多模态、交互。
这三个词非常值得逐一理解。
第一层:世界模型必须“生成世界”
这里的“生成”与我们熟悉的“AI画一张图”有很大不同。
普通图像生成模型的目标可以是:给我一张“巴黎街头”的图片。它只需要生成一张看起来合理的二维图像。
而世界模型的要求更高:给我一个巴黎街头的世界。这个世界应该具有:几何一致性、空间一致性、物理一致性、动力学一致性、时间连续性。
换句话说:不是生成一张“像世界的图片”,而是生成一个“可以成为世界的东西”。
你从一个街角看到一栋建筑,然后转身走过去,建筑仍然应该在那里。你走到建筑另一侧,看到的应该是与之前观察一致的另一面。你推倒一个物体,它应该按照合理的物理规律运动。这就是李飞飞所说的世界模型与普通视觉生成模型之间的重要区别。
第二层:世界模型必须是“多模态”的
现实世界从来不是只通过一种信号存在的。人类可以看一个房间,听到声音,阅读文字,理解别人指向某个物体的手势,然后采取行动。
因此,一个真正的世界模型也应该能够接受各种不同形式的信息。李飞飞提出的输入包括:图片、视频、深度信息、文字指令、手势、动作等。模型需要根据这些不完整的信息,推断并生成尽可能完整的世界状态。
例如:给它一张客厅照片。它不仅应该告诉你“这里有一张沙发”,还应该逐渐建立起这样的内部表示:沙发在房间中央偏左;茶几位于沙发前方;地面是平的;墙壁与地面形成边界;如果从另一个角度观察,应该还能看到沙发的另一侧。这时候,AI处理的已经不只是“图像内容”,而是一个空间结构。
第三层,也是最关键的一层:世界模型必须能够“交互”
这可能是世界模型与普通生成模型最重要的区别。
如果你告诉模型:“把桌上的杯子推下去。”一个真正的世界模型应该能够预测:下一时刻会发生什么?
杯子的位置改变。杯子开始运动。离开桌面。受到重力影响。最终落到地面。如果环境和物体状态发生变化,后面的状态也应该跟着变化。
李飞飞在2025年的文章中明确提出:如果把行动或者目标作为输入,世界模型的输出应该包含世界的下一状态,并且这个状态需要与之前的状态、目标、语义以及物理规律保持一致。这实际上意味着:世界模型开始从“生成器”变成“模拟器”。
2026年,李飞飞又进一步把世界模型拆开了
2026年6月,李飞飞发表《A Functional Taxonomy of World Models》,开始进一步回答一个问题:现在大家都叫“World Model”,但到底什么东西才算World Model?
她把世界模型的功能拆成三个核心组件:
1. Renderer:渲染器
负责产生我们看到的东西。例如一个视频模型生成一段无人机飞过城市的画面。它可能非常逼真。但是:看起来像世界,不代表它真的理解这个世界。如果你让它按照真实空间结构去穿过这座城市,模型可能就崩溃了。李飞飞把这类能力称为Renderer——它关注的是视觉呈现。
2. Simulator:模拟器
模拟器就更进一步。它不只是告诉你“看起来是什么样”,而是要提供一个:几何、物理和动态上可信的世界状态。也就是说:物体的位置应该对,空间关系应该对,运动规律应该合理,不同动作产生的结果应该具有一致性。这时候,AI内部才开始真正拥有一个可以“计算”的世界。
3. Planner:规划器
有了世界,还不够。真正的智能还需要回答:我下一步应该做什么?
假设机器人需要把桌上的杯子放进柜子。它需要在内部尝试不同方案:伸手 → 抓取 → 移动 → 打开柜门 → 放入。而在真正执行之前,它甚至可以先在“脑海里的世界”里模拟这些动作。这就是Planner。
因此,李飞飞最新的框架实际上把世界模型描绘成一个完整闭环:感知世界 → 构建世界 → 模拟未来 → 规划行动 → 改变世界 → 再次感知。
这时候再回头看LLM,就很容易理解了
LLM最擅长的是:语言世界。 它学习的是文字、代码、知识和概念之间的统计结构。
世界模型则试图学习:空间和时间世界。 李飞飞在最新文章中有一个非常清晰的区分:语言模型学习文本的统计结构,而世界模型学习空间和时间的统计结构。
这不是说LLM没用。恰恰相反,未来的AI很可能不是“LLM vs World Model”,而是:LLM + World Model + Vision + Action + Agent。
语言负责表达目标和知识。视觉负责感知。世界模型负责模拟世界。推理模型负责复杂思考。Agent负责制定和执行任务。机器人或者其他执行系统负责真正采取行动。最终形成一个新的闭环:语言 → 感知 → 世界模型 → 推理 → 行动 → 世界反馈。
“世界模型”并不是简单的“3D版ChatGPT”
这是理解这个概念时最容易犯的错误。如果把世界模型理解成“AI生成一个可以转来转去的3D场景”,那其实低估了它。
一个真正意义上的世界模型至少应该回答四个问题:这个世界现在是什么状态?为什么会是这个状态?如果我采取一个行动,会发生什么?如果我希望达到某个目标,应该采取什么行动?
因此,世界模型真正追求的不是:生成得像。 而是:世界内部的关系能够持续成立。
视频生成可能只是世界模型的早期形态
今天的视频生成模型已经非常惊艳。它们可以生成人物走路、汽车行驶、镜头运动、物体变化。但从世界模型的角度来看,问题在于:这些变化究竟是模型真正模拟出来的,还是仅仅因为训练数据告诉它“通常应该这样变化”?
两者看起来可能非常接近。但到了机器人时代,差别会变得巨大。
视频里一辆汽车“看起来”可以正常行驶。但是机器人需要知道:如果方向盘转10度,车会怎么转?如果前面突然出现障碍物,应该怎么刹车?如果地面湿滑,制动距离会发生什么变化?
这已经不是单纯的视频生成问题。它要求模型对:空间、时间、物体、动作、因果和物理规律,建立某种可计算的内部表示。
李飞飞真正关注的,其实不是“3D生成”
这也是理解她整个世界模型思想的关键。
如果只看World Labs的产品演示,很容易把它理解成“一个能够生成3D世界的AI公司”。但李飞飞真正想做的事情远不止于此。
她在多次公开演讲中把Spatial Intelligence定义为机器理解、推理、生成并与三维世界互动的能力。她甚至用一个非常日常的例子来说明:把一个三明治装进袋子,本身就是空间智能。
因为你必须知道面包在哪里,生菜在哪里,刀应该从哪里切入,如何把它们组合起来,再把三明治放进袋子。这整个过程不是语言推理,而是:看见 → 理解空间 → 预测 → 操作 → 获得反馈。
这其实揭示了一个非常深的观点:人类智能并不只有“语言智能”。 语言只是人类智能的一种表达方式。
AI的发展路线可能正在发生变化
过去十几年,我们可以粗略地把AI的发展理解成:识别 → 生成 → 理解 → 推理。
而下一阶段可能变成:感知 → 建模 → 模拟 → 规划 → 行动。
于是AI的能力边界也发生了变化:
判别模型:“这是什么?”
生成模型:“生成一个这样的东西。”
LLM:“用语言理解和表达知识。”
多模态模型:“把文字、图像、视频等信息联系起来。”
推理模型:“把问题想得更深入。”
Agent:“为了目标,自己决定做什么。”
世界模型:“这个世界是什么样?如果我这么做,会发生什么?”
需要特别说明的是,这不是一个严格的技术分类,也不是说前面的模型会被后面的模型淘汰。现实更可能是融合。
真正的“AI下一阶段”,可能不是更大的语言模型
这也是李飞飞观点最值得讨论的地方。
过去几年,AI产业最重要的问题之一是:Scaling——继续扩大模型、数据和计算量。 这条路线确实带来了巨大的能力提升。
但当AI开始走出数据中心,进入机器人、自动驾驶、AR/VR、游戏、建筑设计、工业制造、科学模拟、物理世界,问题开始变化。这些系统不能只知道“答案是什么”,它们还必须知道“世界是什么”,以及“如果我做这件事,世界会发生什么变化”。
因此,未来的基础模型可能不再只有一个“语言底座”。我们可能会看到一个更加复杂的模型生态:
Language Model:理解语言与抽象知识
Vision Model:理解视觉信息
Reasoning Model:复杂推理
World Model:理解空间、时间与世界状态
Agent:连接目标、推理与行动
Robotics / Embodied AI:进入真实世界
这几种能力最终可能汇聚成一个更完整的智能系统。
但这里还有一个巨大的技术难题
世界模型听起来很美,但它远没有成为成熟技术。原因很简单:现实世界比互联网复杂得多。
互联网里的文本可以被复制,图片可以被保存,视频可以被大量采集。但现实世界的数据同时受到空间、时间、物理、因果、遮挡、视角、行动、反馈等因素约束。而且现实世界的错误是有代价的。
语言模型回答错一道题,通常只是答案错了。机器人理解错一个空间关系,却可能导致真实的行动失败。
因此,世界模型真正面对的不是简单的“模型规模够不够大”,而是:如何让模型学习一个具有空间结构、时间连续性和物理约束的世界。
这也解释了为什么李飞飞认为,世界模型需要新的数据、新的训练目标以及可能不同于当前LLM和视频模型的架构。她在《From Words to Worlds》中尤其强调了3D/4D表示、空间记忆以及几何和物理一致性的重要性。
从“Token”到“World State”,可能是一次范式变化
如果说过去的大模型革命最核心的对象是:Token,那么世界模型革命可能要面对的是:World State——世界状态。
一个Token描述的是语言中的一个局部符号。而世界状态描述的是:这个世界此刻是什么样。
例如:房间里有一张桌子。桌子上有一个杯子。杯子距离桌边20厘米。一个机器人正在向杯子移动。它的手距离杯子还有10厘米。如果机器人继续移动,下一时刻手会接触杯子。如果抓住杯子,杯子的位置就会改变。
这是一种完全不同的数据结构和推理方式。它不是简单地预测下一个Token是什么,而是预测:下一状态是什么。
这可能正是世界模型最深层的意义。
LLM之后真正值得关注的是什么?
如果一定要给今天的AI画一张技术路线图,可以这样理解:
第一阶段:AI学习“看见” —— 计算机视觉解决识别问题。
第二阶段:AI学习“说话” —— LLM让机器获得了强大的语言和知识能力。
第三阶段:AI学习“思考” —— 推理模型开始让AI处理越来越复杂的问题。
第四阶段:AI学习“看见世界并模拟世界” —— 世界模型开始建立空间、时间、物体和动态关系。
第五阶段:AI学习“在世界中行动” —— Agent、机器人和具身智能把模型连接到真实环境。
最终形成:Perception → World Model → Reasoning → Planning → Action → Feedback,也就是:感知 → 世界建模 → 推理 → 规划 → 行动 → 反馈。
这可能才是“LLM之后”的真正含义。
结语:从“知道很多”到“生活在世界里”
过去几年,我们惊叹于大语言模型“知道很多”。它读过大量书籍,见过海量网页,能够回答各种复杂问题。
但人类智能还有另一面。我们不仅知道“杯子是什么”。我们还知道:杯子在哪里。它有多远。我能不能拿到它。从哪个方向拿最合适。如果我把它推倒会发生什么。如果我想把它放进柜子,我应该怎么做。
这些能力不一定能够被语言完整表达。它们深深地植根于我们与三维世界的长期互动之中。这也是李飞飞所谓“Spatial Intelligence”的核心。
如果说过去十年的AI革命,是让机器越来越擅长处理words——文字;那么接下来的一个重要方向,很可能就是让机器真正开始理解worlds——世界。
而世界模型真正要解决的,也许并不是:“AI能不能生成一个看起来很真实的世界?”而是一个更大的问题:AI能不能拥有一个可以理解、预测、模拟,并最终行动于其中的世界?
如果答案是肯定的,那么我们看到的就不再只是一个更强的ChatGPT。而可能是:从“会说话的AI”,走向“生活在世界里的AI”。
