李飞飞最新访谈:如何预测一个未被拍下的世界
单击上方“图灵人工智能”,选择“星标”公众号
您想知道的人工智能干货,第一时间送达


只用 3 部固定在三脚架上的 iPhone,Atlas 就能重现《黑客帝国》式的“子弹时间”,让镜头绕着凝固的动作移动。
这是 World Labs 最新发布的世界模型 Atlas 展示的能力之一。据 DeepTech 此前报道,这是全球首个多模态世界模型。它能以像素级精度控制镜头,根据参考图生成最长 1 分钟、最高 1,440p 的视频,还可用 1 张至数十张图像重建真实空间,输出新视角画面和显式 3D 结果。
近日,World Labs 联合创始人李飞飞、Justin Johnson 和 Ben Mildenhall 做客 a16z Show,与主持人 Martin Casado 讨论 Atlas。谈话从设计选择展开,也回顾了团队由多模态世界模型 Marble 转向 Atlas 的过程。
对谈中,团队将 Atlas 的核心能力称为“新视角预测”。区别于一般视频模型沿时间轴预测下一帧,Atlas 能够根据已有画面与相机位姿等,判断镜头移动到另一个时空位置后会看到什么。
李飞飞认为,生成具有空间语境和现实依据的像素,是通往空间智能的一步。这种能力既能帮助创作者维持场景与物体的一致性,也可能把现实环境转成机器人训练所需的模拟空间。
谈及后续路线,团队计划增强模型对动态变化和场景编辑的支持,并探索与机器人行动规划的结合,使其从呈现三维世界逐步走向理解和参与其中。
预测一个未被拍下的视角
对谈从 Atlas 如何生成、重建和模拟世界出发。据 World Labs 团队介绍,Atlas 在预训练阶段共同处理文本、图像、视频、相机位姿和 3D 信息,并将其编码为“空间上下文”。每张图像都关联着三维相机位姿,位置和朝向得到明确标记。
除了相机参数,Atlas 还把深度图作为原生输入。RGB 图像记录某个位置看上去是什么样,深度图则描述物体与相机之间的距离,帮助模型判断前后遮挡和空间结构。换句话说,模型处理的不只是连续画面,还包括画面背后的三维关系。

图|播客对谈现场(来源:a16z 视频)
李飞飞提到,计算机视觉发展半个多世纪以来,像素生成、识别和三维重建通常分属不同研究方向。Atlas 以视点和相机位姿估计为锚点,把像素生成与像素重建放进同一个模型,使两类任务可以在一套架构中相互配合。


图|Atlas 统一生成与空间重建(来源:World Labs官网)
此外,Atlas 还试图降低三维重建对密集拍摄的依赖。Ben Mildenhall 表示,传统方法需要让每处表面至少出现在 3 至 4 个视角中,拍摄一个房间可能需要 100 至 300 张照片。Atlas 有望将数量降到约 3 张,相当于减少 50 至 100 倍。

让空间进入真实工作



图|Atlas 生成机器人模拟视角(来源:World Labs 官网)
不过,要训练机器人策略,模拟环境不能只停留在静态画面的复现。当机器人策略采取动作,环境还可能以意料之外的方式响应,训练就需要覆盖尽可能多的异常与失败情形。

参考资料:
1.https://www.youtube.com/watch?v=qn1QDDBnTA0
2.https://www.worldlabs.ai/blog/atlas#spatial-reconstruction
3.https://www.worldlabs.ai/blog/atlas#robotics-simulation
运营/排版:何晨龙
注:封面/首图由 AI 辅助生成

文章精选:
1.图灵奖得主姚期智最新演讲: AI有边界,恰恰是好事
