10月27日,Google DeepMind发布了第四代世界模型Genie 4,官方放出的演示视频展示了很多新功能。用户不仅可以利用键盘和自然语言实时修改画面,比如让天上突然下雨、改变视角或者凭空加入一个新人物,而且画面中首次加入了同步生成的声音和对话。单次连续交互时间也比去年八月的第三代增加了一倍,从一分钟延长到两分钟。此外,官方还展示了一段人形机器人下跳棋的视频。
但如果我们仔细看它的技术介绍,会发现一个很有意思的地方。它之所以能实现这么多复杂的功能,并不是因为这个视频模型本身学会了物理规律和逻辑推理。恰恰相反,DeepMind 在这个视频模型外面套了三个不同的 Gemini 大模型,一个用来在训练阶段给它补充常识,一个用来在运行阶段盯着屏幕把任务拆成小步,还有一个专门负责替那个下跳棋的机器人算棋步。
这件事仔细想一下其实挺有意思的。毕竟如果只是为了准确模拟物理世界、做碰撞检测,传统的三维建模和物理引擎早就做得非常精确了,根本不需要大费周章去训练大模型。大家之所以对世界模型抱有这么高的热情、愿意投下几十亿美元,核心看中的其实是它背后那种涌现的智能:不需要人工去建三维模型、也不需要手写物理方程,只要让一个模型看完网上的海量视频,它就能像语言模型通过预测下一个词涌现出逻辑推理那样,通过预测下一帧画面自己悟出物理定律和因果关系。那为什么到了第四代,连 DeepMind 这样的顶尖实验室也放弃了单模型涌现的优雅方案,转而采用一套多模型拼装起来的流水线呢?这种架构上的妥协,其实也正好解释了为什么整个世界模型领域最近半年声势很大,但真正落地应用时却频频受阻。
要理解 Genie 4 为什么会选这条路,可以先看看世界模型最初想跨越的到底是什么障碍。传统的物理引擎虽然算碰撞、算受力非常准,但每一件物体、每一条规则都得靠人手工建模和写代码,面对复杂多变的真实世界成本太高。所以从前两年的初代模型到去年的 Genie 3,学术界最向往的一直是把语言模型大力出奇迹的端到端涌现复制到物理世界:只要用足够多的视频去训练一个生成模型,让它不断根据上一帧画面和玩家按下的按键去预测下一帧画面,模型自己就会在内部涌现出对三维空间、物体碰撞和因果规律的理解。那时除了开头第一帧画面需要借用图像模型生成一张预览图,后面的交互过程基本都由视频模型独立完成。
但这条路走着走着就遇到了瓶颈。纯视频模型学到的其实是几秒以内的视觉惯性,一旦交互时间拉长,或者遇到需要多步才能完成的任务,画面就很容易逐渐走形。Genie 4 论文的共同第一作者 Hang Qi 在接受彭博社采访时很坦白地说,即使现在把单次交互的时长拉到了两分钟,系统仍然无法保证整个两分钟从头到尾都能保持画面和物体的前后一致。
既然单靠一个视频模型独立承担所有任务走不通,工程团队就换了一个非常务实的思路。从科研的角度看,拼装好几个模型确实不够优雅;但是从工程的角度看,这又非常合理。既然一个模型无法兼顾所有能力,那就让每个模型只负责自己最擅长的部分,最后组合在一起。视频模型只负责按照指令生成画面,而常识补充、任务规划和棋步推理这些逻辑工作,全部交给外围的语言模型。
因此,我们可以观察到,外部附加的这三个模型,每一个都在弥补纯视频模型的不足。在训练阶段,团队首先使用
Gemini Omni
来补充真实世界外观和人类动作方面的常识;在运行阶段,面对复杂的指令,后台会调用
Gemini 3.8 Flash
作为引导模型,一方面观察实时画面确认上一步是否完成,另一方面将用户的要求改写为详细的文字提示词来指导视频模型生成画面,并在两次按键之间自动保持镜头连贯。至于官方演示中下跳棋的双足机器人
Apptronik Apollo,视频模型本身并不会下棋,全靠外部的
Gemini 4 Argon
计算棋步,再用一段段文字指令引导视频模型画出伸手挪动棋子的动作。
然而,但凡做过一些大型系统的人都知道,这种流水线式的级联架构有一个天生的软肋:链条太长,只要中间有一个环节没配合好,整条链路就会跟着出问题。外围负责思考的语言模型处理的是文字,内部负责生成画面的世界模型处理的是像素,两个模型之间只能靠几句文字提示词来回传话。
这就像是一个不会画画的导演,在电话里指挥一个不会下棋的画师。文字很难精准地描述三维空间中的位置和力的大小。如果文字剧本和实际画面有细微差别,机器人的动作就会变形。而引导模型为了保证画面连贯性,会在两次按键间自动接管镜头,这样又会削弱玩家的操控感。因此,DeepMind宁愿采用这种串联拼装的架构,承受它的脆弱性和高算力成本,也要用三个语言模型配合视频模型工作,恰恰说明之前单靠视频模型端到端涌现物理规律的优雅想法,在目前的技术框架下已经难以走通了。
DeepMind 在架构上的退守其实不是孤例,整个世界模型行业最近都在经历一场祛魅。为什么过去两年大家对世界模型期待那么高,真正投入实际应用时却处处碰壁?很大程度上是因为业界把三种完全不同的能力混为一谈了。
今年6月,World Labs 的创始人李飞飞写了一篇关于技术分类的文章,专门厘清了这个问题。她提到,大家平时说的世界模型其实包含三个非常不同的系统:第一个是利用全网视频训练、追求画面逼真的渲染器;第二个是用稀缺的三维资产训练、要求空间尺寸和物理碰撞分毫不差的模拟器;第三个是结合机器人的示范数据来做动作决策的规划器。她在文章中专门强调,为视觉逼真去优化,不等于为物理准确去优化。过去两年,行业最大的误会就是拿第一种渲染器的漂亮画面,去许诺后面两种模型才能办到的事。
把这点想清楚之后,就能理解为什么纯视频世界模型很难直接用来训练工厂里的机器人,也很难替代现在的游戏引擎。对机器人来说,进入工厂作业对空间尺寸和位置稳定性的要求非常高。Niantic Spatial 团队今年九月做过测试,发现纯视频模型生成的画面虽然逼真,但缺乏准确的物理尺度,分不清眼前的通道宽度是三十厘米还是三十五厘米。而且由于底层没有固定的三维地图约束,生成的空间像埃舍尔的错觉画一样,机器人在走廊里连续拐四个弯回到原地,看到的却是一个完全陌生的房间。
为了解决这个问题,很多做实际落地的团队开始尝试其他方法。例如 Niantic 直接让人拿着全景相机在工厂里走一圈,用十分钟的时间就能扫描出精确到厘米的三维网格,然后再用生成模型在上面叠加不同的光照和环境变化来训练机器人。图灵奖得主 Yann LeCun 和谢赛宁在今年三月成立的 AMI Labs,更是直接拿了超过十亿美元的种子轮融资,决定不生成任何画面像素。他们认为风吹树叶如何抖动、水面波纹如何晃动,对理解物理世界没有帮助,花这么多算力去预测这些像素纯属浪费,还不如在底层抽象的空间里预测物体未来的状态变化。
游戏开发领域也存在类似的情况。今年一月,Google 发布上一代 Project Genie 的网页版后,华尔街曾一度认为传统游戏引擎即将出局,导致 Unity 的股价一天内暴跌了 24%,Take-Two 也下跌了 14%,引起了英国卫报的专门报道。然而九个月过去了,市面上并没有一款真正使用它开发的商业游戏。General Intuition 的创始人 Pim de Witte 在一篇深度长文中分析了其中的原因。传统游戏引擎运行在确定性的代码上,玩家扣了多少血、包里还有几把武器、角色是否撞墙,几微秒就能计算得一清二楚。如果一定要让一个庞大的概率视频模型每秒钟去猜测玩家转头之后那面墙还在不在,这相当于用昂贵的显卡算力在笨拙地重新计算传统代码早已解决得又快又好的问题。
一线游戏开发者的反馈也印证了这一点。今年游戏开发者大会的行业调查访问了两千三百名从业者,超过一半的人觉得生成式 AI 对行业带来的是负面影响,真正把这类模型放进游戏实时运行环节里的只有 5%,绝大多数人平时主要拿它来做早期的头脑风暴。就连 DeepMind 自己的工程师 Diego Rivas 在接受 TechCrunch 采访时也坦言,团队还在研究摸索阶段,还不清楚最终的产品形态应该是什么样,反而是很多电影导演在测试中用得比较多,实拍之前拿来快速预演机位、制作分镜草稿非常方便。
说到这里,一个很自然的问题就会冒出来:既然纯视频的技术路线退回到多模型拼装,应用上也替代不了游戏引擎,为什么最近资本市场还会动辄斥资七八十亿美元去收购这些公司?要理解这一点,需要先看清消费级实时交互背后的成本账。
阻碍世界模型走向普通用户的另一个现实门槛,是每秒钟都在持续产生的云端推理成本。我们平时在传统主机或PC上玩游戏,画面的渲染是在玩家自己的本地显卡上完成的,所以游戏公司多服务一小时,云端的边际成本几乎为零。即使是像 GeForce NOW 这样的传统云游戏,把显卡成本分摊下来,每个玩家每小时也只需要零点三到零点五美元。
但实时世界模型完全不同,它每一秒钟都要在云端机房里持续运行大型视频生成模型和语言模型推理。如果对照公开推理平台 fal 上的实时视频流报价,运行一小时的费用高达 144 到 288 美元。即使是初创公司 Decart 大幅压缩之后的 Oasis 3 实时接口,每秒钟也要收费两美分,折合下来一个小时也要 72 美元。而且记者实测开车掉头回来,刚才出发的那个纽约十字路口还是会直接消失。
换句话说,玩家在里面体验一个小时消耗的云端算力成本,已经够在 Steam 上直接买断一款顶级游戏大作了。这可以解释为什么Google就算给AI Ultra订阅用户收每月二百五十美元的高价,也只能把单次体验时间限制在一到两分钟。如果Google真的敞开供应,让一个重度用户每个月玩四十个小时,那么仅仅这一个用户的云端推理成本每个月就要倒贴近三千美元,任何面向消费者的订阅制商业模式都是算不过来的。
普通消费者支付的订阅费覆盖不了算力成本,独立创业公司手头的融资也难以和科技巨头长期比拼算力消耗,最现实的出路就是趁着估值还在高位,并入一家芯片大厂或垂直行业巨头。就在今年九月底至十月下旬这短短二十五天里接连发生的三起并购案,清晰地反映出独立世界模型创业公司的真实处境。
第一个发生在九月底,李飞飞创立的World Labs在发布新框架Atlas仅一个月后,就以82亿美元全股票交易卖给了芯片巨头AMD。李飞飞在致团队的公开信中提到,没有专门的硬件投入,空间智能的效率和规模都会受到限制,只能在数字世界中徘徊。AMD看中的是让这支核心团队直接参与下一代显卡架构设计,从而在物理仿真生态上与NVIDIA竞争。
而在十月中旬,华尔街日报报道 Amazon 正在洽谈以大约 70 亿美元收购明星初创公司 Decart。其中有个耐人寻味的细节:根据以色列媒体披露,其实 Anthropic 今年八月已经谈妥了用六七十亿美元买下 Decart,但九月做完深入尽调后突然决定放弃,原因是发现这家公司探索了三年也没找到能独立盈利的商业模式。后来接盘的 Amazon 真正看重的是它底下那套能跨芯片做推理优化的软件栈 DOS,因为这套工具能帮 AWS 把大客户的算力负载从 NVIDIA 显卡顺利搬到自家的 Trainium3 芯片上。
而在十月下旬,前DeepMind研究员创办的Third Dimension AI也宣布卖给了电动车企Rivian。在接受采访时,这家公司的创始人坦言,他们这样一家小公司,很难同时服务游戏、电影、国防和汽车这些完全不同领域的客户。并入车企以后,他们就不再需要操心怎么找客户做商业化了,只需要专心把车队每天传回的四十万段行车视频变成自动驾驶的训练场景,来配合 Rivian 和 Uber 刚刚签下的无人出租车合作协议。
看到这里,你可能会疑惑:如果端到端的神话已经破灭,独立创业公司纷纷并入大厂,那世界模型是否还有不可替代的价值?实际上,它的真正用武之地不在面向消费者的前台娱乐,而在工业仿真的后台。在剥离了取代游戏引擎的泡沫后,它在容错率很低的重工业和自动驾驶场景里,反而取得了非常扎实的商业化成果。
不同场景的成本逻辑是完全不同的。在消费级游戏里,一小时花掉一两百美元的算力是灾难,但在自动驾驶和特种机器人训练里,在现实路面上撞坏一辆真车或一台真机器人动辄损失几十万美元。相比之下,花几百美元在机房里合成极端测试场景,反而成了非常划算的投入。一个典型的例子是Waymo今年二月发布的自动驾驶世界模型,它直接用上一代的Genie 3作为底座,完全不面向普通消费者,专门用来帮自家的无人车补齐罕见路况的测试盲区。
传统上,很多自动驾驶公司的仿真系统依赖高斯泼溅等 3D 重建技术,把实拍照片还原成 3D 路面。但这种方法严重依赖采集车的路线,如果测试车大幅变道,偏离了拍照时的视角,周围就会出现大片空洞。而有了世界模型后,Waymo 就能把车辆变道后的视野合理补全,甚至同时生成环视相机画面和四维激光雷达点云,在机房里批量合成龙卷风、山火、逆行大卡车这类现实中很难安全采集的罕见险情。
类似的思路在重工业里面也非常成功,比如创业公司FieldAI专门针对没有地图的建筑工地和矿山环境,为卡特彼勒和大型建筑商Big-D Construction训练特种机器人,在短短一年时间内就把合同营收从不到一千万美元增长到1.35亿美元,估值也涨到了100亿美元。在制造业方面,NVIDIA新一代的Cosmos 3模型不仅可以预测未来的视频画面,还可以同时输出机器人关节动作。目前LG电子已经在内部数据工厂部署了这个模型用来训练家政机器人,三星、现代汽车和理想汽车也都采用了这套底座。
回头看看 DeepMind 研究总监 Tejas Kulkarni 在 Genie 4 发布时接受彭博社采访所说的话,未来的前沿方向是让 Gemini 实时写代码和文字、让 Genie 实时消化和模拟现实的混合模型。其实一旦整个行业不再强求一个视频模型自己去悟出牛顿力学和符号逻辑,各个模块怎么分工反而清晰多了:让确定性的代码和三维网格去管空间尺寸与基础规则,让语言大模型去管高层目标与逻辑规划,而让世界模型回归它最擅长的位置,把那些很难用数学公式写出来的复杂现实环境,变成智能体在真正上路之前可以反复试错的训练场。