类Sora模型到底懂不懂物理?字节完成系统性实验证明
Sora爆火以来,模明“视频生成模型到底懂不懂物理规律”受到热议,型到系统性实但业界一直未有研究证实。底懂近日,不懂字节跳动豆包大模型团队公布最新论文,物理完成研究历时8个月,字节围绕“视频生成模型距离世界模型有多远”首次在业界完成系统性实验并给出明确结论:视频生成模型可以记忆训练案例,验证但暂时还无法真正理解物理规律,模明做到“举一反三”。型到系统性实
图灵奖得主、底懂Meta首席AI科学家杨立昆点赞并转发了该研究,不懂表示“结论不令人意外,物理完成但很高兴终于有人做了这个尝试!字节”
自OpenAI发布Sora模型以来,验证很多视频生成模型都会强调其生成结果对物理规律的模明遵循。豆包大模型视觉团队相关小组,对视频生成模型究竟能否从视觉数据中“发现”并“理解”物理定律感到好奇,决定深入研究。
历时8个月,该团队完成了业界首个系统性的实验研究。团队通过专门开发的物理引擎合成了匀速直接运动、小球碰撞、抛物线运动等经典物理场景的运动视频,用于训练基于主流DiT架构的视频生成模型。然后,通过检验模型后续生成的视频在运动和碰撞方面是否符合力学定律,判断模型是否真正理解了物理规律,并具有“世界模型”的潜力。
实验中设计的不同运动场景
豆包大模型团队的实验发现,即使遵循“Scaling Law”增大模型参数规模和数据量,模型依然无法抽象出一般物理规则,做到真正“理解”。
以最简单的匀速直线运动为例,当模型学习了不同速度下小球保持匀速直线运动的训练数据后,给定初始几帧,要求模型生成小球在训练集速度区间内匀速直线运动的视频,随着模型参数和训练数据量的增加,生成的视频逐渐更符合物理规律。
然而,当要求模型生成未曾见过的速度区间(即超出训练数据范围)的运动视频时,模型突然不再遵循物理规律,并且无论如何增加模型参数或训练数据,生成的结果都没有显著改进。这表明,视频生成模型无法真正理解物理规律,也无法将这些规律泛化应用到全新的场景中。
通过进一步的实验分析,研究团队得出结论,“生成新视频时,模型主要依赖对训练案例的记忆和匹配。视频生成模型就像一个只会‘抄作业’的学生,一旦遇到从未见过的场景,如不同大小、速度的物体相互作用,就会‘犯迷糊’,生成结果与物理规则不符。”
不过,研究中也有一个好消息:如果训练视频中所有概念和物体都是模型已熟悉的,此时加大训练视频的复杂度,比如组合增加物体间的物理交互,通过加大训练数据,模型对物理规律的遵循将越来越好。这一结果可为视频生成模型继续提升表现提供启发。
据了解,本研究两位核心一作都非常年轻,一位是95后,一位是00后,在豆包大模型团队专注视觉领域的基础研究工作。作者们一直对世界模型感兴趣,在8个月的探索中,他们阅读了大量物理学研究文献,也尝试从游戏中获得研发灵感,历经多次失败后,最终一步步确定研究思路和实验方法。
-
文章
886
-
浏览
87
-
获赞
75769
热门推荐
-
曼晚为曼联评分:安东尼2分最低,梅努、小麦、霍伊伦8分最高
英超第22轮,曼联客场4-3险胜狼队,赛后,《曼市》为曼联全队评分,替补登场的安东尼2分最低,进球功臣梅努、麦克托米奈、霍伊伦等人8分并列最高。 《曼市》为曼联全队评分 门将:奥纳纳4分后卫:达洛特8三亚空管站开展“疼痛教育、举一反三”研讨会
为贯彻落实中南空管局安全形势分析会会议精神,进一步提升安全从业人员“三个敬畏”意识,三亚空管站于11月12日举办“疼痛教育、举一反三”研讨会,通什么样的人酒量大呢 酒量大的人有什么特征呢
什么样的人酒量大呢 酒量大的人有什么特征呢时间:2022-03-18 12:18:15 编辑:nvsheng 导读:大家在生活中应该都见过喝酒的人吧,那么你了解真的能喝酒的人吗?今天小编就和大家一中南空管局直管制中心正式启动飞服中心报告室部分业务接管工作
中南空管局管制中心 向昱泽2021年11月15日12时开始,中南空管局管制中心正式启动飞服中心空中交通服务报告室下称“飞服中心报告室”)部分业务接管工作。12:01,随着南方航媒体人怒斥足协女足换帅潜规则 祸害中国足球多年
媒体人怒斥足协女足换帅潜规则 祸害中国足球多年_肇俊哲www.ty42.com 日期:2021-10-12 16:01:00| 评论(已有306576条评论)什么是肠炎呢 肠炎造成的原因有什么呢
什么是肠炎呢 肠炎造成的原因有什么呢时间:2022-03-29 12:34:42 编辑:nvsheng 导读:大家在生活中应该都听说过非常多的疾病吧,但是你了解肠炎吗?今天小编就和大家一起来了解一呼伦贝尔空管站切实加强应急管理工作
通讯员:陈霄)2021年,为认真贯彻“安全第一、预防为主、综合治理”的安全工作方针,呼伦贝尔空管站紧紧围绕“三基”建设,切实加强应急管理工作,确保运行安为什么会鼻子堵塞呢 造成鼻子堵塞的原因有什么呢
为什么会鼻子堵塞呢 造成鼻子堵塞的原因有什么呢时间:2022-03-23 13:12:00 编辑:nvsheng 导读:大家在生活中应该都听说过非常多的疾病吧,那么你了解鼻子堵塞吗?今天小编就和大扎心了!数据网站预测欧联冠军 巴萨成为头号热门
扎心了!数据网站预测欧联冠军 巴萨成为头号热门_概率www.ty42.com 日期:2021-10-06 09:01:00| 评论(已有305584条评论)妇女节放假属法定半天节假日 妇女节会不会放假
妇女节放假属法定半天节假日 妇女节会不会放假时间:2022-03-18 12:27:06 编辑:nvsheng 导读:今天一年一度的妇女节了,听说在这天的时候有的地方会放假的,这是不是真的,要是妇曹操的老婆有哪些 曹操的原配是哪位夫人
曹操的一生不仅在战场上非常的得意,而且在生活上也非常得意。曹操的女人据说有许多,甚至有些有妇之夫曹操也不介意染指,甚至有些夫人都是其他人的老婆,后来被曹操收入后宫。那么曹操的老婆究竟有哪些呢?还有曹操吕不韦是怎么死的? 竟和赵姬欢爱七天七夜
想必大家都听说过奇货可居的故事吧,吕不韦极具政治头脑,从一个普通商人最终走向秦国丞相,但最后吕不韦却饮鸩自尽,他为什么这么做呢?史料记载吕不韦竟和赵姬做爱七天七夜,而且,吕不韦竟还是秦始皇的父亲,事实11月14日美市更新的支撑阻力:金银原油+美元指数等八大货币对
汇通财经APP讯——11月14日美市更新的黄金、白银、原油、美元指数、欧元、英镑、日元、瑞郎、澳元、加元、纽元支撑阻力位一览。呼伦贝尔空管站技术保障部加强会场管理
通讯员:陈霄)近期,按照上级要求和部署,呼伦贝尔空管站技术保障部切实加强会场管理。会议是统一思想、协调部署任务、研究解决问题、推进工作方式落实的有效方式。技术保障部各级领导从加强工作作风建设的角度出发深圳空管站完成自主研发驱壁虎装置技术鉴定
朱宏芹)深圳机场大气透射仪RVR)探测镜头易受壁虎等外来物干扰影响,导致设备出现RVR数据异常偏低情况,直接影响机场RVR数据的正常使用,对管制运行工作造成影响。11月上旬,深圳空管站对气象台自主研发