类Sora模型到底懂不懂物理?字节完成系统性实验证明
Sora爆火以来,模明“视频生成模型到底懂不懂物理规律”受到热议,型到系统性实但业界一直未有研究证实。底懂近日,不懂字节跳动豆包大模型团队公布最新论文,物理完成研究历时8个月,字节围绕“视频生成模型距离世界模型有多远”首次在业界完成系统性实验并给出明确结论:视频生成模型可以记忆训练案例,验证但暂时还无法真正理解物理规律,模明做到“举一反三”。型到系统性实
图灵奖得主、底懂Meta首席AI科学家杨立昆点赞并转发了该研究,不懂表示“结论不令人意外,物理完成但很高兴终于有人做了这个尝试!字节”
自OpenAI发布Sora模型以来,验证很多视频生成模型都会强调其生成结果对物理规律的模明遵循。豆包大模型视觉团队相关小组,对视频生成模型究竟能否从视觉数据中“发现”并“理解”物理定律感到好奇,决定深入研究。
历时8个月,该团队完成了业界首个系统性的实验研究。团队通过专门开发的物理引擎合成了匀速直接运动、小球碰撞、抛物线运动等经典物理场景的运动视频,用于训练基于主流DiT架构的视频生成模型。然后,通过检验模型后续生成的视频在运动和碰撞方面是否符合力学定律,判断模型是否真正理解了物理规律,并具有“世界模型”的潜力。
实验中设计的不同运动场景
豆包大模型团队的实验发现,即使遵循“Scaling Law”增大模型参数规模和数据量,模型依然无法抽象出一般物理规则,做到真正“理解”。
以最简单的匀速直线运动为例,当模型学习了不同速度下小球保持匀速直线运动的训练数据后,给定初始几帧,要求模型生成小球在训练集速度区间内匀速直线运动的视频,随着模型参数和训练数据量的增加,生成的视频逐渐更符合物理规律。
然而,当要求模型生成未曾见过的速度区间(即超出训练数据范围)的运动视频时,模型突然不再遵循物理规律,并且无论如何增加模型参数或训练数据,生成的结果都没有显著改进。这表明,视频生成模型无法真正理解物理规律,也无法将这些规律泛化应用到全新的场景中。
通过进一步的实验分析,研究团队得出结论,“生成新视频时,模型主要依赖对训练案例的记忆和匹配。视频生成模型就像一个只会‘抄作业’的学生,一旦遇到从未见过的场景,如不同大小、速度的物体相互作用,就会‘犯迷糊’,生成结果与物理规则不符。”
不过,研究中也有一个好消息:如果训练视频中所有概念和物体都是模型已熟悉的,此时加大训练视频的复杂度,比如组合增加物体间的物理交互,通过加大训练数据,模型对物理规律的遵循将越来越好。这一结果可为视频生成模型继续提升表现提供启发。
据了解,本研究两位核心一作都非常年轻,一位是95后,一位是00后,在豆包大模型团队专注视觉领域的基础研究工作。作者们一直对世界模型感兴趣,在8个月的探索中,他们阅读了大量物理学研究文献,也尝试从游戏中获得研发灵感,历经多次失败后,最终一步步确定研究思路和实验方法。
友链
外链
互链
Copyright © 2023 Powered by
六合彩图库源码【购买联系电报bc3979】AC彩票网站源码|六合彩源码|彩票搭建|新中原六合彩源码|【网站bc9797.com】六合彩论坛源码【联系飞机bc3979】
sitemap
-
文章
152
-
浏览
81474
-
获赞
34995
热门推荐
-
球队陷入危机?克洛普怼记者:写你想写的,你低估了球迷的智慧
1月30日讯 利物浦主帅克洛普今天出席对阵切尔西的赛前新闻发布会,谈到了范迪克的未来。你宣布赛季末离任后,范迪克等人仅剩18个月合同,球队项目会不会短期内有危机?克洛普:“不,这完全正常。很明显,外界为何说霍弋的“拥兵自重,坐看蜀汉灭亡”是刘禅造成的?
三国(220年-280年)是中国历史上位于汉朝之后,晋朝之前的一段历史时期。这一个时期,先后出现了曹魏、蜀汉、东吴三个主要政权。那么下面趣历史小编就为大家带来关于霍弋和罗宪“拥兵自重”,坐看蜀汉被灭的龙门石窟里的书法艺术价值有多高?有哪些意义?
众所周知龙门石窟是中国古碑刻最多的一处,有古碑林之称,共有碑刻题记2860多块,那么龙门石窟里的书法艺术价值有多高?有哪些意义?不清楚的读者可以和趣历史小编一起看下去。龙门石窟是书法艺术史是宝藏,著名刘备进入江夏后,刘琦将自己的军队托付给刘备了吗?
三国(220年-280年)是中国历史上位于汉朝之后,晋朝之前的一段历史时期。这一个时期,先后出现了曹魏、蜀汉、东吴三个主要政权。那么下面趣历史小编就为大家带来关于刘琦临终前,他将自己的军队交给刘备了吗carven和之禾哪个高档(之禾什么品牌)
carven和之禾哪个高档(之禾什么品牌)来源:时尚服装网阅读:3091谁是凶手沈雨穿的风衣牌子?1、谁是凶手风衣品牌是Dior。谁是凶手,剧情越看越上头,全员演技在线,但最吸引我的还是颖宝的穿搭,知蒙古帝国横扫欧亚大陆,却为何打不下一个小小的越南?
1000年前,成吉思汗率领着蒙古大军南征北战,消灭了西夏的几十万铁骑,灭掉了大金国百万大军,更是把南宋的百万水师和步骑拿下。同时,俄罗斯的钦察联军,罗马的条顿骑士团都是成吉思汗蒙古大军的手下败将。成吉在董卓被杀之后,王允为什么不招降剩余的西凉军?
三国(220年-280年)是中国历史上位于汉朝之后,晋朝之前的一段历史时期。这一个时期,先后出现了曹魏、蜀汉、东吴三个主要政权。那么下面趣历史小编就为大家带来关于王允为何拒绝了十几万西凉兵归降的详细介远光软件人工智能产品荣获“广东省名优高新技术产品”
近日,2023 年广东省名优高新技术产品名单发布,远光软件人工智能领域的“电子凭证公共服务平台”和“智能U盾管家”两款产品经过专家严格审核,从众多优秀产李维斯 x Denim Tears 联名 Vintage 牛仔工装系列发售
潮牌汇 / 潮流资讯 / 李维斯 x Denim Tears 联名 Vintage 牛仔工装系列发售2020年02月17日浏览:3901 既携手星战9打造别注丹宁夹克之为何说即使关平和周仓逃回成都,对夷陵之战并无影响?
三国(220年-280年)是中国历史上位于汉朝之后,晋朝之前的一段历史时期。这一个时期,先后出现了曹魏、蜀汉、东吴三个主要政权。那么下面趣历史小编就为大家带来关于如果关平、周仓不陪着关羽战死,侥幸逃回令江东众人人人害怕的张辽,为何却死于一个小将手里?
三国(220年-280年)是中国历史上位于汉朝之后,晋朝之前的一段历史时期。这一个时期,先后出现了曹魏、蜀汉、东吴三个主要政权。那么下面趣历史小编就为大家带来关于演义中张辽威震逍遥津,为何被一员小将射如果是张飞守卫上庸三郡,他会全力去救援关羽吗?
三国(220年-280年)是中国历史上位于汉朝之后,晋朝之前的一段历史时期。这一个时期,先后出现了曹魏、蜀汉、东吴三个主要政权。那么下面趣历史小编就为大家带来关于刘备慨然长叹:“若张飞守上庸,关羽必安复出仅4场!曼联官方:利桑德罗膝盖内侧副韧带受伤,至少缺席8周
02月06日讯 曼联官方消息,后卫利桑德罗膝盖内侧副韧带受伤,至少缺席八周。在此前曼联vs西汉姆的比赛第65分钟,利马与曹法尔对抗后倒地不起,随后站起来几分钟后坚持不了被换下。滕哈赫赛后谈及利马的伤势龙门石窟的莲花洞的特色在哪里?莲花洞介绍
龙门石窟的莲花洞的特色在哪里?莲花洞建造于公元525—527年,因窟顶刻有一朵巨大的莲花而得名,人民大会堂的莲花顶、上阳宫观风殿顶部藻井都是依据此莲花设计而成。莲花洞拥有龙门石窟中最小的佛像,仅有2厘赵云、马超、张飞、黄忠四人,谁把张郃揍得最惨?
三国(220年-280年)是中国历史上位于汉朝之后,晋朝之前的一段历史时期。这一个时期,先后出现了曹魏、蜀汉、东吴三个主要政权。那么下面趣历史小编就为大家带来关于赵云张飞马超黄忠四人都“欺负”过张郃,