类Sora模型到底懂不懂物理?字节完成系统性实验证明
Sora爆火以来,模明“视频生成模型到底懂不懂物理规律”受到热议,型到系统性实但业界一直未有研究证实。底懂近日,不懂字节跳动豆包大模型团队公布最新论文,物理完成研究历时8个月,字节围绕“视频生成模型距离世界模型有多远”首次在业界完成系统性实验并给出明确结论:视频生成模型可以记忆训练案例,验证但暂时还无法真正理解物理规律,模明做到“举一反三”。型到系统性实
图灵奖得主、底懂Meta首席AI科学家杨立昆点赞并转发了该研究,不懂表示“结论不令人意外,物理完成但很高兴终于有人做了这个尝试!字节”
自OpenAI发布Sora模型以来,验证很多视频生成模型都会强调其生成结果对物理规律的模明遵循。豆包大模型视觉团队相关小组,对视频生成模型究竟能否从视觉数据中“发现”并“理解”物理定律感到好奇,决定深入研究。
历时8个月,该团队完成了业界首个系统性的实验研究。团队通过专门开发的物理引擎合成了匀速直接运动、小球碰撞、抛物线运动等经典物理场景的运动视频,用于训练基于主流DiT架构的视频生成模型。然后,通过检验模型后续生成的视频在运动和碰撞方面是否符合力学定律,判断模型是否真正理解了物理规律,并具有“世界模型”的潜力。
实验中设计的不同运动场景
豆包大模型团队的实验发现,即使遵循“Scaling Law”增大模型参数规模和数据量,模型依然无法抽象出一般物理规则,做到真正“理解”。
以最简单的匀速直线运动为例,当模型学习了不同速度下小球保持匀速直线运动的训练数据后,给定初始几帧,要求模型生成小球在训练集速度区间内匀速直线运动的视频,随着模型参数和训练数据量的增加,生成的视频逐渐更符合物理规律。
然而,当要求模型生成未曾见过的速度区间(即超出训练数据范围)的运动视频时,模型突然不再遵循物理规律,并且无论如何增加模型参数或训练数据,生成的结果都没有显著改进。这表明,视频生成模型无法真正理解物理规律,也无法将这些规律泛化应用到全新的场景中。
通过进一步的实验分析,研究团队得出结论,“生成新视频时,模型主要依赖对训练案例的记忆和匹配。视频生成模型就像一个只会‘抄作业’的学生,一旦遇到从未见过的场景,如不同大小、速度的物体相互作用,就会‘犯迷糊’,生成结果与物理规则不符。”
不过,研究中也有一个好消息:如果训练视频中所有概念和物体都是模型已熟悉的,此时加大训练视频的复杂度,比如组合增加物体间的物理交互,通过加大训练数据,模型对物理规律的遵循将越来越好。这一结果可为视频生成模型继续提升表现提供启发。
据了解,本研究两位核心一作都非常年轻,一位是95后,一位是00后,在豆包大模型团队专注视觉领域的基础研究工作。作者们一直对世界模型感兴趣,在8个月的探索中,他们阅读了大量物理学研究文献,也尝试从游戏中获得研发灵感,历经多次失败后,最终一步步确定研究思路和实验方法。
友链
外链
互链
Copyright © 2023 Powered by
六合彩图库源码【购买联系电报bc3979】AC彩票网站源码|六合彩源码|彩票搭建|新中原六合彩源码|【网站bc9797.com】六合彩论坛源码【联系飞机bc3979】
sitemap
-
文章
92795
-
浏览
27828
-
获赞
91
热门推荐
-
海港举行新外援见面会 保利尼奥武圣关公造型亮相
海港举行新外援见面会 保利尼奥武圣关公造型亮相_新援www.ty42.com 日期:2021-10-07 12:01:00| 评论(已有305742条评论)阿科尔推特反击希勒批评:你踩对手脑袋也该禁赛
10月8日报道:在推特上嘲讽英足总是“一群娘们”后,昨晚,阿科尔又在互联网上发飙了,这次针对的是英格兰一代名宿阿兰-希勒,由于后者呼吁英足总宽大阿科尔并将他禁赛,对此,阿科尔在推特上指出——你当年踩对王珊珊:与韩国的比赛对我人生有特别意义 不会忘了这一切
王珊珊:与韩国的比赛对我人生有特别意义 不会忘了这一切_中国女足www.ty42.com 日期:2021-04-15 10:01:00| 评论(已有269663条评论)杜兰特战靴 KD 13 全新“Home Team”配色曝光,简约时尚
潮牌汇 / 潮流资讯 / 杜兰特战靴 KD 13 全新“Home Team”配色曝光,简约时尚2020年04月27日浏览:4511 与 PG4 一样,杜兰特最新战靴KDAir Max 97 鞋款全新珍珠白配色释出,小姐姐专享
潮牌汇 / 潮流资讯 / Air Max 97 鞋款全新珍珠白配色释出,小姐姐专享2020年02月21日浏览:2764 不论是为东京奥运会打造的“金子弹”还是细节满满的CFTC持仓:1015当周投机者增贵金属净多头,减原油净多头
汇通财经APP讯——根据美国商品期货交易委员会CFTC)的数据,截至10月15日当周,市场投机者对各类金融产品的持仓发生了显著变化,显示出了市场情绪的微妙转变。贵金属、能源、外汇期货市场以及美国国债的金价节节攀高,分析师:多头将寻求金价延续当前反弹走势
汇通财经APP讯——周一(10月21日)亚市早盘,现货黄金延续上升走势,金价刚刚触及2726.21美元/盎司,创下历史新高。知名财经网站FXDailyReport分析师Nicholas Kitonyi首发搭载OPPO Find X8!ColorOS 15重新定义安卓流畅体验新高度
除了全新的系统级AI功能、更自然的新设计之外,ColorOS 15从底层到应用层全面重构安卓系统架构,在流畅度方面重新定义安卓系统体验新高度。10月17号消息,在今天的OPPO开发者大会上,超轻快、更国家博物馆五一展览 收藏资讯
【中华收藏网讯】从4月29日开始,我们迎来了为期三天的“五一”小长假,既是和家人欢聚的时光,也是出游、学习充电的好机会。在文化底蕴深厚的北京,像故宫博物院、中国国家博物馆、中国美术馆、首都博物馆,都有SoleFly x AJ10“10周年纪念”联乘鞋款实物曝光,规格真高!
潮牌汇 / 潮流资讯 / SoleFly x AJ10“10周年纪念”联乘鞋款实物曝光,规格真高!2020年05月01日浏览:3217 为庆祝店铺成立 10 周年,迈阿Double Fine再谈《野兽传奇2》 探讨创作思路可能性
随着杰克·布莱克领衔的动作游戏《野兽传奇》迎来15周年,Double Fine谈到了推出《野兽传奇》续作的可能性。Double Fine的社区经理哈珀·杰在开发者的官方网站上透露,他们从玩家那里收到的免费试玩!能开后宫的武侠版“战国兰斯”?《息风谷战略》现已登录新品节
由jynew开源游戏社区团队打造的武侠策略RPG新作《息风谷战略》现已参加Steam十月新品节活动,并提供了全新的免费试玩版本。除此之外,本次试玩版还将支持内置的创意工坊和MOD开发工具,并提供了官方优衣库 UT 全新 THE BRANDS MASTER PIECE 系列首波单品公布
潮牌汇 / 潮流资讯 / 优衣库 UT 全新 THE BRANDS MASTER PIECE 系列首波单品公布2020年02月20日浏览:3558 每一季 UNIQLO2亿人都在用的钉钉,交出了五年成绩单
雷锋网:两个月前,坚守企业级市场 5 年的无招带着他的团队并入了升级后的阿里云智能事业部。外界猜测,这个原本独立于阿里集团业务之外的钉钉,可能已经到了需要对集团有所反哺的时刻。为此,钉钉需要加深的不只苏神演小贝绝技7战7球 红军低迷唯他闪耀
苏亚雷斯依靠症,曾经冉冉掩饰着利物浦,难得乌拉圭神射手被安排轮休一场,利物浦就乱了方寸,抢先一球到被乌迪内斯反超为3比1。苏神随即打入一粒经典的直接恣意球吹响反攻号角,惋惜虽然屡次制作杀机却未能梅开二