类Sora模型到底懂不懂物理?字节完成系统性实验证明
Sora爆火以来,模明“视频生成模型到底懂不懂物理规律”受到热议,型到系统性实但业界一直未有研究证实。底懂近日,不懂字节跳动豆包大模型团队公布最新论文,物理完成研究历时8个月,字节围绕“视频生成模型距离世界模型有多远”首次在业界完成系统性实验并给出明确结论:视频生成模型可以记忆训练案例,验证但暂时还无法真正理解物理规律,模明做到“举一反三”。型到系统性实
图灵奖得主、底懂Meta首席AI科学家杨立昆点赞并转发了该研究,不懂表示“结论不令人意外,物理完成但很高兴终于有人做了这个尝试!字节”
自OpenAI发布Sora模型以来,验证很多视频生成模型都会强调其生成结果对物理规律的模明遵循。豆包大模型视觉团队相关小组,对视频生成模型究竟能否从视觉数据中“发现”并“理解”物理定律感到好奇,决定深入研究。
历时8个月,该团队完成了业界首个系统性的实验研究。团队通过专门开发的物理引擎合成了匀速直接运动、小球碰撞、抛物线运动等经典物理场景的运动视频,用于训练基于主流DiT架构的视频生成模型。然后,通过检验模型后续生成的视频在运动和碰撞方面是否符合力学定律,判断模型是否真正理解了物理规律,并具有“世界模型”的潜力。
实验中设计的不同运动场景
豆包大模型团队的实验发现,即使遵循“Scaling Law”增大模型参数规模和数据量,模型依然无法抽象出一般物理规则,做到真正“理解”。
以最简单的匀速直线运动为例,当模型学习了不同速度下小球保持匀速直线运动的训练数据后,给定初始几帧,要求模型生成小球在训练集速度区间内匀速直线运动的视频,随着模型参数和训练数据量的增加,生成的视频逐渐更符合物理规律。
然而,当要求模型生成未曾见过的速度区间(即超出训练数据范围)的运动视频时,模型突然不再遵循物理规律,并且无论如何增加模型参数或训练数据,生成的结果都没有显著改进。这表明,视频生成模型无法真正理解物理规律,也无法将这些规律泛化应用到全新的场景中。
通过进一步的实验分析,研究团队得出结论,“生成新视频时,模型主要依赖对训练案例的记忆和匹配。视频生成模型就像一个只会‘抄作业’的学生,一旦遇到从未见过的场景,如不同大小、速度的物体相互作用,就会‘犯迷糊’,生成结果与物理规则不符。”
不过,研究中也有一个好消息:如果训练视频中所有概念和物体都是模型已熟悉的,此时加大训练视频的复杂度,比如组合增加物体间的物理交互,通过加大训练数据,模型对物理规律的遵循将越来越好。这一结果可为视频生成模型继续提升表现提供启发。
据了解,本研究两位核心一作都非常年轻,一位是95后,一位是00后,在豆包大模型团队专注视觉领域的基础研究工作。作者们一直对世界模型感兴趣,在8个月的探索中,他们阅读了大量物理学研究文献,也尝试从游戏中获得研发灵感,历经多次失败后,最终一步步确定研究思路和实验方法。
友链
外链
互链
Copyright © 2023 Powered by
六合彩图库源码【购买联系电报bc3979】AC彩票网站源码|六合彩源码|彩票搭建|新中原六合彩源码|【网站bc9797.com】六合彩论坛源码【联系飞机bc3979】
sitemap
-
文章
38
-
浏览
314
-
获赞
46248
热门推荐
-
索帅看到了吗?桑乔单场两助攻正名 三狮生涯首次
索帅看到了吗?桑乔单场两助攻正名 三狮生涯首次_英格兰队www.ty42.com 日期:2021-10-10 08:31:00| 评论(已有306171条评论)漫改动画《这个世界漏洞百出》第2弹PV放出 7月5日开播
由左藤真通原作的异世界漫画《这个世界漏洞百出》改编而来的同名动画,近日公布了第2弹宣传PV。《这个世界漏洞百出》第2弹PV:在宣传PV中,官方还公布了由Liyuu演唱的片头曲《No Complete》银鹭整活特别版小米粥 小米14 Ultra有新配件了
银鹭推出了专门的小米特别版小米粥。据银鹭方面介绍,这款小米粥是定制概念款、专业保护盖,全新口味、全新配盖。建议零售价4.5元/罐送1个盖子),42元/箱送12个盖子)。小米14Ultra在发布过后,凭一季度华为折叠机出货量暴涨105%:首次超越三星
显示器供应链调研公司Display Supply Chain ConsultantDSCC)披露的数据显示,2024年Q1,华为折叠屏手机出货量同比增长105%,市场占有率为40%,超越三星,位居全球Reebok eightone 支线系列释出,与 Kohei Okita 联合打造
潮牌汇 / 潮流资讯 / Reebok eightone 支线系列释出,与 Kohei Okita 联合打造2020年02月18日浏览:5364 经过曝光预热后,Ree[朝闻天下]权威部门话开局·国资委 2022年央企研发投入首次突破1万亿元
强化商超疫情防控检查
近日,北京市丰台区市场监管局针对商场、超市、集贸市场、餐饮服务业及冷链食品经营主体从业人员等风险点位持续加强疫情防控检查,坚决防范疫情隐患。图为,执法人员正在核对水果及其经营人员防控信息。中国消费者报我院荣获四川大学2005
2008年1月14日下午,四川大学档案工作会议在学校科华苑宾馆多功能厅隆重召开。我院党委副书记周瑞敏和档案科科长夏珂出席了会议。 四川大学党委副书记周学东教授作了题为《抓住发展机遇,服务学校中心,坚中粮各上市公司2016年7月18日-7月22日收盘情况
前队友谈坎特:以前房子出问题他让我去他家住没人比他更谦逊
6月21日讯前莱斯特城球员基普雷最近接受了进球网采访,并回忆了与坎特的一段往事。基普雷说道:“效力莱斯特城的时候,我曾在坎特家里住过一个月。”"当时我的公寓出了点问题,于是他让我和我哥哥一起住到他家。服装店快时尚门牌,服装店门牌装修效果图
服装店快时尚门牌,服装店门牌装修效果图来源:时尚服装网阅读:616missonep服装店中文叫什么MISS PONYO是一个轻奢内衣家居服品牌,成立于天府之国成都,坐落在高新技术产业开发区。创始人大妹结束一年半进球荒!阿尔瓦雷斯上次国家队破门,还是2022世界杯
06月21日讯 美洲杯揭幕战,阿根廷vs加拿大。第48分钟,阿尔瓦雷斯补射破门,打进本届美洲杯首球。阿尔瓦雷斯上次代表阿根廷破门还是2022年12月13日世界杯半决赛,阿根廷3-0克罗地亚。武磊赛后称绝杀球自己没碰到 裁判依然将其算在武磊账下
武磊赛后称绝杀球自己没碰到 裁判依然将其算在武磊账下_越南队www.ty42.com 日期:2021-10-08 03:31:00| 评论(已有305791条评论)记者:美洲杯首战vs加拿大,阿尔瓦雷斯将为阿根廷首发出战
6月20日讯 美洲杯揭幕战将于北京时间6月21日早8:00进行,交战双方是阿根廷和加拿大。阿根廷跟队记者Gaston Edul今日在社媒晒出“小蜘蛛”阿尔瓦雷斯的照片,并配文写道:“首发球员。”OPPO连续5年进前十 2023全球专利申请量榜单公布
世界知识产权组织WIPO)今日公布了2023年PCT国际专利申请量排名,OPPO以1766件PCT国际专利申请量位居申请人排行榜全球第九,这是OPPO连续第五年位列PCT专利申请排行榜全球前十世界知识