Vans x Sandy Liang 联名系列下月开售,创意混搭
Sora爆火以来,模明“视频生成模型到底懂不懂物理规律”受到热议,型到系统性实但业界一直未有研究证实。底懂近日,不懂字节跳动豆包大模型团队公布最新论文,物理完成研究历时8个月,字节围绕“视频生成模型距离世界模型有多远”首次在业界完成系统性实验并给出明确结论:视频生成模型可以记忆训练案例,验证但暂时还无法真正理解物理规律,模明做到“举一反三”。型到系统性实
图灵奖得主、底懂Meta首席AI科学家杨立昆点赞并转发了该研究,不懂表示“结论不令人意外,物理完成但很高兴终于有人做了这个尝试!字节”
自OpenAI发布Sora模型以来,验证很多视频生成模型都会强调其生成结果对物理规律的模明遵循。豆包大模型视觉团队相关小组,对视频生成模型究竟能否从视觉数据中“发现”并“理解”物理定律感到好奇,决定深入研究。
历时8个月,该团队完成了业界首个系统性的实验研究。团队通过专门开发的物理引擎合成了匀速直接运动、小球碰撞、抛物线运动等经典物理场景的运动视频,用于训练基于主流DiT架构的视频生成模型。然后,通过检验模型后续生成的视频在运动和碰撞方面是否符合力学定律,判断模型是否真正理解了物理规律,并具有“世界模型”的潜力。
实验中设计的不同运动场景
豆包大模型团队的实验发现,即使遵循“Scaling Law”增大模型参数规模和数据量,模型依然无法抽象出一般物理规则,做到真正“理解”。
以最简单的匀速直线运动为例,当模型学习了不同速度下小球保持匀速直线运动的训练数据后,给定初始几帧,要求模型生成小球在训练集速度区间内匀速直线运动的视频,随着模型参数和训练数据量的增加,生成的视频逐渐更符合物理规律。
然而,当要求模型生成未曾见过的速度区间(即超出训练数据范围)的运动视频时,模型突然不再遵循物理规律,并且无论如何增加模型参数或训练数据,生成的结果都没有显著改进。这表明,视频生成模型无法真正理解物理规律,也无法将这些规律泛化应用到全新的场景中。
通过进一步的实验分析,研究团队得出结论,“生成新视频时,模型主要依赖对训练案例的记忆和匹配。视频生成模型就像一个只会‘抄作业’的学生,一旦遇到从未见过的场景,如不同大小、速度的物体相互作用,就会‘犯迷糊’,生成结果与物理规则不符。”
不过,研究中也有一个好消息:如果训练视频中所有概念和物体都是模型已熟悉的,此时加大训练视频的复杂度,比如组合增加物体间的物理交互,通过加大训练数据,模型对物理规律的遵循将越来越好。这一结果可为视频生成模型继续提升表现提供启发。
据了解,本研究两位核心一作都非常年轻,一位是95后,一位是00后,在豆包大模型团队专注视觉领域的基础研究工作。作者们一直对世界模型感兴趣,在8个月的探索中,他们阅读了大量物理学研究文献,也尝试从游戏中获得研发灵感,历经多次失败后,最终一步步确定研究思路和实验方法。
-
文章
29656
-
浏览
588
-
获赞
7
热门推荐
-
球队陷入危机?克洛普怼记者:写你想写的,你低估了球迷的智慧
1月30日讯 利物浦主帅克洛普今天出席对阵切尔西的赛前新闻发布会,谈到了范迪克的未来。你宣布赛季末离任后,范迪克等人仅剩18个月合同,球队项目会不会短期内有危机?克洛普:“不,这完全正常。很明显,外界江西空管保障人工增雨飞行作业顺利实施
11月16日,江西区域迎来大范围阴雨天气,雨区与旱区高度重合,天气条件有利于实施人工增雨作业。为进一步缓解旱情,16日8:00和13:32,人工增雨飞机两次起飞作业。江西空管分局积极保障机组作业,实时克拉玛依机场组织全体职工开展艾滋病学习宣传活动
通讯员:魏强生) 今年是第35个“世界艾滋病日”,活动主题是“共抗艾滋,共享健康”。 为进一步宣传普及艾滋病防治知识,牢固树立“每个人都海南空管分局召开应对突发事件应急手册宣贯会
本网通讯员:王鸽燕)海南空管分局于11月25日正式印发了分局层面应对突发事件应急手册,为协助各运行部门进一步掌握预案编写方法,确保分局各层级应急预案衔接顺畅,提升分局应急管理水平,12月2日,海南空管雅漾用久了为什么脸色发黄(十大不含激素的护肤品)
雅漾用久了为什么脸色发黄(十大不含激素的护肤品)来源:时尚服装网阅读:8074雅漾的产品有增厚角质层的作用,脸色会变黄?1、我觉得这个说法不对,用雅漾的敏感人群除了健康的皮肤)本身就是角质层过薄了,它厦门空管站:雨中健步妙情怀 低碳健康炼身体
为提高健身意识,倡导“快乐工作、健康生活”理念,2022年11月23日下午,厦门空管站机关第四分会在五缘湾开展“2022年安康杯—我健康·安全筑基 为抗疫发力——技术保障部青年职工上下同心逐梦行
通讯员:伏启宇)10月11日,疫情再度袭来,分局面临着安全与防疫共存的攻坚战,技术保障部积极响应分局党委防疫封控管理要求,第一时间组织职工进行封闭值守,技术保障部全体青年职工闻疫而动,逆行冲锋,纷纷主昆明航空开展“关注民航、平安出行”国际民航日机上系列活动
随着民航业体系越来越成熟,民航业的发展也越发迅速,在世界各国经济发展中都起到决定性的因素,同时民航业发展也更加大众化、全面化。2022年12月7日,为纪念1944年这一天创立的国际民用航空组织ICAO海港举行新外援见面会 保利尼奥武圣关公造型亮相
海港举行新外援见面会 保利尼奥武圣关公造型亮相_新援www.ty42.com 日期:2021-10-07 12:01:00| 评论(已有305742条评论)贪官和珅被处死前一天 竟然说出两个贪污理由
不管大家喜不喜欢,和珅都是清朝历史上一个鼎鼎有名的大人物,也是大家十分熟悉的一个人。而这一切,除了乾隆对他的喜爱,最主要的还要归咎于他的贪,史无前例,数额巨大。关于其数目,有多种说法,分别是8亿多,1宜春机场气象台开展设备老化失效应急实战演练
为做好运行保障及特殊情况应急保障工作,近日,宜春机场气象台开展因设备设施传感器)老化造成失效的应急实战演练。此次演练主要内容为:组织气象预报、观测人员开展业务学习,并开展针对性考核,进一步提升气象岗位外场室召开十一月科室例会
通讯员 许潇)11月28日,技术保障部外场室召开11月科室例会,会议由卿烈华主任主持,外台人员以网络视频方式远程参与。 会上,各台站负责人、设备责任区负责人依次对11月台站工作及设备运行情况进行总结中粮各上市公司2016年7月18日-7月22日收盘情况
唐朝史上知恩图报终得善终的初唐名将是谁?
李绩,初唐名将,原名叫做徐世绩,字懋功,在《隋唐演义》和民间话本里又被唤做徐茂公,且被后世说书艺人严重歪曲成了一名羽扇纶巾,足智多谋的牛鼻子老道。其实历史上真实存在的李绩文韬武略,威名赫赫,历事光绪皇帝棺木中的头发 竟道出了他真正的死因
光绪皇帝在1908年的11月离世,在此之前光绪皇帝居然被整整幽禁了是十年头,作为清朝末期的皇帝,因为慈禧太后的干政,所以光绪皇帝面临着非常尴尬的政治处境,国家大事都需要经过慈禧太后的同意才可以执行,虽