类Sora模型到底懂不懂物理?字节完成系统性实验证明
Sora爆火以来,模明“视频生成模型到底懂不懂物理规律”受到热议,型到系统性实但业界一直未有研究证实。底懂近日,不懂字节跳动豆包大模型团队公布最新论文,物理完成研究历时8个月,字节围绕“视频生成模型距离世界模型有多远”首次在业界完成系统性实验并给出明确结论:视频生成模型可以记忆训练案例,验证但暂时还无法真正理解物理规律,模明做到“举一反三”。型到系统性实
图灵奖得主、底懂Meta首席AI科学家杨立昆点赞并转发了该研究,不懂表示“结论不令人意外,物理完成但很高兴终于有人做了这个尝试!字节”
自OpenAI发布Sora模型以来,验证很多视频生成模型都会强调其生成结果对物理规律的模明遵循。豆包大模型视觉团队相关小组,对视频生成模型究竟能否从视觉数据中“发现”并“理解”物理定律感到好奇,决定深入研究。
历时8个月,该团队完成了业界首个系统性的实验研究。团队通过专门开发的物理引擎合成了匀速直接运动、小球碰撞、抛物线运动等经典物理场景的运动视频,用于训练基于主流DiT架构的视频生成模型。然后,通过检验模型后续生成的视频在运动和碰撞方面是否符合力学定律,判断模型是否真正理解了物理规律,并具有“世界模型”的潜力。
实验中设计的不同运动场景
豆包大模型团队的实验发现,即使遵循“Scaling Law”增大模型参数规模和数据量,模型依然无法抽象出一般物理规则,做到真正“理解”。
以最简单的匀速直线运动为例,当模型学习了不同速度下小球保持匀速直线运动的训练数据后,给定初始几帧,要求模型生成小球在训练集速度区间内匀速直线运动的视频,随着模型参数和训练数据量的增加,生成的视频逐渐更符合物理规律。
然而,当要求模型生成未曾见过的速度区间(即超出训练数据范围)的运动视频时,模型突然不再遵循物理规律,并且无论如何增加模型参数或训练数据,生成的结果都没有显著改进。这表明,视频生成模型无法真正理解物理规律,也无法将这些规律泛化应用到全新的场景中。
通过进一步的实验分析,研究团队得出结论,“生成新视频时,模型主要依赖对训练案例的记忆和匹配。视频生成模型就像一个只会‘抄作业’的学生,一旦遇到从未见过的场景,如不同大小、速度的物体相互作用,就会‘犯迷糊’,生成结果与物理规则不符。”
不过,研究中也有一个好消息:如果训练视频中所有概念和物体都是模型已熟悉的,此时加大训练视频的复杂度,比如组合增加物体间的物理交互,通过加大训练数据,模型对物理规律的遵循将越来越好。这一结果可为视频生成模型继续提升表现提供启发。
据了解,本研究两位核心一作都非常年轻,一位是95后,一位是00后,在豆包大模型团队专注视觉领域的基础研究工作。作者们一直对世界模型感兴趣,在8个月的探索中,他们阅读了大量物理学研究文献,也尝试从游戏中获得研发灵感,历经多次失败后,最终一步步确定研究思路和实验方法。
友链
外链
互链
Copyright © 2023 Powered by
六合彩图库源码【购买联系电报bc3979】AC彩票网站源码|六合彩源码|彩票搭建|新中原六合彩源码|【网站bc9797.com】六合彩论坛源码【联系飞机bc3979】
sitemap
-
文章
9161
-
浏览
83381
-
获赞
11
热门推荐
-
强!麦迪逊本赛季客场送出6记助攻,五大联赛球员中最多
2月3日讯 在英超第23轮比赛中,麦迪逊助攻理查利森破门,帮助热刺客场2比1领先埃弗顿。据Squawka统计,本赛季至今,麦迪逊在联赛客场比赛中送出6记助攻,五大联赛球员中最多。 木子)标签:埃弗顿扎卡本场数据:5次解围+5对抗3成功,获评7.0分
6月20日讯苏格兰在本轮欧洲杯1-1战平瑞士,瑞士中场扎卡本场数据如下:66次触球54次传球、44次成功,成功率81%1次传中、0次成功6次长传、2次成功1次射门、1次射正1次过人、1次成功5次对抗、化身“交交”,科沃斯服务机器人银行卖萌
“存十万块还是去柜台吧,土豪。”“哎呀,脚脚绊住了!”近日网上曝光了一段交通银行机器人的视频,不仅能指导顾客办理相关业务,还会各种调侃卖萌,网友纷纷直呼“萌化人心”!紧接着,东北版“交交”,四川版“娇安踏全新 2022 新年限定配色鞋款系列即将来袭
潮牌汇 / 潮流资讯 / 安踏全新 2022 新年限定配色鞋款系列即将来袭2021年12月30日浏览:5809 安踏篮球鞋旗下主力军 KT7 与 GH3 日前也迎来了潮牌 CPFM 2020 春季新品将于 DSM 洛杉矶店上架
潮牌汇 / 潮流资讯 / 潮牌 CPFM 2020 春季新品将于 DSM 洛杉矶店上架2020年02月13日浏览:4206 自携手 Human Made 带来合作后,日包含江阴市夏港时尚丽人服装店的词条
包含江阴市夏港时尚丽人服装店的词条来源:时尚服装网阅读:869个性时尚服装店比较个性女装店铺起名示例 【伊之魅】 “伊”借用了“衣服”中“衣”的读音,用来给服装店起名很切合,一般来说都是表现是女性2024萤石云开发者大会:大模型解锁更多AI场景
6月27日,以“AI达百业,视之所向”为主题的2024 ECDC萤石云开发者大会在杭州举办。6月27日,以“AI达百业,视之所向”为主题的2024 ECDC萤石云开发者大会在杭州举办。萤石已打造全球领Human Made 全新“DOG”别注系列开售,猎犬图案
潮牌汇 / 潮流资讯 / Human Made 全新“DOG”别注系列开售,猎犬图案2022年01月08日浏览:3963 在 2022SS 新季型录公布之际,NIGO马连奴箱包属于哪个品牌(马连奴的包是真皮吗)
马连奴箱包属于哪个品牌(马连奴的包是真皮吗)来源:时尚服装网阅读:1551马连奴.奥兰迪这个牌子的皮包怎么样?中档价位。马连奴奥兰迪主张演绎快时尚,其品牌皮包价位在200元至1500元不等,致力于将国Redmi K70至尊版开启预热:支持IP68级防尘防水
小米中国区市场部副总经理、Redmi品牌总经理王腾在社交媒体发文称,Redmi K70至尊版手机支持IP68级防尘防水,“应该是今年暑期档,唯一一款支持IP68的旗舰手机,非常适合暑期出游的朋友”。时中粮各上市公司11月30日-12月4日收盘情况
中粮集团旗下各上市公司11月30日-12月4日收盘情况如下:11月30日12月1日12月2日12月3日12月4日中粮控股香港)06069.9010.009.809.9510.50中国食品香港)0506世体:巴萨今夏要先出售球员再引援,有意迪亚斯、基米希等球星
06月19日讯 西班牙媒体《世界体育报》撰文分析了巴萨今夏的引援和转会可能,文中表示巴萨需要先出售球员才能引援。报道称:巴萨新赛季的引援计划取决于俱乐部的财政情况。在规则下,诺坎普需要出售一名或多名球maxmara六大经典款(maxmara六大经典款大衣介绍)
maxmara六大经典款(maxmara六大经典款大衣介绍)来源:时尚服装网阅读:6853maxmara是什么品牌?这款版型的大衣真绝了1、MaxMara是一个意大利品牌,始于1951年,创办人AchFind X7就支持 OPPO大力推进5G
中国移动已宣布正式商用下一代5G-Advanced网络,集成OPPO超级信号工程技术的Find X7系列,也成为行业首款5G-Advanced手机。国际标准化组织3GPP,近日在上海举行的第104次全Redmi K70至尊版开启预热:支持IP68级防尘防水
小米中国区市场部副总经理、Redmi品牌总经理王腾在社交媒体发文称,Redmi K70至尊版手机支持IP68级防尘防水,“应该是今年暑期档,唯一一款支持IP68的旗舰手机,非常适合暑期出游的朋友”。时