类Sora模型到底懂不懂物理?字节完成系统性实验证明
Sora爆火以来,模明“视频生成模型到底懂不懂物理规律”受到热议,型到系统性实但业界一直未有研究证实。底懂近日,不懂字节跳动豆包大模型团队公布最新论文,物理完成研究历时8个月,字节围绕“视频生成模型距离世界模型有多远”首次在业界完成系统性实验并给出明确结论:视频生成模型可以记忆训练案例,验证但暂时还无法真正理解物理规律,模明做到“举一反三”。型到系统性实
图灵奖得主、底懂Meta首席AI科学家杨立昆点赞并转发了该研究,不懂表示“结论不令人意外,物理完成但很高兴终于有人做了这个尝试!字节”
自OpenAI发布Sora模型以来,验证很多视频生成模型都会强调其生成结果对物理规律的模明遵循。豆包大模型视觉团队相关小组,对视频生成模型究竟能否从视觉数据中“发现”并“理解”物理定律感到好奇,决定深入研究。
历时8个月,该团队完成了业界首个系统性的实验研究。团队通过专门开发的物理引擎合成了匀速直接运动、小球碰撞、抛物线运动等经典物理场景的运动视频,用于训练基于主流DiT架构的视频生成模型。然后,通过检验模型后续生成的视频在运动和碰撞方面是否符合力学定律,判断模型是否真正理解了物理规律,并具有“世界模型”的潜力。
实验中设计的不同运动场景
豆包大模型团队的实验发现,即使遵循“Scaling Law”增大模型参数规模和数据量,模型依然无法抽象出一般物理规则,做到真正“理解”。
以最简单的匀速直线运动为例,当模型学习了不同速度下小球保持匀速直线运动的训练数据后,给定初始几帧,要求模型生成小球在训练集速度区间内匀速直线运动的视频,随着模型参数和训练数据量的增加,生成的视频逐渐更符合物理规律。
然而,当要求模型生成未曾见过的速度区间(即超出训练数据范围)的运动视频时,模型突然不再遵循物理规律,并且无论如何增加模型参数或训练数据,生成的结果都没有显著改进。这表明,视频生成模型无法真正理解物理规律,也无法将这些规律泛化应用到全新的场景中。
通过进一步的实验分析,研究团队得出结论,“生成新视频时,模型主要依赖对训练案例的记忆和匹配。视频生成模型就像一个只会‘抄作业’的学生,一旦遇到从未见过的场景,如不同大小、速度的物体相互作用,就会‘犯迷糊’,生成结果与物理规则不符。”
不过,研究中也有一个好消息:如果训练视频中所有概念和物体都是模型已熟悉的,此时加大训练视频的复杂度,比如组合增加物体间的物理交互,通过加大训练数据,模型对物理规律的遵循将越来越好。这一结果可为视频生成模型继续提升表现提供启发。
据了解,本研究两位核心一作都非常年轻,一位是95后,一位是00后,在豆包大模型团队专注视觉领域的基础研究工作。作者们一直对世界模型感兴趣,在8个月的探索中,他们阅读了大量物理学研究文献,也尝试从游戏中获得研发灵感,历经多次失败后,最终一步步确定研究思路和实验方法。
友链
外链
互链
Copyright © 2023 Powered by
六合彩图库源码【购买联系电报bc3979】AC彩票网站源码|六合彩源码|彩票搭建|新中原六合彩源码|【网站bc9797.com】六合彩论坛源码【联系飞机bc3979】
sitemap
-
文章
23
-
浏览
92
-
获赞
52
热门推荐
-
Nike Court Tech Challenge 网球战靴下周发售,致敬阿加西
潮牌汇 / 潮流资讯 / Nike Court Tech Challenge 网球战靴下周发售,致敬阿加西2020年02月22日浏览:3650 日前,耐克推出一双全新呼吸内科深入开展多形式健康教育,丰富优质护理内涵
为进一步提高住院患者的健康教育效果及患者满意度,近日,呼吸内科以迎接大型医院巡查为契机,针对患者开展了多形式的健康教育。通过征集全科室医护人员的意见和建议,呼吸内科决定从以下三个方面改进患者教育内容,德赫亚同意20万镑周薪续约 投皇马前再留曼联1年
4月29日报道:德赫亚和皇马的传闻旷日持久,范加尔上周承认曼联门神掌握续约的主动权。《独立报》的独家消息称,德赫亚将以20万英镑周薪和曼联续约,至少再留一个赛季,这样即使他明年夏天转会皇马,红魔也不至《黑神话:悟空》带火山西!大同华严寺游客暴增超50%
国产3A大作《黑神话:悟空》全球上线后迅速火遍海内外,相关话题登上热搜。除了精美画面、独特玩法,游戏对中国地理风貌和中国古建筑、塑像、壁画等文化宝藏的精细还原,成为文旅界关注的对象。据媒体报道,借助这Engineered Garments 2020 春夏系列 Lookbook 赏析~
潮牌汇 / 潮流资讯 / Engineered Garments 2020 春夏系列 Lookbook 赏析~2020年02月17日浏览:3352 看过了 2020FW老佛爷时代第1000场!本泽马破门 连续7场进球创纪录
老佛爷时代第1000场!本泽马破门 连续7场进球创纪录_阿森西奥www.ty42.com 日期:2021-04-04 01:06:00| 评论(已有266918条评论)江西于都:检查棉絮棉被保过冬
入冬以来,江西省于都县市场监管局组织执法人员,深入全县棉花加工作坊、棉被棉衣加工销售商店、集贸市场等经营场所,开展棉絮棉被市场专项检查整治活动,全面清查棉絮制品及床上用品经营主体资格,严查以医疗废旧物网传OPPO Find N5明年Q1发布:搭载骁龙8 Gen 4
知名数码博主“数码闲聊站”爆料称,OPPO Find N5将于2025年一季度问世,搭载高通骁龙8 Gen 4移动平台,配备2k分辨率大尺寸内屏,后置搭载5000万像素索尼三摄系统,包括潜望式长焦镜头英媒:若林加德不续约将在冬窗被卖 纽卡西汉姆有意
英媒:若林加德不续约将在冬窗被卖 纽卡西汉姆有意_曼联www.ty42.com 日期:2021-10-12 08:01:00| 评论(已有306472条评论)红魔锋线猎物已抵达曼市 英媒曝竟遭利物浦截胡
4月25日报道:上个赛季同期的利物浦正向英超冠军发起强势冲击,而本赛季的红军却只能排名英超第5,距离前4仍有7分差距。在谈到红军本赛季的低迷时,罗杰斯承认是攻击力差使然,他暗示今夏将在锋线进行加强。《漫威动画剧集《假如……?》第三季为最终季
迪士尼宣布漫威动画剧集《假如……?》第三季为最终季,其中一集由美国队长、月光骑士、莫妮卡·兰博光谱)等人组成的复仇者团队对抗高达怪物。杰拉德生涯英超第500战 带伤仍完赛诠释一生挚爱
4月26日报道:北京时间4月26日凌晨,英超第34轮中,利物浦客场0-0闷平西布朗。尽管红军最终未能全取3分,但本场比赛依旧意义非凡,因为作为球队队魂的杰拉德迎来了个人职业生涯的联赛第500次出场。比曼晚为曼联评分:安东尼2分最低,梅努、小麦、霍伊伦8分最高
英超第22轮,曼联客场4-3险胜狼队,赛后,《曼市》为曼联全队评分,替补登场的安东尼2分最低,进球功臣梅努、麦克托米奈、霍伊伦等人8分并列最高。 《曼市》为曼联全队评分 门将:奥纳纳4分后卫:达洛特8三年后见!《冰雪奇缘3》北美定档2027年11月24日
迪士尼动画电影《冰雪奇缘3》北美定档2027年11月24日感恩节,延续该系列在感恩节假期前后上映的传统。届时距离第一部上映已过14年、距离第二部上映已过8年。在前不久的D23,该片刚曝光首张概念艺术:10件5G能实现但4G不能做的事情
雷锋网按;2019年6月6日,工信部正式向中国电信、中国移动、中国联通、中国广电发放5G商用牌照,这表明中国正式进入了5G商用的阶段。一时间关于5G的讨论更加热烈,那么对于普通用户而言,5G相比4G到