科技创新！
摩尔线程与无问芯穹在国产GPU上首次实现大模型实训
3B规模大模型“MT-infini-3B”在摩尔线程夸娥（KUAE）千卡智算集群与无问芯穹AIStudio PaaS平台上完成了训练。线程芯穹型实训
摩尔线程联合无问芯穹宣布，无问双方在近日正式完成基于国产全功能GPU千卡集群的国产3B规模大模型实训。该模型名为“MT-infini-3B”，上首次实现在摩尔线程夸娥（KUAE）千卡智算集群与无问芯穹AIStudio PaaS平台上完成了高效稳定的大模训练。本次实训充分验证了夸娥千卡智算集群在大模型训练场景下的线程芯穹型实训可靠性，同时也在行业内率先开启了国产大语言模型与国产GPU千卡智算集群深度合作的无问新范式。
MT-infini-3B模型训练总用时13.2天，国产经过精度调试，上首次实现实现全程稳定训练不中断，大模集群训练稳定性达到100%，线程芯穹型实训千卡训练和单机相比扩展效率超过90%。无问目前，国产实训出来的上首次实现MT-infini-3B性能在同规模模型中跻身前列，相比在国际主流硬件上训练而成的大模其他模型，在C-Eval，MMLU，CMMLU等3个测试集上均实现性能领先。
MT-infini-3B性能表现
无问芯穹联合创始人兼CEO夏立雪表示：“国内大模型与国产芯片的软硬件协同发展，最终目标是构建一个成熟的生态系统。无问芯穹正在打造‘M种模型’和‘N种芯片’间的‘M×N’中间层产品，实现多种大模型算法在多元芯片上的高效、统一部署。摩尔线程是第一家接入无问芯穹并进行千卡级别大模型训练的国产GPU公司，而‘MT-infini-3B’的训练是行业内首次实现基于国产GPU芯片从0到1的端到端大模型实训案例。”
摩尔线程创始人兼CEO张建中表示：“无问芯穹在夸娥千卡智算集群上实现的从零开始的大模型训练，不仅是对摩尔线程技术实力的有力认证，更是实现了国内大模型训练的国产化闭环。摩尔线程夸娥千卡智算集群以全功能GPU为底座，提供软硬一体化的全栈解决方案，具备高兼容性、高稳定性、高扩展性等综合优势，我们致力于成为AGI时代大模型训练坚实可靠的先进基础设施。”
此前，摩尔线程与无问芯穹已达成深度战略合作。无问芯穹大模型开发与服务平台“无穹Infini-AI”和摩尔线程大模型智算千卡集群夸娥已完成系统级融合适配，该平台可以灵活调用夸娥的集群能力以完成大模型的训练、微调与推理任务。未来，双方还将开展更多适配与测试，推动国产大模型技术的快速发展与应用普及，为中国人工智能产业的蓬勃发展贡献力量。
友链
外链
互链
Copyright © 2023 Powered by
六合彩图库源码【购买联系电报bc3979】AC彩票网站源码|六合彩源码|彩票搭建|新中原六合彩源码|【网站bc9797.com】六合彩论坛源码【联系飞机bc3979】
sitemap
-
文章
41783
-
浏览
76
-
获赞
14
热门推荐
-
“中粮方案”基本定型
2016年7月18日，作为首批国有资本投资公司改革试点央企，中粮集团正式向社会公布其《国有资本投资公司改革总体方案》。经过一年来的探索完善，“中粮方案”不断向好、基本定型，主要宁夏空管分局气象台开展2024年第一季度案例分析会
为持续提升气象台服务保障能力，总结和丰富全员服务保障经验，3月12日，气象台开展案例分析会，气象台全员参加会议。 会上，预报室针对2月2日至4日银川河东机场降雪天气开展复盘分析，从天气实况回中南空管局管制中心区域管制中心开展雷雨换季专题学习
中南空管局管制中心 廖毓琪 三月份开始，中南地区的雷雨天气逐渐显现，为有效降低恶劣天气带来的潜在风险，确保2024年雷雨季管制运行安全，3月8日起，中南空管局管制中心区域管制中心以下简称&ldq湛江空管站组织青年职工观看法治电影《第二十条》
2024年2月28日，湛江空管站组织青年职工开展了一场集体观看《第二十条》的活动，旨在进一步提升青年职工的法治意识，帮助他们更好地理解法律条文。 此次活动得到了广大青年职工的积极响应，大长城葡萄酒荣登68周年国庆招待会
9月30日，中华人民共和国成立68周年国庆招待会在人民大会堂隆重举办，党和国家领导人与祖国各界知名人士及海外宾客等1200余人出席。长城桑干酒庄特别珍藏西拉干红、长城桑干酒庄珍藏级雷司令干白、长城华夏湛江空管站开展“三八”妇女节活动
3月8日，为庆祝“三八”国际妇女节，丰富女职工文化生活，提升女职工生活幸福感，湛江空管站组织开展了“寻访古迹庄园 体验农家乐趣”系列活动。吉林空管分局管制运行部团支部开展安全教育专题培训
为增强青年团员的安全意识和管制业务技能，帮助青年团员更加深入地了解安全生产的重要性，3月8日吉林空管分局管制运行部团支部联合安监室，对2023年入职的管制员开展安全教育专题培训。培训过程中，进近管制室春茶吐新芽采摘正当时
阳春三月，品春茶，知春韵。连日来，随着气温回暖，荆楚大地铺满新绿，鲜爽的春茶也陆续上市！茶山上、茶园里，随处可见茶农们忙碌的身影……值此美好春光，本版特开辟专栏“春茶吐新芽 采摘正当时”，让我们循着茶Air Jordan 3 SE“Animal Instinct”鞋款曝光，皮革面料
潮牌汇 / 潮流资讯 / Air Jordan 3 SE“Animal Instinct”鞋款曝光，皮革面料2020年03月02日浏览：2550 继去年 Jordan阿勒泰雪都机场开展航空器救援吊装设备培训
通讯员 朱东升） 为全面加强阿勒泰雪都机场消防救援设备建设，不断提升机场应急救援能力，近日，阿勒泰雪都机场引进中安(天津)航空科技发展有限公司研发生产的航空器救援吊装设备一套。3月7日，中安(天津情系女职工 法在你身边
通讯员 李永梅）在“三八”节来临之际，为依法保障女职工合法权益和特殊权益，进一步提升女职工依法维权的意识和能力，积极营造全社会尊重妇女、维护妇女合法权益的氛围。3月5日，民航华为生命护航，河南空管分局搭建绿色救援通道
通讯员：展新岩 叶艺强）2024年3月2日，正值春运的尾声，河南空管分局区域管制室的管制员们正忙碌地调配着天空中的航班。此时，一阵急促的电话铃声打破了平静，来自深圳飞往太原的海南航空航班报告称，一名儿中粮各上市公司2017年2月13日－2月17日收盘情况
中粮集团旗下各上市公司2017年2月13日－2月17日收盘情况如下： 2月13日 2月14日 2月15日 2月16日展现新作为，贡献她力量—运行指挥中心开展庆祝“三八”节活动
三八妇女节是一个属于女性的特殊节日，在运行指挥中心，有这样一群女职工，她们心思缜密，在网络排故时总能直击故障要害；她们任劳任怨，在济南办公楼搬迁期间，面对繁杂的搬迁任务经常加班加点；她们甘于奉献，在航阿克苏管理分公司组织看望慰问住院职工
中国民用航空网通讯员叶敬伟讯：近日，阿克苏管理分公司一行4人，前往医院看望慰问住院职工，为住院职工送上亲切关怀和慰问品。在医院病房，管理分公司党委书记亲切地询问了她的病情、身体状况以及治疗情况，并鼓励