这么多做 AI 芯片的,NovuMind 吴韧做的有何不同?

2024-11-17 00:49:10 admin

10月12日,多做的德国慕尼黑,芯片英伟达 GTC 大会。多做的

惠普 HPE 向来自全球的芯片开发者和厂商,展示了世界上首个面向企业级用户的多做的人工智能软硬件解决方案,而在 HPE 的芯片高性能计算硬件上搭载的,是多做的吴韧所创立的 NovuMind 历时两年研发出来的深度学习训练平台。

这么多做 AI 芯片的芯片,NovuMind 吴韧做的多做的有何不同?

吴韧先后担任AMD异构系统首席软件架构师,惠普实验室 CUDA 研究中心首席研究员,芯片百度公司杰出的多做的科学家,两年前,芯片他决定创业,多做的致力于打造“ASIC芯片+训练模型”的芯片全栈式AI解决方案。

两年过去,多做的吴韧出现在鲜有中国面孔的 GTC 欧洲大会上,带着业界最快的深度学习训练平台高调亮相,雷锋网独家专访吴韧博士,看看这位曾经名动一时的计算机博弈专家现在在做什么?

一家公司:NovuMind

2015年8月,卸下“百度杰出科学家”光环的吴韧回到硅谷,并未用多少时间,便说服了芯片大拿 Chien-Ping Lu、前惠普实验室首席工程师 Kar Han Tan 加入,很快组建起了 40 多人规模的硅谷团队。在国内,则由曾为英伟达立下汗马功劳的谢强、差点拿到百度总裁奖的胡殿民“搭了班子”,预计在明年初,团队规模将和硅谷持平。

2016年12月,NovuMind 完成了 A 轮 1500 多万美元的融资,背后的资本方有洪泰基金、宽带资本、真格基金、英诺天使和臻迪科技等。

在吴韧看来,NovuMind 是一家全球化的公司,布局中国、美国、欧洲三块市场,为人工智能训练超级计算机,为应用端提供 AI 专用芯片。在这条赛道上,一方面竞争异常激烈,另一方面耗时耗力。不过,吴韧认为 NovuMind 做的事情,和其他厂商完全不同。

对于大部分处在应用层的公司而言,急需 AI 技术,但又不可能像巨头公司一样雇佣几个百万年薪的技术大咖,也不可能买得起千万起的训练设备。NovuMind 想要创造的价值就是降低门槛,让任何传统企业都能够很容易把 AI 技术用起来。吴韧表示,对于 AI 来说,更为重要的是不是一两个公司冲在最前面,而是大多数公司都能跟上。想要达到这个目的,关键在于能够降低把训练能力、模型低成本的部署,并且不仅部署在云端,同时还在终端。

在训练方面,很像当年的 Hadoop 和 Cloudera ,吴韧说:

大家都可以去下载一个 Hadoop,但是大部分公司是没有这个能力把 Hadoop 跑起来的,于是都去找 Cloudera 这样的公司去把产品化的 Hadoop 买回来,直接使用,这是使用很复杂的开源系统解决具体商业问题很好的例子。我们也一样,人工智能的训练一定需要非常成熟的软硬件体系,让一个普通公司,买了我们的系统后,按个键,就可以开始训练模型了。

在端应用方面,吴韧认为做平台不是正确的思路,NovuMind 追求的是最极致的优化、最高的性能功耗比,而平台意味着性能的降低——通用性就是性能的降低。在吴韧看来,AI 的关键能力,“实际上就那么几个”——比如视觉、听觉、感知其他信号的能力。把其中一个能力,放入一个解决方案中,其实已经可以了。

吴韧进一步向雷锋网解释,芯片对视觉有特别的优化,实际上已经能够覆盖非常多的应用场景,在“通用性”上,其实并没有降低太多,比如说人脸识别、车辆识别等,看起来不一样,但对芯片只是换一个模型而已。

而和其他芯片厂商做法不同的是,NovuMind 完全舍弃了“矩阵”。常规来说,在数学和工程上,矩阵能够达到凭借最小的操作覆盖最多应用场景的效果,把矩阵做好以后,大部分工程问题都可以解决。但矩阵本身并不是 AI 计算的关键点,关键在于卷积,也就是三维张量的计算 。吴韧认为,既然如此,那 NovuMind 的 AI 芯片,就不去考虑矩阵,只专注三维张量就好。要解决视觉问题,这个芯片就把这件事做彻底,完全不考虑任何通用性,极端定制化带来极端的性能优势。

产品方面,雷锋网此前也曾报道,NovuMind 的第一个AI芯片(原型)预计会在今年圣诞节前推出。吴韧表示,到明年2月份,他希望应用程序都准备就绪,并能够在该芯片上实现耗能不超过5瓦进行15万亿次浮点运算。而 NovuMind 的第二个芯片,耗能将不超过1瓦,计划在2018年中期面世。

那 NovuMind 产品目前的效果又如何?

一个案例:华西医院

实际上,虽然产品还在研发过程中,但核心技术已经能够落地了。早在 2016 年 3 月,吴韧就与希式医疗公司有了初步的合作意向。而在过去不久的 7 月,Novuseeds——NovuMind 合资公司——和华西医院开始了全面合作,将 AI 技术应用在消化道的内窥镜上。

在吴韧看来,目前现有的医疗 AI ,真正有影响力的只有两个,都是谷歌参与的。其一是通过视网膜判断糖尿病,其二是通过皮肤照片判断皮肤癌。靠谱的原因是,拥有差不多 10 万份数据,准确率达到 90%。

NovuMind 和华西医院的合作,数据来自华西医科大学,用了 20万份数据,准确率达到 95%。NovuMind 要做的,就是将性能优异的 AI 专用芯片,植入到内窥镜中。

此外,安防也是 NovuMind 长期布局的一个领域。

将人脸识别、车辆识别用于安防,其实是很多公司都在做的一件事,媒体大肆报道后,大众也不再陌生。吴韧认为,难点在于复杂的程度。他表示,稍微调查一下会发现,北京市目前有100万路,很多公司在达到“100路”这个量级的时候就做不下去了, 而 NovuMind 目前在没用自己研发的芯片的情况下,可以做到 10 万路。

现在的做法实际上是通过摄像头,在云端或数据中心进行分析,这个前提是摄像的视频,10万路视频要传到数据中心的某一个地方,再来做分析。但如果有了芯片以后,这个摄像头本身就可以做分析,那是就可以解决100万路、1000万路的问题了。

一个合作:惠普HPE

在近日举办的英伟达 GTC 欧洲大会上,吴韧第一次对外展示了 NovuMind 耗时两年开发的深度学习训练平台,并且宣布与惠普 HPE 达成了战略合作。

惠普 HPE 作为重要的高性能计算设备提供商,覆盖了大多数世界500强企业用户,在世界 Top500 超级计算机中占有接近 1/3 的席位。在吴韧看来, NovuMind 之所以受到惠普的青睐,是因为拥有全栈的人工智能技术。

惠普 HPE 资深高性能计算 (HPC) 技术顾问、深度学习专家 Bruno Monnet 在 GTC 欧洲大会上做了主题为“HPE 和 NovuMind 推动更大规模的深度学习 ”(Improving Deep Learning Scalability on HPE Servers With NovuMind: GPU RDMA Made Easy) 的演讲,Bruno 大力赞赏了 NovuMind 所做的努力,并且认为 NovuMind 软件和 HPE 高性能计算硬件的配合是“相得益彰”。

这么多做 AI 芯片的,NovuMind 吴韧做的有何不同?

同时,Bruno 还说,“有了 NovuMind 的深度学习训练平台,HPE 可以真正帮助全世界各大中小企业实现人工智能赋能”。

目前,NovuMind 已启动筹备下一轮融资,本轮融资将会被用于产品研发和扩大团队。

友链


  • 文章

    6

  • 浏览

    9769

  • 获赞

    5

赞一个、收藏了!

分享给朋友看看这篇文章

热门推荐