科技之家

科技之家,汇聚专业声音 解析IT潮流

首页 > 手机 > 华为 >

华为高管:其AI芯片算力性能优于英伟达A100

来源:科技之家 时间:2024-06-19 10:13:34

  2024 世界半导体大会暨南京国际半导体博览会的一场分论坛上,江苏鳀鹏 · 升腾生态创新中心首席营运官王陶透露,升腾集群是中国唯一已完成训练千亿参数大模型的技术路线,性能已经超过了英伟达A100.

  王陶表示,中国大模型里面,有近50%(1/2)选择了升腾技术路线。 与英伟达A100相比,升腾AI芯片在训练效率层面最高是英伟达的1.1倍。 尤其在训练 Meta Llama、BloomGPT 等模型方面,升腾 AI 算力训练效率大大优于英伟达 A100.

  据陆媒《钛媒体》报导,升腾和鲣鹏分别是华为面向通用运算和智能运算的两款算力产品,是华为AI运算生态里面的关键技术系列。

  公开信息显示,江苏鳀鹏 · 升腾生态创新中心成立于 2019 年 8 月,是南京江北新区与华为联合宣布发展鲲鹏计算产业后成立的创新机构。 王陶称,创新中心的使命是基于华为的鲣鹏、升腾技术,联合生态伙伴赋能千行百业进行数字转型。

  最新年报显示,2023年,华为公司共实现营收7042亿元,同比增长9.6%; 净利润870亿元,同比增长144%。 同时,华为重视研究与创新,2023年研发投入达1647亿元,占全年收入的23.4%,十年累计投入的研发费用超过1.11万亿元。

  王陶指出,基于华为自研的AI算力,从底层的Atlas硬件到算子库,再到上层的开发工具链,升腾在大模型推理、训练两个方面均提供一整套解决方案,包括开发套件、基础加速库等。 而在开发速度上,基于升腾方案,客户大幅缩短开发周期,在典型场景下推理效能提高1.5-3倍,实现更强的业务协同。

  算力层面,目前,华为在中国20多个城市建设升腾人工智能运算中心,超过2500PFlops(每秒运算能力为2500千万亿次)普惠Al算力。

  而目前,包括腾讯、百度在内的中国科技巨头以及科大讯飞等领先的新创公司都购买了 910B。

  华为公司升腾运算业务总裁张迪煊上个月透露,升腾生态系统拥有40个硬件合作伙伴、超过1600个软件合作伙伴和超过2900个AI应用解决方案。

  王陶则透露,华为鲭鹏在中国有5100+合作伙伴,15800+解决方案,拥有开发者超过310万。

相关文章