NVIDIA 发布 AI 芯片 H200:性能较 H100 提升近一倍
在2023年全球超算大会(SC2023)上,芯片巨头英伟达发布了H100芯片的继任者,也是目前世界最强的AI芯片——H200。
相比于其前任产品H100,H200的性能直接提升了60%到90%。
不仅如此,H200与H100一样都是基于英伟达Hopper架构打造,这也意味着两款芯片可以互相兼容,对于使用H100企业而言,可以无缝更换成最新的H200。
同时H200还是英伟达首款使用HBM3e内存的芯片,速度更快容量更大,更适合用于大语言模型的训练或者推理。
除了HBM3e内存外,H200的内存容量为141GB,带宽从H100的3.35TB/s增加到了4.8TB/s。
H200的性能提升最主要体现在大模型推理表现上,H200 在700亿参数的Llama2大模型上的推理速度比H100快了一倍,而且在推理能耗上H200相比H100直接降低了一半。
对于显存密集型HPC应用,H200更高的显存带宽能够确保高效地访问操作数据,与CPU相比,获得结果的时间最多可提升110倍。
英伟达表示H200预计将于2024年第二季度出货,售价还暂未公布,不过在算力荒下,大科技公司们估计还是会疯狂囤货。
本文经快科技授权发布,原标题:英伟达发布全球最强AI芯片H200:性能较H100提升近一倍,文章内容仅代表作者观点,与本站立场无关,未经允许请勿转载。
爱吃饺子的狐狸
校验提示文案
大叔的话要听听
校验提示文案
来自南方的猪
校验提示文案
快乐简单
校验提示文案
值得批
校验提示文案
郑家卫
校验提示文案
多多不叫夕夕
校验提示文案
梦萦魂牵
校验提示文案
老周师傅
校验提示文案
Y-_-C-_-Y
校验提示文案
Alex大拖把头
校验提示文案
华路仔
校验提示文案
值友8718084228
校验提示文案
xiaonan2016
校验提示文案
萌石头
校验提示文案
野牛牛
校验提示文案
c2烦了
校验提示文案
值友9919790998
校验提示文案
爆料良十三
校验提示文案
佛热
校验提示文案
桪桪
校验提示文案
爱吃红烧肉的老白
校验提示文案
我吃猪肉我光荣
校验提示文案
值友6247354484
校验提示文案
大月生
校验提示文案
wdxxyl
校验提示文案
看不起便宜买不起贵
校验提示文案
xiaonan2016
校验提示文案
可能是木木
校验提示文案
木有马捏
校验提示文案
值友8718084228
校验提示文案
白云下的乌云
校验提示文案
ouco
校验提示文案
预判你的预判的预判
校验提示文案
红的洋的吨吨吨
校验提示文案
华路仔
校验提示文案
佛热
校验提示文案
老周师傅
校验提示文案
爆料良十三
校验提示文案
来自南方的猪
校验提示文案