英伟达推出最强AI芯片首发HBM3e 大模型运行能力可提升3.5倍

2023-08-10 17:46:40 编辑：戚儿唯来源：

导读 8月8日消息，英伟达又发布了一款新一代GH200 Grace Hopper平台，与今年五月份发布的gh 200平台不同的是，新一代的GH200平台搭载了全球首...

8月8日消息，英伟达又发布了一款新一代GH200 Grace Hopper平台，与今年五月份发布的gh 200平台不同的是，新一代的GH200平台搭载了全球首款HBE3e内存。这种新型内存的容量和带宽都有着多方面的提升，是专门为AI时代所打造的内存芯片，相比于原版GH200平台，新版平台的双芯片配置将会把内存容量的数值提高到3.5倍，带宽也将会增加到三倍左右。

HBM3e是一种新一代的高带宽内存，他的带宽每秒钟能够达到5 TB，比原版平台搭载的Hbm3快了约50%，能够为新的gh 200提供每秒10 TB的组合带宽。这样就可以让新平台的运行更大的模型，能够达到近三倍的内存带宽性能效果。根据英伟达的介绍来看，目前配备hbm 3内存的原版gh 200平台已经在生产中，将会在下个月正式开始商业销售，配备新款内存芯片的平台正在样品测试中，预计会在2024年第二季度正式上市。

英伟达强调，新款平台使用与原版平台相同的CPU与gpu芯片，所以公司是无需推出任何的新型软件版本进行同步更新。英伟达还表示，原版的gh 200和升级版的gh 200在市场上是属于共存的，这也意味着，后者将会以更高的价格进行售卖，毕竟更加先进的内存技术必定是能够带来更高的性能。

英伟达CEO黄仁勋表示，为了满足生成不断式AI增长的需求，数据中心需要针对一些有特殊需求的加速计算平台提供更加卓越的内存技术和带宽。这样才能够提高吞吐量，从而实现无损耗连接gpu的性能效果。除了新款gh 200之外，英伟达在周二还发布了一款统一的工具包，这款工具包能够对英伟达Omniverse的软件服务进行一些升级。