您的位置: 首页 >商业新闻 >

英伟达史上最强AI芯片都发布了 你知道GPU的原理和前景吗

2023-11-19 16:03:04 编辑:郑馨艳 来源:
导读 近日,英伟达再一次发布重量级AI芯片,这款芯片命名为H200,被称作为新一代史上最强AI芯片。该芯片拥有141g显存,是之前a100和h100芯片的两...

近日,英伟达再一次发布重量级AI芯片,这款芯片命名为H200,被称作为新一代史上最强AI芯片。该芯片拥有141g显存,是之前a100和h100芯片的两倍左右。H200芯片提供hbm3e的gpu,而且借助这款gpu,能够以每秒4.8 TB的速度提供141 GB的显存,整体的带宽速率也增加了2.4倍。H200可以更加快速的生成AI和大语言模型,而且还能够快速推进hpc的工作负载计算模式。

英伟达对这款芯片进行了官方测试,相较于h100芯片,该芯片的推理速度几乎翻倍,当使用h200和英伟达的Grace CPU进行组合使用的时候,就可以形成更强的gh 200超级芯片,这样可以为一些大型hpc和AI应用提供更有效果的计算服务。

英伟达如今发布了这样一款超级芯片,再一次引动了行业人士的关注,很多人或许不知道gpu的应用含义,但是如果是一位游戏爱好者,大概率会知道购买游戏设备会更加注重GPU的性能,这是常说的CPU决定下限。Gpu决定上限,Gpu的存在是决定了游戏分辨率和特效清晰度的效果,而且对于用户的游戏体验是起到关键性的作用。

Gpu采用的是流式并行计算模式,可以对每一个数据进行独立的并行计算,而且非常擅长大规模的并发计算,这正是自动驾驶场景中所需要的功能。自动驾驶场景一般是在处理实时数据之后,需要在毫秒的时间精度下对车辆的路径和行进规划进行计算,所以说对处理器的计算速度是有着非常高的要求。其次gpu的特性就是深度学习,AI大模型的参数量目前已经从亿级飙升到万亿级。训练的时间从原先的小时提升到天,这让大模型对算力的要求变得更高。高性能的gpu集群在这个时候刚好可以满足这个要求。


免责声明:本文由用户上传,如有侵权请联系删除!

精彩推荐

图文推荐

点击排行

2016-2022 All Rights Reserved.平安财经网.复制必究 联系QQ   备案号:

本站除标明“本站原创”外所有信息均转载自互联网 版权归原作者所有。

邮箱:toplearningteam#gmail.com (请将#换成@)