前段时间Intel公布了Habana Gaudi
2加速器的MLPerf测试结果，表明了它在先进的视觉语言模型上拥有卓越的性能，现在三个月过去了，Intel再次公布了这测试的最新结果，获得的数据证明Gaudi
AI加速器可以成为NVIDIA H100 GPU的可行代替品，显示了Intel在AI推理方面极具竞争力。
根据Intel公布的数据，Gaudi 2加速器的性能有不错的提升，超过了对手NVIDIA的A100
GPU，Intel表示与市场上同类产品相比，他们的Gaudi 2加速器有更佳的价格，考虑到NVIDIA A100的售价，他们的说法确实没错。
Gaudi 2在GPT-J模型上的推理结果强有力地验证了其具有竞争力的性能，与NVIDIA的H100相比，Gaudi
2的表现还是可以的，H100相对于Gaudi 2只有1.09倍服务器以及1.28倍离线性能优势。而Gaudi
2对比A100，服务器性能要高出2.4倍，离线性能则高出2倍，Gaudi 2提交的结果采用FP8数据类型，并在这种新数据类型上达到了99.9%的准确率。
随着每6-8周公布的Gaudi
2软件更新，Intel将继续在MLPerf基准测试中展现其产品的性能提升，以及持续扩大的模型覆盖范围。
除此之外，Intel还公布了第四代至强可扩展处理器以及至强CPU
Max的一些测试结果，其中包括GPT-J模型。结果显示，包括视觉、语言处理、语音和音频翻译模型，以及更大的DLRM
v2深度学习推荐模型及ChatGPT-J模型在内，第四代至强处理器对于通用AI工作负载拥有出色的性能。
第四代至强可扩展处理器是通过流行的AI框架与库构建及部署通用AI工作负载的理想选择。对于GPT-J对约1000-1500字新闻稿进行100字总结的任务，第四代至强可扩展处理器可在离线模式下完成每秒两段的总结提要，在实时服务器模式下完成每秒一段的总结提要。
Intel首次提交了英特尔至强CPU
Max系列的MLPerf结果，该系列可提供高达64GB的高带宽内存。对于GPT-J而言，它是仅有的能够达到99.9%准确度的CPU，这对于对精度要求极高的应用来说至关重要。
Intel与OEM厂商合作提交了测试结果，进一步展示了其AI性能的可扩展性，以及基于至强处理器的通用服务器的可获取性，充分满足客户服务水平协议 (SLA)。
Intel执行副总裁兼数据中心与人工智能事业部总经理Sandra
Rivera表示：“正如最新的MLCommons结果显示，我们拥有强大的、具有竞争力的人工智能产品组合以满足客户对高性能、高效率的深度学习推理及训练的需求，同时，针对各种规模的人工智能模型，英特尔产品组合均具有领先的性价比优势。”
微信扫一扫 
支付宝扫一扫 
