英特尔今年推出了第二代深度学习芯片Habana Gaudi2和Habana Greco，分别用于AI训练和AI推理。这些芯片专门为AI深度学习应用打造，建立在Habana Labs的高效架构之上，为客户提供更高性能的AI训练和AI推理，将用于数据中心的计算机视觉和自然语言应用。两款芯片均出自于Habana Labs，英特尔在2019年以20亿美元将其收购。
近日英特尔在AI产品战略暨Gaudi2新品发布会上，宣布正式面向中国市场发售Habana Gaudi2，用于人工智能和高性能计算领域，预计浪潮、新华三和xFusion等厂商会推出搭载Gaudi2的AI服务器。官方称Gaudi2训练性能比英伟达A100加速器更好，价格也更便宜，可作为替代方案。
相比于Gaudi，新一代的Gaudi2的制造工艺由16nm升级到了7nm；内核数量有8个增加到了24个；内存和缓存从32GB HBM2 / 24MB提高到了96GB HBM2e / 48MB，带宽从1TB/s增加到了2.45TB/s；网络连接从10个100GbE变成了24个100GbE；TDP也从350W提高到了600W。
据英特尔介绍，Gaudi2在GPT-3模型上，384个加速器上的训练时间为311分钟，从256个加速器到384个加速器实现近线性95%的扩展效果，在计算机视觉模型ResNet-50（8个加速器）和Unet3D（8个加速器）以及自然语言处理模型BERT（8个和64个加速器）上取得了优异的训练结果。与去年11月提交的数据相比，BERT和ResNet模型的性能分别提高了10%和4%，证明Gaudi2软件成熟度的提升，软件支持在持续发展和成熟，并能与日益增长的生成式AI及大语言模型的需求保持同步。
微信扫一扫 
支付宝扫一扫 
