据媒体报道，在今年的Hot Chips 2023上，三星电子公布了HBM（高带宽存储器）-PIM（存内计算）和LPDDR（低功耗双倍速率动态随机存取存储器）-PIM的最新研究成果，三星表示，在未来，这两款存储器均为可用于人工智能行业的下一代存储器。
三星电子和AMD在此前就已经开始了有关PIM技术的合作，三星在AMD的商用GPU加速卡MI-100上配备了HBM-PIM内存，并将其应用于生成式人工智能，根据三星的研究结果显示，与现有HBM相比，配备了HBM-PIM的GPU的性能和功效提高了一倍以上。此外，为了验证MoE（混合专家系统）模型，三星使用96个配备了HBM-PIM的MI-100 GPU来构建HBM-PIM集群。在MoE模型中，与HBM相比，HBM-PIM GPU的性能提高了一倍，能效提高了三倍。
为了解决近年来人工智能行业开始出现的内存瓶颈，HBM-PIM等下一代内存技术受到了广泛的关注。HBM-PIM通过PIM技术可以在存储器本身内进行计算处理，理想情况下，PIM可以有效消除存储单元与计算单元之间的数据吞吐，从而提高了性能和能效。
除了HBM-PIM，三星电子还展示了LPDDR-PIM，它将移动DRAM与PIM相结合，可在移动设备中直接进行数据的处理和计算。由于它是针对移动设备开发的产品，因此它的带宽（102.4GB/s）也较低。但功耗却节省了72%。
微信扫一扫 
支付宝扫一扫 
