AI 硬件核心是算力和存力,HBM 高带宽、低功耗优势显著,是算力性能发挥的关键。
AI 硬件核心是算力和存力,HBM 高带宽、低功耗优势显著,是算力性能发挥的关键。AI 芯片需要处理大量并行数据,要求高算力和大带宽,算力越强、每秒处理数据的速度越快,而带宽越大、每秒可访问的数据越多,算力强弱主要由 AI 芯片决定,带宽由存储器决定,存力是限制 AI 芯片性能的瓶颈之一。AI 芯片需要高带宽、低能耗,同时在不占用面积的情况下可以扩展容量的存储器。HBM 是 GDDR 的一种,定位在处理器片上缓存和传统 DRAM 之间,兼顾带宽和容量,较其他存储器有高带宽、低功耗、面积小的三大特点,契合 AI 芯片需求。HBM 不断迭代,从 HBM1 目前最新到 HBM3E,迭代方向是提高容量和带宽,容量可以通过堆叠层数或增加单层容量获得提升,带宽提升主要是通过提升 I/O 速度。