IT之家2月12日音讯，SK海力士在一篇发布于本月4日的论文中忽视了H3搀和存储架构，其搀和竖立HBM高带宽内存与HBF高带宽闪存，充分弘扬两种介质各自的上风而幸免其短板。

SK海力士在论文中示意，HBF与HBM比较，带宽终点、容量更大、有观看蔓延更长、写入持久更差、功耗更高，澳门十大娱乐网站因此H3将HBF动作HBM的“二级膨大”，HBF存储只读数据、HBM则精采其尾数据。

{jz:field.toptypename/}

▲苟简手绘倡导图，H3即HBM+HBF的合座

具体在结构方面，a8体育appH3上GPU与HBM的BaseDie通过中介层互联，HBMBaseDie内置了HBM界限器和与HBF系统配套的“蔓延阻拦缓冲”，HBMBaseDie再通过中介层与HBFBaseDie聚拢，后者则包含HBF堆栈的界限器。

这一贪图使得H3能存储大量只读数据，合乎LLM推理责任负载环境，稀薄是那些接管分享预测算键值缓存的用例。仿真测试遵守标明，相较于仅使用HBM的传统系统，配备H3的GPU单元功耗的蒙眬量擢升了2.69倍，显现出该架构在措置具有海量只读数据的LLM推理方面的资本效益。