为惩办东谈主工智能（AI）芯片所濒临的“内存墙”这一永久挑战，把柄韩媒zdnet报导，内存封装界限正在征询弃取新一代AI芯片联想，将图形处理单位（GPU）或ASIC贪图单位和高带宽内存（HBM）拆分开来进行安详封装，然后通过“光学互联”本领来连气儿它们，不错将现时8颗HBM的装配数目进步到目下的数倍。

尽管每一代GPU性能齐在大幅进步，但存储数据的供应速率远远跟不上，HBM诚然提供了更宽的数据通谈，但面对AI运算需求的爆炸式增长，带宽和传输速率仍然不及。格外是跟着高带宽内存（HBM）堆叠层数从12层、16层向20层以上迈进，垂直堆叠本领已走到临界点——不仅工艺难度呈指数级高潮，JEDEC致使已放宽HBM高度设施，但更大的瓶颈在于：GPU芯片周围的容纳HBM的空间已破钞，无法再横向加多HBM数目。

往常，HBM一直紧贴在GPU阁下，这是为了最小化数据传输蔓延的势必弃取。关联词，在2.5D封装结构下，GPU芯片的“海岸线”——边际的长度严格死心了可容纳的HBM数目，GPU芯片周围的现存空间仍是无法装配更多HBM。

一位韩国大型存储厂商的赓续东谈主员向ZDNet露出：“目下，咱们正尽力膨胀HBM的带宽和容量，但咱们正在与客户征询何如通过光连气儿克服GPU的‘海岸线’死心，不错装配更多的HBM。”

具体而言，HBM可能被安置在距离GPU数厘米的位置，围绕GPU环形摆列，或在电路板中央修复安详的HBM区域。由于光信号传输速率远快于电信号，物理距离的加多不会酿成显著的蔓延耗损，米兰体育中国官网却不错透彻开脱GPU边长对HBM数目的死心。

这意味着，AI芯片厂商不需要内存厂商拚命堆高HBM层数，就不错将HBM水平铺展，在清除块基板上搭载比目下多半倍的容量，从而将通盘AI加快器系统的内存容量和数据带宽推上前所未有的水平。

“悉数可能性齐摆在桌面上征询，”上述赓续东谈主员暗示，“从充分行使GPU临近空间的决议，到将HBM统统终止到GPU基板下方的决议齐有触及。后者需要权贵膨胀主板尺寸和更动举座方法，目下已与GPU厂商伸开征询。”他强调，这些还属于下一代AI加快器的先行赓续，尚不决案。

行使光学互连本领来连气儿GPU和HBM的设念念并非空中楼阁。在2025年的Hot Chips大会上，Celestial AI已展示了其光子互联模块，该本领使用光来连气儿下一代大范围GPU与加快器中的芯片，并可将光学接口叮属在ASIC芯片中间，将临近空间留给HBM的电接口。

从产业化角度来看，专家OSAT厂商的一位高管对ZDNet暗示：“光学互连已是明确的趋势，问题只在时机。”他瞻望，本领落地将按范围由大到小激动——先在机架与机架之间、就业器与就业器之间弃取光学连气儿，然后再干与单板里面的芯片间光互连。但他同期指出，目下光学赓续速率相配快，芯片间光互连的时刻点可能不会太远方。

一位韩国CPO器件开发企业的关系东谈主士指出，GPU与HBM之间的光学互连，与数据中心就业器间的光通信旨趣不异，但必须将原来用于大型开辟的光电调换本领松开到芯片级别，“光学元件需要作念得更小、集成度更高米兰体育中国官网，本领难度更大。”