12月13日消息，在IEDM 2024大会上，英伟达介绍了对未来人工智能（AI）加速器的设计，提出设计方案将引入硅光子技术（SiPh），作为I/O器件。

新架构采用垂直供电和多模块设计，将集成硅光子I/O器件，运用了3D垂直堆叠DRAM内存，并在模块内直接整合了冷板。其需要12个硅光子I/O器件来实现芯片内和芯片间的连接，每个GPU模块有三个连接，每层有四个GPU模块，每个GPU模块与六个DRAM内存模块垂直连接。这种堆叠DRAM内存与GPU模块之间实现了直接电气连接，类似于更大范围的AMD 3D V-Cache技术。

对于硅光子I/O器件的大规模制造，预计英伟达需要每月生产超过100万个这类器件才能满足需求。

上述设计距离商业化还需要一段时间，预计要等到2028年至2030年之间某个时刻才能投入使用。