NEO宣布推出3D X-AI芯片：神经网络性能提升100倍，功耗降低99%！

​7月19日消息，在美国加利福尼亚州圣克拉拉举行的 FMS 2024（内存和存储的未来）会议上，NEO Semiconductor 首席执行官 Andy Hsu 宣布，将推出 一款改变游戏规则的 3D DRAM——3D X-AI，具有 AI 处理功能，将数据存储和数据处理结合在单个芯片中，将神经网络（ANN）性能提高 100 倍，功耗降低 99%。

Andy Hsu表示，基于NEO 的3D X-DRAM技术，3D X-AI模拟人工神经网络，包括用于权重数据存储的突触和用于数据处理的神经元，使其非常适合加速下一代AI芯片和应用。3D X-AI 可替代高带宽内存 （HBM），有望显著推动 AI 芯片设计和 AI 工作负载优化。

据介绍，单个 3D X-AI 芯片包括 300 层 3D DRAM，容量为 128 Gb，以及 1 层神经网络电路，具有 8,000 个神经元，每个芯片支持高达 10 TB/s的 AI 处理吞吐量。使用 12 个堆叠 HBM 封装的 3D X-AI 芯片，只需一个 3D X-AI 芯片，即可将 3D X-AI 芯片的容量和性能提升 12 倍，达到 1,536 Gb （192 GB） 容量和 120 TB/s 的处理吞吐量。

“典型的人工智能芯片使用基于处理器的神经网络。这涉及结合高带宽内存来模拟用于存储权重数据的突触和图形处理单元 （GPU） 来模拟用于执行数学计算的神经元。性能受到HBM和GPU之间数据传输的限制，来回数据传输会降低AI芯片性能并增加功耗，“NEO创始人兼首席执行官Andy Hsu说：“具有 3D X-AI 的 AI 芯片使用基于内存的神经网络。这些芯片具有神经网络功能，每个 3D X-AI 芯片中都有突触和神经元。在执行 AI 操作时，它们用于大幅减少 GPU 和 HBM 之间数据传输数据的繁重工作负载。我们的 3D DRAM极大地提高了 AI 芯片的性能和可持续性。”

编辑：芯智讯-浪客剑