昨天   2026-08-06   星期四

九天睿芯实现单卡跑万亿参数模型

近日，深圳存算一体 AI 芯片创企九天睿芯发布了一套面向超大 MoE 模型的推理部署方案。该方案在"单卡+4 SSD"的配置下，让 DeepSeek-V4 在 decode 阶段的速度跑到了约 20 TPS，具备了真正可用的吞吐量。据了解，九天睿芯已于去年开始，作为国内首家与关键存储合作伙伴研发基于 HBF 和 sram 存算一体堆叠的万亿参数 AI 推理芯片。