寒武纪宣布推出第三代云端AI芯片思元370，还有基于思元370的两款加速卡MLU370-S4和MLU370-X4，以及全新升级的CambriconNeuware软件栈。

思元370采用了寒武纪最新智能芯片架构MLUarch03，是寒武纪第一款采用chiplet技术的AI芯片，也是国内第一颗支持LPDDR5内存的云端AI芯片，集成了390亿个晶体管，基于7nm工艺制造。寒武纪表示，思元370的最大算力达256 TOPS（INT8），是第二代产品思元270算力的2倍，同时内存带宽是上一代产品的3倍，访存能效达GDDR6的1.5倍。

据寒武纪介绍，chiplet技术使得2颗AI计算芯粒可以封装在一起，为客户提供更多样化的产品，以适应不同的应用场景。思元370的MLUarch03芯片架构采用了新一代计算单元，运算能力有了大幅度提升，将业内首个基于MLIR图编译技术并商业部署的推理引擎MagicMind引入，使得新芯片变得更有竞争力。同时思元370内置了安全模块，支持国内外主流加密标准，全新视频图像编解码单元可支持132路1080p视频解码或10路8K视频解码。

此外，升级后的CambriconNeuware软件栈整合了训练和推理的全部底层软件栈，包括底层驱动、运行时库、算子库以及工具链等，将MagicMind和深度学习框架Tensorflow，Pytorch深度融合，实现训推一体。

MLU370-S4是采用半高半长规格的加速卡，功耗为75W，而MLU370-X4则采用全高全长的加速卡，功耗为150W，两款产品可满足不同的用户群体需要。寒武纪表示，未来会发布更多搭载思元370的产品。据了解，推训一体的思元370是在2020年第三季度流片，相关加速卡是在2021年第二季度送达测试客户，目前进入早期销售阶段。