图表内容
表5:寒武纪新款训练加速卡主要情况
MLU370-S4
MLU370-X4
MLU370-X8
面向市场
机器视觉/推理任务
互联网行业等推理任务,或训推一体场景
训练任务
整机计算密度较高,单卡算力
市场特点
单卡算力需求较高
单卡算力霄求较高,互联带宽霄求高
需求适中
192 TOPS (INT8)
256 TOPS (INT8)
256 TOPS (INT8)
96 TOPS (INT16)
128 TOPS (INT16)
128 TOPS (INT16)
算力
72 TFLOPS(FP16)
96 TFLOPS(FP16)
96 TFLOPS(FP16)
72 TFLOPS (BF16)
96 TFLOPS(BF16)
96 TFLOPS(BF16)
18 TFLOPS(FP32)
24 TFLOPS(FP32)
24 TFLOPS(FP32)
互联带宽
307.2GB/s
307.2GB/s
614.4GB/s