图表内容
图表:不同场景训练推理的算力需求及工程难度
训练
推理
预训练
二次训练
全参微调
局部微调
ToC推理
ToB中心
ToB边缘
大型互联网
运营商
行业头部企业
大中型企业
大中小企业
大型互联网
大型企业
分支/中小企
大模型公司
算力
超大规模
大规模
较小规模
小规模
超大规模
大规模
小规模
需求
千卡一万卡
数百卡~千卡
单机8卡起步
单机1卡起步
干卡以上
数百卡一
数十卡
很高
较高
一般
很高
较高
工程
TP/DP/PP并
基模选择,高
十万~百万条
<万条指令集
极致性能
融合高效
灵快轻易
行,海量数据
质量数据
指令集
料来源:《AIDC白皮书》华为,泽平宏观








