【行业研究报告】信息技术-计算机行业专题研究报告：ChatGPT 训练及多场景推理成本测算

本次ChatGPTAPI接入的模型名为GPT-3.5-turbo，只需0.2美分/千Tokens。本文尝试测算训练和不同推理场
本次ChatGPTAPI接入的模型名为GPT-3.5-turbo，只需0.2美分/千Tokens。本文尝试测算训练和不同推理场
景之下的实际成本；未来随着模型压缩的持续发展，推理成本可能进一步降低，也有望大幅推动生成式模型在各
个场景的大规模商用。我们的成本估算思路是：计算AI模型在进行训练与推理时所需的浮点运算次数，与AI算
力集群的平均算力(以每秒浮点运算次数计)做比，以此估算AI模型的训练成本与推理成本。
在通用大模型训练方面，经测算，使用云计算时ChatGPT的训练成本约为170万美元，若自建AI算力中心进
行模型训练，训练成本有望降至约51万美元；在大模型推理方面，使用云计算时的ChatGPT每处理1,000Tokens
信息需花费约0.177美分，自建AI算力中心有望将成本降至0.053美分。