甲子光年2024年中国AI算力行业发展报告60页

出品机构：甲子光年智库智库院长：宋涛报告撰写：刘瑶、郭瑶琴、王艺霖发布时间：2024.12目录Part 01时代动力，AI新世代繁荣的发动机Part 02层见叠出，复杂工程需要多样手段解决Part 04实践落地，AI算力应用的新标杆Part 05来日方长，AI新世代下的不断探索Part 03各取所需，市场激发AI算力的选择思考纵观AI发展，算法的技术突破拉动了算力的需求训练算力（FLOPS）需求与人工智能发展关系图N=121训练算力需求FLOPS2010前深度学习时期之前，训练计算算力需求缓慢增长，算力翻倍需要21.3个月2010-2022深度学习不断取得进展，算力翻倍仅需要5.7个月，所需算力量级由TFLOPs增至EFLOPs2015-2016 年左右开启了大模型时代，整体的训练计算量较之前的时期大2到3个数量级。从2022年底，随着ChatGPT成功带来大规模参数通用大模型相继发布。这些大模型的训练需要千亿、甚至万亿级参数，以及上千GB的高质量数据，大模型的训练迭代将极大地拉动了智能算力的需求。2012-2023年算力需求翻了数十万倍，AI算力需求远超摩尔定律，大模型对算力的需求每年持续增长，未来10年AI算力需求将再增长500倍。GPT-4ChatGPTGPT-3AlphaZeroAlphaGoZeroNeural Machine TranslationTI7 Dota 1v1XceptionDeepSpeech2ResNetsSeq2SeqGoogleNetAlexNetVGGVisualizing and Understanding ConvNets2012201320142015201620172018201920202021202220231e-41e-31e-21e-11e+01e+11e+21e+31e+4模型规模指数级增长推动算力需求爆发无论是训练还是推理，大模型的爆发引发全球算力需求的指数级增长技术层面上，基础模型通过迁移学习（Transfer Learning）和规模（scale）得以实现；Transformer的应用标志着基础模型时代的开始（基础模型的庞大规模和应用范围突飞猛进），模型参数量指数级增长，带动算力超过摩尔定律。Sora等视频生成类模型相较于大语言模型消耗的算力提升20倍。随着海量数据的积累，大模型需要处理的数