7月1日，根据IDC的最新报告，2024年中国AI基础设施（AI IaaS）市场份额，阿里云占比23%，位列中国市场第一，超过第二名和第三名总和；在生成式AI基础设施领域，阿里云取得模型训练和模型推理市场的两项冠军。

AI IaaS是以GPU等AI专用芯片为算力支撑的基础设施，包括以大模型为核心的生成式AI基础设施和传统的非生成式AI基础设施。随着大模型加速发展，生成式AI基础设施成为主力。IDC报告指出，2024年下半年中国生成式AI基础设施市场同比激增165%，达87.4亿元，首次在整体AI基础设施市场中占比超过七成。

根据IDC报告，2024年全年，阿里云 AI基础设施市场份额达23%，华为云占比10%，火山引擎占比9%。IDC认为，生成式AI基础设施市场持续快速迭代，头部格局加速收敛：目前，阿里云依托云资源规模优势和PAI及灵骏产品能力，在大模型训练及大模型推理基础设施市场，均位列第一。IDC预计头部公司将继续加大算力投入规模以提升模型通用性能，形成技术和生态主导权。

报告还显示，2024年模型训练消耗的生成式AI基础设施资源约为模型推理的3.25倍，随着“爆款”大模型应用的出现，IDC预计AI算力有望在2025年进入“训推”拐点，推动AI算力需求从训练驱动过渡到推理驱动。IDC认为，推理场景的爆发将为国产算力未来发展带来更多市场机会，互联网、运营商、自动驾驶等领域的头部算力客户正积极验证、测试、采购和部署国产算力以尝试缓解云端、边端算力缺口。