中国日均AI词元调用量突破175万亿次

据南华早报报道，中国信息产业发展中心11月1日发布的一份报告显示，中国日均AI词元调用量已突破175万亿次，是2024年初水平的1000倍以上。

报告同时指出，中国推理阶段的词元使用量首次超过模型训练数据使用量。报告未披露中国实际用于AI训练的数据规模。

中国国家数据局今年4月曾估计，从长期看，AI推理所需的算力需求可能达到训练需求的三倍。包括北京在内的地方政府计划通过词元工厂和词元分发平台等政策，推动词元消费增长。

企业与机构的布局

在企业层面，深度求索于上个月开源了“DeepInfra”框架，以提高模型运行效率并降低算力成本。阿里巴巴集团则在今年6月设立名为“Token Foundry”的新组织，用于扩大内部词元消费并推进对外商业化。

另据中国信息通信研究院10月23日发布的另一份报告，若计入私有云使用量，截至今年6月中国日均词元消耗量约为500万亿次。荣鼎集团则预测，13家中国大型企业今年的AI基础设施资本开支将翻倍以上，达到9320亿元人民币，并在2027年超过1.2万亿元人民币。