百万Token耗电多少？电力AI智能体的“耗电体检”

百万Token耗电多少？

电力AI智能体的“耗电体检”

说到AI，大家现在都不陌生，写文、出图、敲代码，好像无所不能。但在我们电力行业，AI是个实打实的“体力活”员工，干起活来那是真“费电”！但是，它到底有多费电？过去我们只能听模型厂家、硬件厂家“王婆卖瓜”，心里没底。

最近，国网浙江信通公司联手中国信通院、浙江华电院，干了一件“脱虚向实”的大事——把电力AI智能体的耗电底牌给摸清了！

这次实测可不是为了“好玩”。眼下，我们正联合新疆、甘肃等绿电富集地区开展算力互济跨域调度试点——简单说，就是把西部的算力“搬”到东部来用。但问题来了：算力能耗是多少？电费怎么结算？调度怎么安排才最划算？

这些问题的答案，都藏在这次实测的数据里。摸清底数，才能算清账、调好度。所以这次“能耗体检”，意义不一般！

01.直击现场：

一场给AI智能体“称体重”的硬核实验

在紧水滩智算中心，一排排闪烁着指示灯的机柜前，技术骨干小王和同事正紧盯屏幕上一串串跳动的数据。这不是普通的系统调试，而是一场“电力AI能耗体检”。

测试对象锁定在一类“重量级选手”——自主规划类智能体。它主要负责电网生产经营分析、研发运维优化等核心专业场景。

为什么专挑它“下手”？

原因很简单：这类智能体业务链路长、数据调用多、场景复杂度高，算力占用大、能耗波动最明显，是妥妥的“头号电老虎”。把它测明白了，其他场景就有了参照标杆。

“大家留意，算力芯片利用率快速攀升！” 小王指着屏幕介绍，在电网核心生产分析场景下，GPU利用率的曲线陡峭上扬，瞬间冲破96%。虽然任务整体GPU平均利用率68%，看似资源充足，但负载波动剧烈，约5%运行时段芯片近乎满载。峰值阶段GPU资源十分紧张，此时开展算力调度、迁移工作易引发任务拥堵，增加时延与能耗。这为我们的算力任务精细化调度提供了重要依据！

02.数据深一度：

耗电2.54度，解码头号“电老虎”

那么，这个AI“动脑”时的“饭量”到底是多少呢？

经过实测，这类自主规划类智能体每输出一百万Token就要消耗大约2.54度电。有了这份实打实的“耗电明细账”，就能精准算出把算力任务调度到绿电区域，能压减多少用电负荷、省下多少用电成本，给跨区域绿色算力调配算清了一本明白账。

你可能会问，为什么这么高？

原因在于，AI处理复杂电网问题时的“推理解码”环节，就像是它大脑高速运转的“最强大脑风暴”，既耗时间，又耗能量，是整个链路中的能耗瓶颈。

03.为什么要“脱虚向实”？

算清自家账，心中有“数”

有的小伙伴可能会疑惑：厂家不是给了能耗参考值吗？为啥要费这么大劲自己测？

关键在于“真实”二字。

过去，行业只能参考模型厂商或硬件厂商在实验室标准环境下测出的数值——那相当于看汽车在平坦跑道上的理论油耗。但在我们电力行业，AI面对的是千头万绪的电网拓扑和瞬息万变的负荷数据，实际“路况”复杂得多，实验室数据和真实业务耗电水平之间存在不小偏差。

这次专项实测，首次立足电力业务真实运行场景，测试对象是真正服务于电网生产的电力专属智能体，测出来的数据，每一度电都对应着真实的电网业务动作。

这份数据的含金量在于：它不是“实验室里跑出来的”，而是“生产线上干出来的”。

而这，正是我们眼下最急需的“参考坐标”。

这一次摸清的底数，直接为后续算力精细化调度、跨区域负载迁移、Token成本核算、算力电价结算提供了精准的数据支撑，让每一笔账都算得明明白白。

04.不止于“体检”：

算-电-碳-价，一盘大棋刚刚开始

摸清底数只是第一步。

接下来我们将继续深耕“算电协同”领域，将分时电价、Token碳排放等因素融入进来，构建一个“算-电-碳-价”一体化的综合评估模型。

未来，不仅要让AI在电网里干得漂亮，还要让它干得“绿”起来。通过算力网与电网的深度融合，助力新型电力系统建设，让每一度电都发挥出更大的价值。

以算力网与电网的深度融合，助力新型电力系统建设——这场“西算东送”的大棋局，才刚刚开始。