研究者:AI 模型“推理环节”耗电更多,2027 年行业用电量将“堪比荷兰一国”

人工智能
Alex De Vries 表示,外界一向认为训练一个 AI 模型“AI 最耗电的阶段”,但 Vries 引用了 SemiAnalysis 及谷歌的报告指出,“推论环节”所消耗的电力更多,自 2019 年到 2021 年,与 AI 相关的能源消耗中,预计有 60% 来自模型推论。

10 月 13 日消息,《Cell》的姐妹期刊《Joule》本周出版了一篇名为《持续成长的人工智慧能源足迹(The growing energy footprint of artificial intelligence)》论文。

IT之家经过查询得知,该论文由科研机构 Digiconomist 创始人 Alex De Vries 发表,其声称未来 AI 推理性能可能会消耗大量的电力,而到 2027 年,AI 的用电量可能等同于荷兰一年的电力使用。

Alex De Vries 表示,外界一向认为训练一个 AI 模型“AI 最耗电的阶段”,但 Vries 引用了 SemiAnalysis 及谷歌的报告指出,“推论环节”所消耗的电力更多,自 2019 年到 2021 年,与 AI 相关的能源消耗中,预计有 60% 来自模型推论。

▲ 图源 相关论文▲ 图源 相关论文

Alex De Vries 同时以谷歌在 2021 年披露的 18.3 TWh 耗电量来计算,声称当时 AI 占了谷歌公司整体耗电量的 10%-15%,而在谷歌全面实施“AI 搜索”之后,该公司在 AI 方面的耗电量最高可能达到 27.4 TWh,接近爱尔兰一整年所使用的电力(29.3 TWh)。

就整个市场来看,随着英伟达合作伙伴台积电(TSMC)所投资的新 CoWoS 厂预计于 2027 年量产,Alex De Vries 也估计届时英伟达所交付的全数 AI 服务器总用电量将达 85-134 TWh,相当于荷兰一年的电力使用。

▲ 图源 相关论文▲ 图源 相关论文

Alex De Vries 认为,AI 产业应当提高硬件效率,改善模型演算效率,以改善产业的耗电情况,他还建议开发者不仅应专注于优化 AI,也必须考虑使用 AI 的必要性,以降低 AI 行业的耗能成本

参考

责任编辑:庞桂玉 来源: IT之家
相关推荐

2023-10-16 14:21:18

2023-10-17 19:48:13

人工智能

2017-08-29 10:11:26

用云量云计算挖掘

2024-07-17 15:31:13

2020-12-29 16:13:08

5G5G基站5G耗电

2024-07-11 15:46:56

2023-11-14 17:18:45

AI人工智能

2021-09-03 15:34:56

5G运营商基站能耗

2015-09-01 10:14:21

机房直冷优化

2015-12-21 10:56:42

物联网照明节电

2021-01-14 10:26:19

AIAI+医疗医疗知识图谱

2017-02-17 17:34:44

数据中心

2024-09-04 14:13:59

2024-03-28 13:18:47

AI训练

2023-07-04 07:23:37

数据中心WUE管理

2021-02-07 10:06:34

人工智能

2012-07-20 14:22:42

云计算

2024-02-28 18:17:05

AI模型

2012-06-13 11:06:05

WiFi
点赞
收藏

51CTO技术栈公众号