作者:By Casey Crownhartarchive page
Google刚刚发布了一份技术报告,详细介绍了其双子座应用在每个查询中使用的能源。总体而言,中位数促使一个属于能源需求范围的中间,消耗了0.24瓦小时的电力,相当于运行标准微波炉大约一秒钟。该公司还提供了与双子座的文本提示相关的用水量和碳排放量的平均估计。
这是一家拥有流行AI产品的大型科技公司的最透明估计,该报告包括有关该公司如何计算其最终估算的详细信息。随着AI的采用更广泛,有越来越多地了解其能源使用。但是,试图直接衡量AI能量的公众努力由于无法完全访问一家主要科技公司的运营而受到阻碍。”
今年早些时候麻省理工学院技术评论 发表了有关AI和能源的综合系列,在那时,没有一个主要的AI公司会揭示其每次提取的能源使用情况。Google的新出版物终于可以在研究人员和分析师长期希望的窗帘后面窥视。
这项研究集中于广泛的能源需求,不仅包括运行模型的AI芯片所使用的功率,还包括支持该硬件所需的所有其他基础设施。
谷歌首席科学家杰夫·迪恩(Jeff Dean)在对麻省理工学院技术评论关于新报告。
这很重要,因为在这种测量中,在这种情况下,AI芯片是Google的定制TPU,该公司的专有等价GPU仅占0.24瓦小时的总电费需求的58%。
支持AI特异性硬件所需的设备所需的另一个大部分能量:主机CPU和内存占所用总能量的25%。如果某些事情失败,这些闲置机器占总数的10%,则还需要备份设备。最后的8%来自与运行数据中心相关的间接费用,包括冷却和电源转换。
密歇根大学的教授莫沙拉夫·乔杜里(Mosharaf Chowdhury)说,这种报告表明了行业投入对能源和人工智能研究的价值。ML。能源排行榜,跟踪AI模型的能耗。
诸如Google S之类的估计通常只有公司才能生产的东西,因为它们的规模比研究人员能够访问并可以访问幕后信息。我认为这将是AI能源领域的基石作品,”密歇根大学的博士候选人Jae-Won Chung说,ML. Energy努力的另一位领导者。到目前为止,这是最全面的分析。
但是,Google的数字并不代表提交给双子座的所有查询:该公司处理了各种各样的请求,并且该估算值是根据中位数能量需求计算得出的,该估计值属于可能的查询范围。
因此,某些双子座提示使用的能量要比这更多:Dean给出了将数十本书喂入双子座的例子,并要求它产生其内容的详细概述。迪恩说:``这可能比中位数提示更多的能量。”迪恩说。使用推理模型也可能具有较高的关联能源需求,因为这些模型在产生答案之前采取了更多步骤。
该报告也严格限于文本提示,因此它不代表生成图像或视频所需的内容。(其他分析,包括一个英寸麻省理工学院技术评论饥饿系列今年早些时候,证明这些任务可能需要更多的精力。)
该报告还发现,随着时间的流逝,用于验证双子座查询的总能量急剧下降。据Google称,在2024年5月,双子座的中位数提示使用的能量比2025年5月的能量高33倍。该公司指出了其模型中的进步以及其他软件优化改进。
Google还估计了与中位提示相关的温室气体排放,他们将其放置为0.03克二氧化碳。为了达到这个数字,该公司将用于响应提示的总能量乘以每单位电力的平均排放。
该公司不是根据美国电网平均值或Google运营的电网的平均值来使用排放估算,而是使用基于市场的估算值,该估算考虑了该公司从清洁能源项目中进行的电力购买。该公司已签署协议购买22吉瓦自2010年以来,来自太阳能,风能,地热和高级核项目等资源的电力。由于购买的这些产品,Google每单位的电力在纸上发电大约是其运行的平均网格的排放量。
人工智能数据中心还消耗用于冷却的水,谷歌估计每种促使水消耗0.26毫升的水,或大约五滴水。”
迪恩说,这项工作的目的是为用户提供一个与AI互动的能源使用的窗口。
人们正在为各种事情使用[AI工具],他们应该对双子座模型的能量使用或用水的使用有主要的担忧,因为在我们的实际测量中,我们能够表明,它实际上等同于您每天都在不考虑它的情况下所做的事情。
该出版物大大扩展了对AI的资源使用情况的了解。随之而来的是,最近对公司的压力越来越大,以发布有关该技术能源损失的更多信息。我真的很高兴他们将其提出来。人们想知道成本是多少。
Luccioni补充说,该估算和支持报告包含的公共信息比以前提供的更多,并且有助于获得有关现实生活中的AI使用的更多信息。但是,该公司在本报告中仍然没有分享的细节。一个主要的问号是双子座每天收到的查询总数,这将允许估计AI工具的总能源需求。”
最终,公司仍然决定分享哪些细节,何时以及如何分享。Luccioni说,我们一直在努力推动标准化的AI能量评分。这不是标准化比较的替代者或代理。