使用GPT-4生成100个单词消耗多达3瓶水 AI数据中心还增加了附近居民的电费和水费 - Tom's Hardware

2024-09-19 12:00:51 英文原文

使用 GPT-4 生成 100 个单词消耗多达 3 瓶水 AI 数据中心还会增加附近居民的电费和水费

净零排放目标落空了人工智能。

《华盛顿邮报》周三分享的加州大学河滨分校进行的研究强调了使用生成式人工智能的高昂成本。事实证明,人工智能需要消耗大量的水来冷却生成数据的服务器,即使它只是生成文本。当然,这还不包括严重的电网费用。

研究指出,确切的用水量因州和数据中心的远近而异,用水量越低,电价越便宜,电价越高。电力使用。德克萨斯州的用水量最低,生成一封 100 字的电子邮件估计需要 235 毫升,而华盛顿州则每封电子邮件的用水量高达 1,408 毫升,相当于三个 16.9 盎司的水瓶。

这听起来可能不太像很多,但请记住,这些数字加起来相当快,特别是当用户每周多次(或每天多次)使用 GPT-4 时,并且这仅适用于纯文本。

数据中心事实证明,这些数据中心是水和电的重度消耗者,这也增加了正在建设这些数据中心的城镇居民的电费和水费。例如,Meta 需要使用 2200 万升水来训练其 LLaMA-3 模型,了解种植 4,439 磅大米需要多少水,或者正如研究人员指出的那样,“了解 164 个美国人一年的消耗量。”

GPT-4的电力成本也相当高。如果十分之一的美国工作人员每年每周使用一次 GPT-4(因此,1700 万人总共进行 52 次查询),则相应的电力需求为 121,517 兆瓦时,相当于华盛顿特区每个家庭的用电量。(估计有 671,803 人)持续二十天。这没什么值得嘲笑的,尤其是对于 GPT-4 的目标受众来说,这是一个不切实际的轻量级用例。

《华盛顿邮报》引用了 OpenAI、Meta、Google 和 Microsoft 代表的言论,其中大部分都重申了对减少环境需求,而不是给出实际的行动方案。

微软代表 Craig Cincotta 表示,该公司将“致力于开发能够完全消除水消耗的数据中心冷却方法”,这听起来不错,但在内容上却含糊其辞。如何。人工智能的利润动机显然优先于这些公司过去设定的环境目标,因此在我们看到实际改进之前,即使是这样的引用也应该持保留态度。

保持领先地位:获取 Tom's Hardware 时事通讯

将 Tom's Hardware 的最佳新闻和深入评论直接发送到您的收件箱。

Christopher Harper 是一位成功的自由技术作家,专门从事 PC 硬件和游戏自 2015 年起,并在此之前为高中时期的各种 B2B 客户代写。工作之余,克里斯托弗以各种电子竞技(尤其是格斗游戏和竞技场射击游戏)中的活跃竞技玩家以及从吉米·亨德里克斯 (Jimi Hendrix) 到杀手迈克 (Killer Mike) 到《索尼克冒险 2》(Sonic Adventure 2) 原声带的音乐传播者而为朋友和竞争对手所熟知。

  • Findecanor
    即使使用“可再生能源”的数据中心也使用本可以用于实际有用的东西的能源。回复
  • coolitic
    这听起来像是一个高度可疑的人物;这并不像您用于冷却的水只是被“消耗”,即使它蒸发了,它也会收集回系统中。回复
  • Gururu
    唯一的解决方案是让这些公司为城市供水支付更高的水费或自己生产清洁水源。我相信客户会乐意忍受的成本。不幸的是,这些公司可能会获得巨额补贴以将其公司安置在某些地点,其中可能包括公用事业折扣。我不太确定所有这些都不会在谈判中得到考虑和涵盖,因此最终会适当支付用水费用,以便可以更换。回复
  • AcostaJA
    我同意其他人的观点,研究数据至少是自以为是的,或者是为了政治标题而编造的,我熟悉 GPU (ai) 服务器农场,其中一些甚至不使用水,但直接空气或浸没在冷却油中的硬件(最现代的),以及液体冷却的那些使用与添加剂混合的过滤水,以避免闭合回路本质上的堵塞,因此,如果仅在填充回路时花费任何水,则在过程中不会浪费任何东西。其运作正如有偏见的“研究”所暗示的那样。回复

    数据中心消耗大量能源,但它们通常通过太阳能电池板产生自己的能量,而这是我们想要通过许多方法改进的事情有趣的是,事实是这种电力通常来自可再生能源,如太阳能、核能、风能或组合,比单一的摇滚明星音乐会巡演清洁得多。

    我对一些大学如何浪费金钱感到失望不真实的叙述经常隐藏政治追求,当自由媒体复制这种叙述时也会令人失望,政客们呼吁审查制度(或“错误信息仇恨”言论纠正),我希望政客们呼吁对虚假或有偏见的“研究”作为“科学”或“研究”进行问责。由最糟糕的科学家支持,他们知道自己有偏见,除了政治目标之外不关心真相。
  • Pierce2623
    如果我按照我的泵的每小时升数计算,我的 AIO 甚至不会在 LLM 中生成 100 个单词所需的时间内通过散热器运行三瓶水LLama 或 Mistral,即使我不使用 GPU 卸载。coolitic 说:这听起来像是一个高度可疑的人物;这并不像您用于冷却的水只是被“消耗”,即使蒸发,它也会收集回系统中。
  • AcostaJA
    为摇滚明星飞机提供动力(一年内一架私人飞机在训练 LLAMA3 上的燃油消耗比 Facebook 还要多),还是为政客集会提供动力?这些数据都不是有偏见的,也不是来自可再生(碳中和)来源。LMFAOFindecanor 表示:即使使用“可再生能源”的数据中心,也使用本可以用于实际有用的能源。
  • m3city
    等等,没有给出足球场(对我来说更像是手鸡蛋..)或游泳池的数据?我怎么能理解这个。回复
  • anoldnewb
    训练模型非常耗能。通过经过训练的模型进行推理所消耗的能源要少几个数量级。Pierce2623 说:如果按照泵的每小时升数计算,我的 AIO 在生成 100 个单词所需的时间内甚至不会通过散热器运行三瓶水。像 LLama 或 Mistral 这样的 LLM,即使我不使用 GPU 卸载。
  • anoldnewb
    1。数据中心如何让冷空气或水流过回路?如果他们使用冷却塔,那么塔中喷洒的一些水会因蒸发而损失。AcostaJA 说:我同意其他先前的观点,研究数据至少是有争议的,或者是为了寻求政治标题而编造的,我'我熟悉 GPU (ai) 服务器群,其中一些甚至不使用水,而是直接使用空气或将硬件浸入冷却油中(最现代的),而采用液体冷却的服务器群则使用与添加剂混合的过滤水,以避免闭路本质上的堵塞,因此,如果仅在填充电路时消耗水,则正如有偏见的“研究”有毒地暗示的那样,在其运行过程中不会浪费任何水。

    数据中心消耗大量能源,但通常它们会产生自己的能量通过太阳能电池板,虽然这是我们希望通过许多兴趣来改进的东西,但事实是这种电力通常来自可再生能源,如太阳能、核能、风能或组合,比单个摇滚明星音乐会巡演干净得多。

    我对一些大学如何在经常隐藏政治追求的不真实叙述上浪费金钱感到失望,当自由媒体复制这种叙述时也感到失望,政客呼吁审查制度(或“错误信息仇恨”言论纠正),我想政客们呼吁对被称为“科学”或由科学家支持的虚假或有偏见的“研究”进行问责,这是最糟糕的,他们知道这是有偏见的,除了他们的政治目标之外,不关心真相。

    2。太阳能数据中心可以在夜间运行吗?除了数据中心之外,风能或核能还能用于其他用途吗?
  • AcostaJA
    冷空气来自环境,循环中流动的液体来自工厂加工(与汽车冷却液非常相似,但没有浓缩物可稀释,所有液体都是来自制造商以确保纯度),在冷却塔上喷水实际上可能会蒸发一些水,但据我所知,没有数据中心使用这种冷却方法,并且通常他们会出售数据中心加热装置来重新加热公用事业水,因此不会结冰管道正在为社区服务(这就是为什么大多数数据中心都位于凉爽的地方)。anoldnewb 说:1。数据中心如何让冷空气或水流过回路?如果他们使用冷却塔,那么塔中喷洒的一些水会因蒸发而损失。

    数据中心在夜间使用特斯拉超级电池等电池供电,是的,核能电力可以用在不同的东西上,政客飞机上的燃料或某些签名者,一架行政喷气机每年飞行 800 小时(根据 NBAA 的典型值)消耗的能量比训练人工智能模型的典型数据中心消耗的能量更多,如果我们需要关闭某些东西,我'我在进步方面。anoldnewb 说:2。太阳能数据中心在夜间运行吗?除了数据中心之外,风能或核能还能用于其他用途吗?
    一架公务机,美国有数百架,为政客、好莱坞明星和埃隆·马斯克或比尔·盖茨等富人服务,一架公务机不仅仅是典型的数据中心,例如 Xai 最新的或 openAI 的数据中心,更不用说 Facebook(元)了,它们是最谦虚的,也是少数与社区共享 AI 模型的数据中心。

    而且我们有客机,为什么您下次度假时不会乘坐电动火车旅行或乘船航行吗?

关于《使用GPT-4生成100个单词消耗多达3瓶水 AI数据中心还增加了附近居民的电费和水费 - Tom's Hardware》的评论


暂无评论

发表评论

摘要

使用 GPT-4 生成 100 个单词会消耗多达 3 瓶水 AI 数据中心还会增加附近居民的电费和水费 净零排放目标因 AI 而被抛诸脑后。 加州大学河滨分校进行的研究《华盛顿邮报》周三强调了使用生成式人工智能的高昂成本。人工智能的利润动机显然优先于这些公司过去设定的环境目标,因此在我们看到实际的改进之前,即使是这样的说法也应该持保留态度。回复数据中心消耗大量能源,但通常它们通过太阳能电池板产生自己的能量,虽然这是我们希望通过许多兴趣来改进的东西,但事实是这种电力通常来自可再生能源,如太阳能、核能、风能或组合,比单个摇滚明星巡回演唱会干净得多。数据中心如何让冷空气或水流过回路?AcostaJA 说:我赞同其他的先前观点,研究数据至少是有争议的,或者是为了政治头条而编造的,我熟悉 GPU(人工智能)服务器农场,其中一些甚至不使用水,而是直接使用空气或水下硬件在冷却油(最现代的)中,而在液体冷却中则使用与添加剂混合的过滤水,以避免封闭回路本质上的堵塞,因此,如果仅在填充回路时花费任何水,则在其运行过程中不会浪费任何东西,因为偏向“学习”有毒的暗示。