作者:Anne McGovern | MIT Lincoln Laboratory
是麻省理工学院林肯实验室的高级工作人员,领导了该实验室的多个项目林肯实验室超级计算中心(LLSC)使计算平台以及在其上运行的人工智能系统更加高效。在这里,Gadepally 讨论了生成式人工智能在日常工具中的日益使用、其隐藏的环境影响,以及林肯实验室和更大的人工智能社区可以减少排放以实现绿色未来的一些方法。
问:您认为生成式人工智能在计算中的应用有哪些趋势?
一个:生成式 AI 使用机器学习 (ML) 根据输入到 ML 系统的数据创建新内容,例如图像和文本。在 LLSC,我们设计和构建了一些世界上最大的学术计算平台,在过去几年中,我们看到需要访问高性能计算以实现生成 AI 的项目数量呈爆炸式增长。我们还看到生成式人工智能如何改变各种领域和领域——例如,ChatGPT 已经以比法规似乎跟不上的速度更快地影响着课堂和工作场所。
我们可以想象在未来十年左右的时间内生成式人工智能的各种用途,例如为高性能虚拟助手提供动力、开发新药物和材料,甚至提高我们对基础科学的理解。我们无法预测生成式人工智能的所有用途,但我可以肯定地说,随着算法越来越复杂,它们的计算、能源和气候影响将继续快速增长。
问:LLSC 使用什么策略来减轻这种气候影响?
一个:我们一直在寻找方法计算更高效,因为这样做有助于我们的数据中心充分利用其资源,并允许我们的科学同事以尽可能高效的方式推动他们的领域向前发展。
举一个例子,我们一直在通过进行简单的更改来减少硬件消耗的电量,例如在您离开房间时调暗或关闭灯光。在一项实验中,我们通过实施功率上限。这项技术还降低了硬件工作温度,使 GPU 更容易冷却且更耐用。
另一个策略是改变我们的行为,提高气候意识。在家里,我们中的一些人可能会选择使用可再生能源或智能调度。我们在 LLSC 中使用类似的技术,例如在温度较低或当地电网能源需求较低时训练人工智能模型。
我们还意识到,花费在计算上的大量能源常常被浪费,例如漏水会增加您的账单,但对您的家庭没有任何好处。我们开发了一些新技术,使我们能够监控正在运行的计算工作负载,然后终止那些不太可能产生良好结果的工作负载。令人惊讶的是,在一些案例 我们发现大部分计算可以提前终止在不影响最终结果的情况下。
问:您做过的减少生成式人工智能程序能量输出的项目示例是什么?
一个:我们最近构建了一个气候感知计算机视觉工具。计算机视觉是一个专注于将人工智能应用于图像的领域;因此,区分图像中的猫和狗,正确标记图像中的对象,或寻找图像中感兴趣的成分。
在我们的工具中,我们包含了实时碳遥测功能,它可以生成有关模型运行时当地电网排放的碳量的信息。根据这些信息,我们的系统将自动切换到更节能的模型版本,在高碳强度时,该模型通常具有较少的参数,或者在低碳强度时切换到保真度更高的模型版本。
通过这样做,我们看到了几乎碳排放量减少 80%一到两天的时间内。我们最近扩展了这个想法到其他生成式人工智能任务(例如文本摘要),发现了相同的结果。有趣的是,使用我们的技术后,性能有时会有所提高!
问:作为生成人工智能的消费者,我们可以做些什么来帮助减轻其对气候的影响?
一个:作为消费者,我们可以要求人工智能提供商提供更大的透明度。例如,在 Google Flights 上,我可以看到各种指示特定航班碳足迹的选项。我们应该从生成式人工智能工具中获得类似的测量结果,以便我们可以根据我们的优先事项有意识地决定使用哪个产品或平台。
我们还可以努力更多地了解人工智能生成排放的总体情况。我们许多人都熟悉汽车排放,这有助于以比较的方式谈论生成式人工智能排放。例如,人们可能会惊讶地发现,一项图像生成任务是大致相当驾驶汽油车行驶 4 英里,或者为电动汽车充电所需的能量与生成大约 1,500 个文本摘要所需的能量相同。
在很多情况下,如果客户知道权衡的影响,他们会很乐意做出权衡。
问:您对未来有何看法?
一个:减轻生成式人工智能对气候的影响是世界各地人们正在努力解决的问题之一,并且有着相似的目标。我们在林肯实验室做了很多工作,但这只是表面的。从长远来看,数据中心、人工智能开发人员和能源网格需要共同努力提供“能源审计”,以发现其他可以提高计算效率的独特方法。我们需要更多的伙伴关系和更多的协作才能取得进步。
如果您有兴趣了解更多信息或与林肯实验室合作开展这些工作,请联系 维杰·加德帕利。