英语轻松读发新版了,欢迎下载、更新

美国科技巨头如何向以色列提供AI模型,从而提出有关技术在战争中的作用的疑问

2025-02-18 12:12:00 英文原文

作者:By SAM MEDNICK and GARANCE BURKE

以色列特拉维夫(AP) - 美国科技巨头通过人工智能和计算服务的急剧尖峰,使以色列悄悄地授权以色列在加沙和黎巴嫩更快地追踪和杀死更多所谓的激进分子。但是,被杀的平民数量也飙升,并担心这些工具会导致无辜人民的死亡。

军队多年来一直雇用私人公司来建造自主武器。但是,以色列最近的战争标志着一个主要实例,尽管人们担心他们最初并没有开发出来帮助确定谁的生命和死亡,但在美国制造的商业AI模型已被用于主动战争。

以色列军方利用AI筛选了巨大的情报,拦截的通讯和监视,以寻找可疑的言语或行为,并学习其敌人的运动。一项美联社调查发现,在哈马斯激进分子在2023年10月7日发动了惊喜攻击之后,对微软和Openai技术的使用猛增。

该调查还揭示了AI系统如何选择目标以及它们出错的方式的新细节,包括数据错误或缺陷算法。它基于对现任和前以色列官员和公司雇员的内部文件,数据和独家访谈。

以色列在袭击造成约1200人并占领250人人质的进攻后的进球是消除哈马斯,其军方称AI为改变游戏规则的人,以更快地产生目标。自战争开始以来,在加沙和黎巴嫩和近70%的建筑物根据加沙和黎巴嫩的卫生部门的说法,在加沙,在加沙遭到破坏。

这是我们第一个确认,我们已经获得了商业AI模型直接用于战争。”AI现在的研究所以及Openai的前高级安全工程师。``技术在实现这种不道德和非法战争中的作用而言是巨大的。”

战争期间以色列的AI和云计算飙升

在美国科技公司中,微软与几十年来的以色列军事部队有着特别密切的关系。

在哈马斯袭击事件发生后,这种关系与其他科技公司一起加紧了。根据军方最高信息技术官员Racheli Dembinsky上校的演讲,以色列的战争反应激发了自己的服务器,并增加了对外部第三方供应商的依赖。正如她描述了AI如何在加沙中提供以色列非常重要的运营效率时,Microsoft Azure,Google Cloud和Amazon Web服务的徽标出现在她后面的大屏幕上。

以色列军方的微软和Openai人工智能使用了去年3月的峰值,比10月7日袭击之前的一周之前高达200倍,在审查内部公司信息时发现了AP。它在Microsoft服务器上存储的数据量在那段时间至2024年7月之间翻了一番,超过13.6 pb,大约是将每本书存储在国会图书馆中所需的数字记忆所需的350倍。仅在战争的前两个月,军方对微软的大量计算机服务器的使用也增加了近三分之二。

微软拒绝为此故事提供任何评论,也没有回应有关其向以色列军方提供的有关云和AI服务的详细书面问题清单。

在一个广阔的地方网站上的声明该公司表示,尊重人权是微软的核心价值,它致力于支持全球技术的积极作用。负责的AI透明度报告在2024年,微软承诺在整个开发周期中衡量,衡量和管理生成的AI风险,以降低伤害风险,并且没有提及其有利可图的军事合同。

文件和数据显示,通过Microsoft的Azure Cloud平台Openai提供了高级AI型号,这些模型是由以色列军方购买的。微软一直是Openai的最大投资者。

Openai表示,它与以色列军队没有合作伙伴关系,使用政策说其客户不应使用其产品开发武器,破坏财产或损害人们。然而,大约一年前,OpenAI将其使用条款从禁止军事用途到允许与我们的使命保持一致的国家安全用例。”

以色列军方拒绝回答美联社从美国科技公司使用商业AI产品的详细书面问题,但表示其分析师使用支持AI的系统来帮助识别目标,并与高级官员一起独立检查它们,以与国际遇见国际法律,权衡军事优势与附带损害。

这些AI工具使情报过程更加准确,更有效,”以色列对美联社的军事声明说。``他们更快地实现了更多的目标,但不能以准确性为代价,而且在这场战争中很多次能够最大程度地减少平民伤亡。”

其他美国科技公司也与以色列军队合作

Google和Amazon在Nimbus项目下为以色列军方提供云计算和AI服务,这是一份12亿美元的合同,于2021年签署了12亿美元的合同,当时以色列首次测试了其内部AI驱动的目标系统。IDF使用了Cisco和Dell Server Farms或数据中心。独立IBM子公司Red Hat还为以色列军方提供了云计算技术,而美国国防合同的Microsoft合作伙伴Palantir Technologies拥有战略合作伙伴关系,可帮助以色列战争的A​​I系统努力。

在Openai更改了去年允许国家安全目的的使用条款之后,Google在本月初效仿,其更改与其类似公共道德政策删除语言,说这不会使用其AI进行武器和监视。

谷歌表示,它致力于负责任地发展和部署保护人民,促进全球增长和支持国家安全的AI。

商业AI是用什么?

以色列国防军使用Microsoft Azure来编译通过大规模监视收集的信息,该信息可以转录和翻译,包括电话,短信和音频消息,并根据该系统合作。然后,这些数据可以与以色列内部目标系统进行交叉检查,反之亦然。

他说,他依靠Azure快速搜索大量文本中的术语和模式,例如在50页的文件中找到两个人之间的对话。Azure还可以找到文本中彼此指示的人,然后可以与军方自己的AI系统进行交叉引用,以查明位置。

Microsoft Data AP审查的表明,自10月7日攻击以来,以色列军方大量使用了转录和翻译工具和OpenAI模型,尽管它没有详细说明。通常,转录和翻译的AI模型在英语中表现最佳。Openai承认,它受欢迎的AI驱动翻译模型耳语可以转录并转化为包括阿拉伯语在内的多种语言,可以编造没有人说的文字,包括增加种族评论和暴力言论。

以色列的AI系统可靠吗?

以色列军官与目标系统和其他科技专家合作的以色列军官说,出于多种原因可能发生错误。与人的个人资料相关的拦截电话包括该人打电话的时间以及通话中的姓名和号码。但是,要聆听和验证原始音频或查看翻译成绩单需要额外的步骤。

以色列军方说,一个知道阿拉伯语的人应该检查翻译。尽管如此,一位情报官说,他已经看到目标错误依赖于从阿拉伯语到希伯来语的机器翻译不正确的错误。

___

比塞克(Biesecker)从华盛顿(Washington)报道了旧金山的伯克(Burke)。AP记者的艾比·塞威尔(Abby Sewell)和萨拉·埃尔·迪布(Sarah El Deeb)位于贝鲁特(Beirut),朱莉娅·弗兰克尔(Julia Frankel)和纳塔莉·梅尔泽(Natalie Melzer),北京的戴克·康(Dake Kang)和旧金山的迈克尔·利兹特克(Michael Liedtke)为这份报告做出了贡献。

___

联系AP的全球调查团队[电子邮件保护]或者https://www.ap.org/tips/

___

美联社从Omidyar网络获得了经济援助,以支持人工智能的覆盖范围及其对社会的影响。AP对所有内容负责。找到ap标准与慈善事业合作,支持者名单和资助的承保领域ap.org。.

关于《美国科技巨头如何向以色列提供AI模型,从而提出有关技术在战争中的作用的疑问》的评论


暂无评论

发表评论

摘要

美国科技公司通过增加的人工智能和计算服务大大提高了以色列在加沙和黎巴嫩消除涉嫌武装分子的能力,尽管这也导致了平民伤亡的增加。在哈马斯(Hamas)2023年10月袭击之后,以色列军方的使用情况急剧增加,数据表明他们的工具被用来更快地选择目标。人们对这些商业AI模型在主动战争中的道德意义提出了担忧。尽管科技公司对人权和负责使用技术的保证,但在军事应用中这些系统的可靠性和准确性仍然存在问题。