负责核武器的将军说，哎呀，让我们添加一些人工智能
可能会出什么问题？
德福康人工智能
负责美国核导弹库存的空军上将安东尼·科顿表示，五角大楼正在加倍研究人工智能——这是一个令人震惊的迹象，表明围绕该技术的炒作甚至已经渗透到了美国军方的最高层。。
作为空军和太空部队杂志报告科顿在本月早些时候举行的2024年国防部情报信息系统会议上发表了上述言论。
幸运的是，科顿没有承诺将核代码交给潜在的恶意人工智能。
“人工智能将增强我们的决策能力，”他说。“但我们决不能让人工智能为我们做出这些决定。”
算法威慑
美军正计划花费高达1.7万亿美元更新其核武库。科顿透露，人工智能系统可能是此次升级的一部分。
然而，将军对于这项技术到底如何整合仍然十分含糊。
“先进的系统可以更快、更有效地向我们提供信息，”他在会议上说。“但我们必须始终保持人为决策的循环，以最大限度地利用这些能力并保持我们相对于对手的优势。”
“先进的人工智能和强大的数据分析能力提供了决策优势并改善了我们的威慑海报，”他补充道。“信息技术和人工智能的优势可以更有效地整合常规能力和核能力，从而加强威慑。”
抛开模糊性不谈，核保密专家、史蒂文斯理工学院专家亚历克斯·韦勒斯坦 (Alex Wellerstein)告诉404媒体“我认为可以肯定地说，他们在这里谈论的不是天网”，指的是科幻大片《终结者》系列中虚构的人工智能。
“他非常清楚地表明，他正在谈论的是分析和提供信息的系统，而不是发射导弹，”他补充道。“如果我们相信他的话，那么我们就可以忽视对人工智能做出核目标决定的更常见的恐惧。”
尽管如此，科顿关于人工智能可能影响是否发射核武器的决定的建议还是令人不安。
举个例子，今年早些时候，斯坦福大学的一组研究人员任务OpenAI 的 GPT-4 大语言模型的未经修改版本，用于在一系列兵棋模拟中做出高风险的社会级决策。
可怕的是，人工智能模型似乎神秘地渴望发动核战争。
“我们有！”它告诉研究人员，正如他们的论文中所引用的那样纸。“我们用它吧。”
有关人工智能和核武器的更多信息： 肩负毁灭人类任务的人工智能现在正在尝试新策略
关于《负责核武器的将军说，哎呀，让我们添加一些人工智能》的评论
暂无评论