pentagon想要利用人工智能创建深度伪造的互联网用户

美国的一份由《拦截》审查的采购文件显示，秘密的特种作战司令部正在寻找公司帮助创建难以被人类或计算机检测出来的逼真的深度伪造互联网用户。

计划,被国防部联合特种作战司令部的一份新的76页愿望清单提及美国国防部联合参谋部特种作战需求与整合中心（JSOC）概述了该国最精英、秘密军事行动所需的技术。“特种作战部队（SOF）对能够在社交媒体平台、社交网站和其他在线内容上生成逼真的网络身份的技术感兴趣，”文件中写道。

该文件规定，JSOC希望具备创建在线用户资料的能力，这些资料“看起来像是一个独特的个体，并且可以被识别为人类，但实际上并不存在于现实世界中”，每个资料都具有“多种表情”和“政府身份认证质量的照片”。

除了伪造的人的静止图像外，文件还指出，“解决方案应包括面部和背景图像、面部和背景视频以及音频层”，JSOC希望能够从这些伪造的人中生成“自拍视频”。这些视频将不仅仅是虚假的人物：每个深度伪造的自拍都将附带一个匹配的伪造背景，“以创建一个无法被社交媒体算法检测到的虚拟环境。”

去年，特种作战指挥部门（简称SOCOM），表达了对视频“深度伪造”的兴趣，一个通用术语，指的是合成的音视频数据，旨在与真实的记录无法区分。此类图像使用各种机器学习技术生成，通常采用经过“训练”的软件来识别和重现人类特征，该软件通过分析大量面部和身体数据库实现这一目标。今年的SOCOM愿望清单中指出了对类似StyleGAN的软件的兴趣，这是一种Nvidia于2019年发布的程序，推动了广受欢迎的全球网站“这个人物不存在。”在StyleGAN发布的一年内，Facebook表示其被取下利用该技术创建虚假头像账号的账户网络。从那以后，学术界和私营部门的研究人员一直在参加一场与...的比赛之间新的创建无法检测的深度伪造的方法，以及新的检测它们的方法。如今许多政府服务现在要求所谓的活体检测以防范深度伪造的身份照片要求人类申请人上传自拍视频以证明他们是真实的人——这一障碍可能是SOCOM希望阻止的。

该公告指出，特种作战部队“将利用这一能力从公共在线论坛收集信息”，并未进一步解释这些人工互联网用户将如何被使用。这一披露发生在去年美国特种作战司令部（SOCOM）在愿望清单中透露希望尽快使用深度伪造视频进行网络宣传和信息战一年之后。

这份更为详细的采购清单显示，美国追求的技术和手段与其指责地缘政治对手使用的技术和手段完全相同。国家安全官员长期以来一直将国家支持的深度伪造技术的使用描述为一个紧迫威胁——前提是这种行为是由另一个国家实施的。

去年九月，NSA、FBI和CISA联合发表的一份声明中警告了“合成媒体，如深度伪造内容，对所有现代技术与通信的使用者构成了日益严峻的挑战。”它将深度伪造技术的全球蔓延描述为2023年的“顶级风险”。在记者背景简报今年，美国情报官员警告说，外国对手传播“生成式AI内容”的能力——这正是五角大楼目前寻求的能力——代表了来自俄罗斯、中国和伊朗等国家的“恶性影响加速器”。今年早些时候，国防部创新小组（DARPA）寻求私营部门在应对深度伪造技术时表现出担忧：“这项技术越来越普遍且具有可信度，对国防部构成了重大威胁，特别是当美国对手利用深度伪造进行欺骗、欺诈、虚假信息传播和其他恶意活动时。”美国陆军战略研究所在4月份的一份报告中也表达了类似的关切：“专家们预计，在未来十年内，包括使用人工智能制作深度伪造视频以播撒虚假信息来加剧社会分歧和加深不满在内的恶意行为将不断增长。”

美国对该技术的攻击性使用自然会促进其扩散，并将其视为所有政府的工具。“这项技术的一个显著特点是它纯粹具有欺骗性质，”AI Now研究所首席人工智能科学家希迪·克拉夫说。“除了欺骗之外，没有其他合法用途，看到美国军方利用他们自己曾警告过的技术令人担忧。这只会鼓励其他国家的军队或对手采取同样的行动，在这样的社会中，区分真相与虚构将变得越来越困难，并且会混淆地缘政治领域。”

俄罗斯和中国都被发现使用深度伪造视频和用户头像进行网络宣传，促使国务院于一月份宣布了一个国际“应对外国国家信息操纵框架”。国务院的新闻稿称：“外国信息操纵和干涉是对美国及其盟友和合作伙伴的国家安全威胁。”“威权政府利用信息操纵来破坏自由民主社会的基础。”

丹吉尔大学安全研究教授、国务院国际安全顾问委员会成员丹尼尔·比亚曼说，美国特种作战司令部（SOCOM）对深度伪造技术的兴趣反映了美国政府内部的一个根本性矛盾。“美国政府的大部分机构强烈希望公众相信政府始终如一地发布基于其最佳知识的真实信息，并且不会故意欺骗人们，”他解释道，“而其他部门则负责进行欺骗。”比亚曼补充说：“因此，确实存在美国会被视为虚伪的担忧。我同样担心这对国内民众对政府的信任的影响——美国人民是否会普遍变得更加怀疑来自政府的信息？”