五角大楼文件：美国希望使用AI宣传“压制异议论点”

美国希望使用机器学习来在海外创建和分发宣传，以影响外国目标受众和抑制反对论点，这是根据美国特种作战命令文件的审查。

该文件是一种近事件军事技术的特殊操作愿望清单，揭示了有关Socom希望在未来五到七年内购买的各种能力的新细节，包括最先进的摄像头，传感器，指示能量武器以及其他小工具，以帮助操作员发现和杀死他们的采石场。它想要采购的技术之一是可用于信息战的机器学习软件。

为了加强其先进的技术增强军事信息支持操作的行动。

所谓的代理系统使用的机器学习模型据称以最少的人类教学或监督操作。这些系统可以与大型语言模型或LLMS（例如ChatGpt）结合使用，该系统根据用户提示生成文本。尽管围绕这些代理系统和LLM的大量营销炒作轨道，因为它们有可能执行在线购物和预订门票等平凡任务的潜力，但Socom认为这些技术可能非常适合经营自主宣传服装。

文件指出，信息环境的发展太快了，无法充分参与互联网上的观众。”``建立一个以支持我们的目标的计划可以使我们能够实时控制叙事并影响听众。”

法律和五角大楼的政策通常禁止军事宣传运动针对美国受众，但互联网的多孔性质使得难以确保。

SOCOM发言人丹·莱萨德（Dan Lessard）在一份声明中承认，Socom正在追求尖端，支持AI的能力。

他告诉《拦截》，所有支持AI支持的功能都是根据国防部负责的AI框架开发和雇用的，该框架通过需要人类的监督和决策来确保责任和透明度。”USSOCOM的基于Internet的MISO努力与美国法律和政策保持一致。这些行动并不针对美国公众，旨在在面临日益复杂的全球挑战时支持国家安全目标。”

诸如Openai的工具Chatgpt或Google的双子座尽管倾向于事实错误和其他不稳定的输出，但仍在流行。但是，他们能够立即在任何主题上撰写文本的能力，几乎以任何语调写成。这些工具使用户有可能在没有人工劳动的时间或成本的情况下获得任何数量的听众。

AI生成的宣传是否有效仍然是一个悬而未决的问题，但是这种做法已经在野外充分记录在野外。2024年5月，OpenAI发布了一份报告，揭示了伊朗，中国和俄罗斯演员使用该公司的工具从事秘密影响运动的努力，但发现没有人特别成功。在2023年参议院AI Insight论坛之前的评论中，布鲁金斯机构的杰西卡·布兰特（Jessica Brandt）警告说，LLMS可能会增加信息运动的个性化，因此具有说服力。2024年发表在《学术杂志》 PNAS Nexus上的一项研究发现，语言模型可以产生对美国观众的说服力，就像我们从现实世界中的外国秘密宣传活动中提出的内容一样。”

毫不奇怪，国家安全机构现在坚持认为，这项技术在外国大国（即俄罗斯和中国）造成的威胁是最可怕的。

A.I.时代宣传已经到来，美国必须采取行动。警告《纽约时报》最近关于Golaxy的意见论文，该软件是由中国公司北京思想家最初用于玩棋盘游戏的软件。范德比尔特大学（Vanderbilt University）的政治学教授布雷特·本森（Brett Benson）和前国防部官员布雷特·戈德斯坦（Brett Goldstein）描绘了一幅严峻的画面，表明戈拉克斯（Golaxy）是国家一致的影响力运动的新兴领导者。

他们警告Golaxy，能够扫描公共社交媒体内容并进行定制的宣传活动。该公司私下声称，它可以使用新技术代表中国政府重塑和影响公众舆论。”根据同伴作品随着时间的流逝，国家安全记者朱利安·巴恩斯（Julian Barnes）头条新闻 - 中国转向A.I.在信息战中，新闻项目引起了类似的鲜明语气：戈拉克斯（Golaxy）可以迅速制定反应，从而加强中国政府的观点并反对反对论点。一旦使用，这些帖子就可以在宣传中淹没有机辩论。根据这些材料，泰晤士报说，戈拉克斯在香港和台湾进行了影响力，并收集了国会议员和其他有影响力的美国人的数据。”

为了应对这一外国威胁，本森和戈德斯坦认为，必须在政府，学术界和私营部门进行协调的回应。他们将这种反应描述为本质上的防御：映射和反对外国AI宣传。

这不是特种作战中的文件，技术和物流中心表明五角大楼正在寻求。

该材料表明，SOCOM认为它需要与报道的中国能力密切相匹配的技术，机器人搜寻和摄入大量的互联网chat不休，以更好地说服有针对性的人群或个人在任何给定的主题上。

SOCOM表示，它特别希望自动化系统刮擦信息环境，分析情况并以符合误差目标一致的消息做出响应。该技术应该能够回应职位，抑制反对论点，并产生可以参考支持友好论证和信息的原始材料。”

五角大楼特别关注那些可能会宣布其宣传工作的人。

文档指出，该程序还应该能够访问试图反驳或抹黑我们的消息的个人或团体的个人资料，网络和系统。”功能应利用获得的信息来创建更有针对性的信息来影响该特定个人或群体。

文件指出，SOCOM预计使用生成系统来制作宣传消息，并模拟一旦发送到野外，将如何收到这种宣传。SOCOM希望它将使用代理系统来复制特定的知识，技能，能力，人格特征和人格特征和社会文化属性，在继续进行集思广益和测试操作运动之前，要对基于代理人的复制品，这些模型启用了这些模型，而是启用这些模型，以启用这些模型，以启用这些模型，以启用这些模型，以启用这些模型，以启用这些模型，以实现这些模型。试验或测试各种多种情况。

SOCOM愿望清单继续包括在内进攻性深层功能，首先由2023年截距报告。

前景警报已经收到了创造无限的宣传宣传的无限消防，但通常是在美国作为目标而不是肇事者的背景下。

A 2023 publication by the State Department-funded nonprofit Freedom House warned of “The Repressive Power of Artificial Intelligence,” predicting “AI-assisted disinformation campaigns will skyrocket as malicious actors develop additional ways to bypass safeguards and exploit open-source models.” Warning that “Generative AI draws authoritarian attention,” the Freedom House report cites potential use by China and Russia, but only mentions domestic关于罗恩·德桑蒂斯（Ron DeSantis）和唐纳德·特朗普（Donald Trump）总统运动的简要部分，使用了该技术，以及乔·拜登（Joe Biden）操纵的乔·拜登（Joe Biden）的深层视频，描绘了前总统发表恐惧症的评论。国家安全委员会新兴技术总监安德鲁·洛恩（Andrew Lohn）表示，自动化的宣传机能够使公众关注的程度取决于其申请的范围。

``如果某些外国士兵错误地确信我们的特殊行动将在周三上午从东方而不是星期二晚上乘船从西部的船上进行。

军方有以政治或意识形态目的操纵平民人口的历史。2024年发现了一个令人不安的例子，当路透社报道国防部经营一个秘密反VAX社交媒体运动为了削弱公众对中国共同疫苗的信心，担心其功效可能会使亚洲国家更接近一个主要的地缘政治竞争对手。五角大楼创建的推文描述了中国锡诺瓦 - 卡罗纳瓦克射击描述由世界卫生组织（World Health）作为“假和不信任”的安全有效。根据路透社的报告，当时的特殊行动指挥太平洋将军乔纳森·布拉加（Jonathan Braga）通过支持秘密宣传运动，敦促他在华盛顿的老板在所谓的信息空间中反击。

兰德公司（Rand Corporation）的行为科学家威廉·马塞利诺（William Marcellino）致力于机器学习系统和五角大楼采购的地缘政治，他告诉拦截是由于必要而建立的。他说，像来自中国和俄罗斯的政权从事启用AI的恶性影响力的努力。”他警告说，在中国与国家隶属的团体已经明确为公众舆论战争设计了AI级系统。”

他说，反对这些运动可能需要AI的回答。”

近年来，SOCOM对其对AI创建的宣传系统的渴望一直公开。这些陈述表明，更广泛的兴趣，包括影响整个人口的行动，而不是针对军事人员的量身定制。

2019年，五角大楼高级特种作战官员在国防研讨会上讲话官员指出，该国需要超越我们20世纪的传递方法，并开始将影响视为现代不规则战争的一个不可或缺的方面。克拉克描述了他对使用AI实现这些目的的兴趣。

克拉克在2020年首次报道的备注中说，当我们关注[信息]环境中影响和塑造的能力时，我们必须拥有人工智能和机器学习工具。”国防杂志，特别是针对投资组合非常广泛的信息操作，因为我们必须了解对手的思维方式，人口的思考和在这些空间中的工作。”

AI现任研究所的首席科学家，Openai的前安全工程师海德·赫拉夫（Heidy Khaaf）警告不要采取战斗的方式：构建生成性和代理AI的使用来减轻对手的缓解，只是对对手使用的一种方法，就是这种技术的误解，因为他们的两种方法是在这种情况下使用的两种情况，而这是同一局面，并且是同样的co inties and Ities，当前的情况下，它的前提是，这是一种方法。做

根据大西洋委员会数字法医研究实验室的高级研究员艾默生·布鲁克（Emerson Brooking）的说法，在线影响运动可能会导致成绩不足。俄罗斯一直在使用AI计划来自动化其影响力操作。该计划不是很好，”他说。

布鲁克说，在用户提示时，LLMS构成虚假和永久性的先入之见的趋势也可能证明是重大责任。他说，他们的任务是弄清一个复杂而研究的国家的心灵，他们可能会大力依靠AI来帮助他们，这很可能会告诉他们他们已经想听到了什么。”

Khlaaf补充说，由科技公司作为独立数字大脑的大量销售的代理系统仍然容易出错，并且不可预测。她告诉《拦截》，在这些虚假信息活动中引入了代理AI增加了一层安全和安全问题，因为一些研究结果证明了我们很容易折衷和转移代理AI的行为。”``尚未解决这些安全问题，[SOCOM]冒着他们的竞选活动不仅受到妥协的风险，而且会产生不打算的材料。”

布鲁金（Brooking）以前曾担任过网络安全事务政策政策办公室的顾问，他还指出了美国先前在线宣传工作的混合记录。2022年，研究人员透露了Twitter和Facebook帐户网络由美国中央司令部秘密操作这一直在推动包含反俄罗斯和伊朗谈话要点的虚假新闻文章。该网络未能在任何一个社交网络上获得吸引力，迅速使五角大楼感到尴尬。

我们从其他 公开报告他说，美国长期以来一直在寻求抑制异议论点，并在某些运营领域产生积极的媒体。”我们还知道，这些努力效果不佳，在向美国公众透露时可能会非常尴尬或适得其反。AI倾向于使这些运动变得愚蠢，而不是更有效。