Openai取消了与中国和其他国家相关的秘密行动

开放AI首席执行官Sam Altman在本周在旧金山举行的一次会议上发表讲话。该公司表示，它最近采用了10项使用其生成人工智能工具的影响力操作。这些行动中有四项可能由中国政府进行。贾斯汀·沙利文/盖蒂图像 隐藏字幕

切换标题

贾斯汀·沙利文/盖蒂图像

OpenAI研究人员说，中国宣传者正在使用Chatgpt在社交媒体网站上编写帖子和评论，并创建绩效评论，详细介绍对其老板的工作。

使用公司的人工智能聊天机器人来创建内部文档，以及由中国的另一项行动来创建促进其工作的营销材料，因为中国正在加大努力影响意见并在线进行监视。

OpenAI的情报和调查团队首席调查员Ben Nimmo在与记者有关公司最新的威胁报告的电话中说：“我们从中国看到的是越来越多的秘密行动。”

Openai在过去三个月中说，它以恶意方式破坏了10次操作，并禁止与他们相关的帐户。该公司表示，其中四项可能起源于中国。

Nimmo说：“与中国有联系的业务针对许多不同的国家和主题，甚至包括战略游戏。其中一些人结合了影响力运营，社会工程，监视的要素。它们确实在多个不同的平台和网站上工作。” Nimmo说。

一项名为“ Sneer Review”的OpenAI的中国操作使用Chatgpt来产生简短的评论，这些评论在Tiktok，X，Reddit，Facebook和其他网站上以英语，中文和乌尔都语为单位。受试者包括特朗普政府拆除美国国际发展机构，并批评了这一举动，以及对台湾比赛的批评，在该游戏中，玩家努力击败中国共产党。

在许多情况下，该操作产生了一个帖子以及对其的评论，Openai的报告说：“似乎是为了给有机参与的错误印象。”该操作使用Chatgpt来生成有关游戏的批判性评论，然后写一篇长格式的文章，声称游戏受到了广泛的反对。

Openai说，Sneer Review背后的参与者还使用OpenAI的工具来进行内部工作，包括“详细描述了为建立和运行操作所采取的步骤的绩效评论。”“我们在整个网络上观察到的社交媒体行为密切反映了本综述中描述的过程。”

与中国相关的另一项行动集中在为记者和地缘政治分析师摆姿势来收集情报。它使用Chatgpt编写X上帐户的帖子和传记，将电子邮件和消息从中文转换为英语，并分析数据。Openai说，其中包括“向美国参议员提名的有关提名的美国参议员的书信”，但补充说，它无法独立确认是否发送了信件。

Nimmo说：“他们还使用我们的模型来生成看起来像营销材料的东西。”Openai在其报告中说，该行动声称它进行了“旨在招募情报来源的伪造社交媒体运动和社会工程学”，其在线活动排队。

在它的先前的威胁报告2月，Openai确定了与中国有关的监视行动，该行动声称要监视社交媒体“以实时报道西方抗议活动的实时报告为中国安全部门”。该操作使用OpenAI的工具来调试代码并编写可用于社交媒体监控工具的销售销量中的描述。

Openai在周三发布的新报告中表示，它还中断了秘密影响力，可能起源于俄罗斯和伊朗，这是一家垃圾邮件业务，归因于菲律宾的一家商业营销公司，与柬埔寨有关的招聘骗局以及具有与朝鲜相关的运营标志的欺骗性就业运动。

Nimmo说：“值得承认这些操作使用的巨大范围以及各种策略和平台，所有这些都组合在一起。”但是，他说，这些行动在很大程度上被破坏了，并没有吸引真实的人。

Nimmo说：“由于使用AI，我们通常没有看到这些操作更多的参与度。”“对于这些操作，更好的工具并不一定意味着更好的结果。”

您是否有有关外国影响力和AI的信息？伸出手香农·邦德通过Shannonbond的信号的加密通信01