OpenAI于周三表示，自今年以来，该公司已在全球范围内破坏了超过20个试图利用其平台进行恶意活动的操作和欺骗性网络。
此活动包括调试恶意软件、为网站撰写文章、生成社交媒体账户的个人简介以及为X平台上的虚假账号创建AI生成的头像。
威胁行为者继续对我们模型进行演变和实验，但我们没有看到证据表明这导致他们在创建新的恶意软件或建立病毒式受众方面取得了实质性的突破，人工智能（AI）公司表示：说.
它还表示，破坏了与美国、卢旺达的选举有关的社会媒体内容生成活动，在较小程度上涉及印度和欧洲联盟，并且这些网络都没有引起病毒式传播或持续的关注。
这包括一家名为STOIC的以色列商业公司（也称为Zero Zeno）所做出的努力，该公司生成了关于印度选举的社会媒体评论，作为此前披露的由Meta和OpenAI在上个月初发布的。
OpenAI突出的一些网络行动如下：
- 甜美幽灵一个疑似位于中国的对手，利用OpenAI的服务进行基于大语言模型的情报收集、漏洞研究、脚本支持、异常检测规避以及开发工作。还观察到该对手对OpenAI员工进行了未成功的鱼叉式网络钓鱼攻击，企图投递SugarGh0st后门程序。
- 网络复仇者联盟一个与伊朗伊斯兰革命卫队(IRGC)有关联的团体使用其模型对可编程逻辑控制器进行了研究。
- 风暴-0817，一名伊朗威胁行为者使用其模型调试能够收集敏感信息的Android恶意软件、通过Selenium抓取Instagram个人资料的工具以及将LinkedIn个人资料翻译成波斯语的工具。
该公司表示，它采取了措施阻止了几组集群，包括代号为“A2Z”和“Stop News”的影响操作，这些账户生成了英语和法语内容，并在多个网站和社交媒体平台上发布。
研究人员本·尼莫和迈克尔·弗洛斯曼表示：“[停止新闻]在使用图像方面异常活跃。”“其许多网络文章和推特都配有使用DALL·E生成的图片，这些图片常常以卡通风格呈现，并采用鲜艳的色彩或戏剧性的色调来吸引注意力。”
OpenAI的Bet Bot和Corrupt Comment识别的另外两个网络被发现使用它们的API在X平台上与用户生成对话并发送赌博网站链接，以及制造评论然后发布在X上。
披露发生在OpenAI禁用了一组与伊朗秘密影响力行动有关的账号将近两个月之后。风暴-2035利用ChatGPT生成内容，其中重点关注即将到来的美国总统选举。
"Nimmo 和 Flossman 写道，威胁行为者最常使用我们的模型来执行活动特定中间阶段的任务——在他们获取了基本工具（如互联网访问权限、电子邮件地址和社会媒体账户）之后，但在通过各种分发渠道在网络上传播‘成品’（例如社交媒体帖子或恶意软件）之前。"
网络安全公司Sophos上周发布的一份报告称，生成式AI可能被滥用通过精准定向的电子邮件传播定制化的虚假信息。
这意味着滥用AI模型来制作政治竞选网站，跨越整个政治光谱的AI生成的人设，以及根据竞选要点专门针对他们的电子邮件信息，从而实现了一个新的自动化水平，使得大规模传播虚假信息成为可能。
这意味着用户可以通过轻微的重新配置生成从良性竞选材料到故意传播错误信息和恶意威胁的内容，研究人员本·格尔曼和阿达什·凯亚吉这样说。说.
可以将任何实际的政治运动或候选人与支持某种政策联系起来，即使他们并不认同。这种故意的误导信息可能会让人们支持一个他们不支持的候选人，或者反对一个他们原本喜欢的候选人。
觉得这篇文章有趣？关注我们 на Russian (这不是确切的中文翻译，因为提供的文本已经是接近中文的表达方式，所以直接给出中文译文或保持原样): 觉得这篇文章有趣？关注我们推特和领英阅读我们更多发布的独家内容。