微软起诉滥用人工智能服务的“外国”犯罪分子
微软起诉了一群未透露姓名的网络犯罪分子，他们开发了绕过其生成人工智能工具中安全护栏的工具。这些工具被用来创建有害内容，并且这些工具的访问权限被作为服务出售给其他不法分子。
该诉讼于 12 月向美国地方法院提起，指控 10 名被告使用从“多个”微软客户窃取的 API 密钥以及定制设计的软件侵入运行微软 Azure Open AI 服务的计算机。
微软表示，它于 2024 年 7 月发现了该计划，但犯罪分子窃取 API 密钥的确切方式尚不清楚。
虽然法律诉讼没有指明 10 名被告中的任何一个，但微软数字犯罪部门助理总法律顾问史蒂文·马萨达 (Steven Masada) 表示：描述的将犯罪分子视为“基于外国的威胁行为者团体”。
该诉讼指控这 10 个人违反了《计算机欺诈和滥用法》、《数字千年版权法》和《诈骗影响和腐败组织法》(RICO) 等联邦法律，并寻求与“创建、控制、维护”相关的救济和损害赔偿。、贩运和持续使用非法计算机网络和盗版软件来对 Microsoft、其客户和广大公众造成伤害”[PDF]。
- 美国司法部和微软查获了俄罗斯 Star Blizzard 网络钓鱼攻击中使用的 107 个域名
- 美国做空中国“伏特台风”机组人员针对美国的批评者
- 微软查获了向分散蜘蛛和其他犯罪分子出售虚假电子邮件帐户的网站
- 中国网络间谍偷看官员调查美国军事基地附近的房地产交易
除了诉状外，新启封的法庭文件还包括一份法庭命令[PDF] 允许微软夺取用于犯罪活动的网络域名。马萨达表示，这将“让我们能够收集有关这些行动背后的个人的关键证据，破译这些服务如何货币化，并破坏我们发现的其他技术基础设施。”
投诉称，在使用被盗的客户凭据闯入 Azure 后，入侵者利用这种非法访问“创建了违反微软政策并规避微软技术保护措施的有害内容”。
此外，诉讼称，数字窃贼将这种访问权限作为“黑客即服务计划”转售给其他犯罪分子：
根据诉讼称，de3u 软件允许用户发出 Microsoft API 调用，以使用 DALL-E 模型生成图像，该模型可供 Azure OpenAI 服务客户使用。
法庭文件称，“被告使用开源软件包构建了一个网络应用程序，该应用程序实现了专门为使用 DALL-E 等工具通过文本提示生成图像而设计的自定义布局和数据流。”
此后，微软加强了 genAI 防护措施，并增加了安全缓解措施，据称这有助于防止此类滥用行为。它没有提供这些新安全措施的具体细节。®
关于《微软起诉滥用人工智能服务的“外国”犯罪分子》的评论
暂无评论