微软打击恶意副驾驶人工智能使用
2025-01-13 21:43:22
英文原文
作者：Kristina Beek, Associate Editor, Dark Reading
资料来源：MAXSHOT.PL，来自 Shutterstock
新闻简报
微软的数字犯罪部门正在采取法律行动，以阻止网络犯罪分子创建恶意工具来逃避安全护栏和指导方针。生成式人工智能(GenAI) 服务创建有害内容。
根据弗吉尼亚州东区的一份未密封投诉，尽管该公司不遗余力地创建和增强安全的人工智能产品和服务，但网络犯罪分子仍在不断创新策略并绕过安全措施。
微软在一份声明中表示：“通过这一行动，我们发出了一个明确的信息：网络行为者将我们的人工智能技术武器化是不会被容忍的。”博客文章关于诉讼。
在 1 月 13 日公开的法庭文件中，微软指出，它“观察到一个外国威胁组织开发了复杂的软件，该软件利用了从公共网站上抓取的暴露的客户凭据。”
该组织试图访问帐户生成式人工智能服务为了改变这些服务的功能，然后将这种非法访问权限转售给其他恶意行为者，并提供有关如何使用这些工具创建有害内容的说明。
自从发现该组织的行为后，微软已撤销访问权限并增强了安全措施，以减少未来此类活动的发生。
随着该公司继续寻求在采取法律行动的同时采取积极主动的措施，它强调了一份报告，“保护公众免受人工智能生成的滥用内容的侵害”，为组织和政府提供建议，以保护公众免受人工智能造成的威胁。
关于《微软打击恶意副驾驶人工智能使用》的评论
暂无评论
发表评论
摘要
微软数字犯罪部门正在对利用生成式人工智能服务中的安全缺陷创建有害内容的网络犯罪分子采取法律行动。该公司表示，它观察到一个外国威胁组织正在开发软件来访问客户凭据并改变人工智能服务功能，然后将其出售给其他恶意行为者。针对这些行为，Microsoft 已取消访问权限并增强了保护措施，并正在为组织和政府提出建议，以防范此类威胁。