微软起诉利用其人工智能平台创建非法内容的服务
2025-01-10 23:10:57
英文原文
微软和其他公司禁止使用他们的生成式人工智能系统来创建各种内容。禁止的内容包括宣扬性剥削或性虐待、色情或色情的材料，或者基于种族、民族、国籍、性别、性别认同、性取向、宗教、年龄、攻击、诽谤或排斥他人的材料。残疾状况或类似特征。它还不允许创建包含威胁、恐吓、宣扬人身伤害或其他虐待行为的内容。
除了明确禁止对其平台进行此类使用之外，微软还开发了防护栏，可以检查用户输入的提示和结果输出，以发现所请求的内容是否违反任何这些条款。近年来，这些基于代码的限制已多次被黑客绕过，一些良性且由研究人员执行和其他的由恶意威胁行为者。微软没有准确概述被告的软件据称是如何设计来绕过该公司创建的护栏的。
马萨达写道：
Microsoft 的 AI 服务部署了强大的安全措施，包括 AI 模型、平台和应用程序级别的内置安全缓解措施。
正如我们今天公布的法庭文件中所指控的那样，微软观察到了一个来自外国的威胁，该组织开发了复杂的软件，该软件利用了从公共网站上窃取的暴露的客户凭据。在此过程中，他们试图识别并非法访问某些生成人工智能服务的帐户，并故意改变这些服务的功能。然后，网络犯罪分子使用这些服务并将访问权限转售给其他恶意行为者，并提供有关如何使用这些自定义工具生成有害和非法内容的详细说明。一经发现，微软就撤销了网络犯罪分子的访问权限，制定了对策，并增强了防护措施，以进一步阻止未来此类恶意活动。
该诉讼指控被告的服务违反了《计算机欺诈和滥用法》、《数字千年版权法》、《兰纳姆法》和《诈骗影响和腐败组织法》，并构成电信欺诈、访问设备欺诈、普通法侵入和侵权干扰。该诉状寻求一项禁令，禁止被告参与“本文中的任何活动”。
关于《微软起诉利用其人工智能平台创建非法内容的服务》的评论
暂无评论
发表评论
摘要
微软和其他公司禁止使用其生成式人工智能系统来制作包含性剥削、色情或色情材料以及基于受保护特征的任何形式的歧视或虐待行为的内容。他们实施了保护措施来监控用户的输入和输出，以确保这些策略得到遵守。然而，据报道，一个外国威胁组织开发了软件，利用暴露的客户凭据来绕过这些安全措施，使用受损的人工智能服务生成有害内容并转售对这些内容的访问权限。微软已根据多项美国法律对这一活动采取法律行动，并正在寻求禁令以防止其人工智能平台进一步被滥用。