欧盟现在禁止使用“不可接受风险”的AI系统|TechCrunch

截至欧盟周日，集团的监管机构可以禁止使用他们认为的AI系统来构成不可接受的风险或伤害。

2月2日是第一个合规性截止日期欧盟的AI行为，经过多年的发展，欧洲议会终于批准了欧洲议会的全面AI监管框架。该法案正式生效8月1日;现在是第一个合规性截止日期。

这些细节在第5条中列出，但总体上，该法案旨在涵盖AI可能出现并与个人互动的无数用例，从消费者应用到物理环境。

在下面 集团的方法，有四个广泛的风险水平：（1）最小风险（例如，电子邮件垃圾邮件过滤器）不会面临监管的监督；（2）包括客户服务聊天机器人在内的有限风险将进行轻度监管监督；（3）高风险 - 医疗保健建议就是一个例子 - 将面临严重的监管；（4）不可接受的风险申请 - 将完全禁止本月合规性要求的重点。

一些不可接受的活动包括：

• AI用于社会评分（例如，基于人的行为建立风险概况）。
• AI可以在下肢或欺骗性地操纵一个人的决定。
• 利用年龄，残疾或社会经济地位等脆弱性的AI。
• AI试图根据其外观预测犯罪的人。
• 使用生物识别技术来推断人的特征，例如他们的性取向。
• 为执法目的，在公共场所收集实时生物识别数据的AI。
• 试图推断人们在工作或学校的情绪的人工智能。
• 通过在线或从安全摄像机刮擦图像来创建或扩展面部识别数据库的AI。

发现欧盟使用上述任何AI应用程序的公司将受到罚款，无论其总部位于哪里。他们可能会陷入高达3.5亿（约3600万美元），或从上一财政年度开始的年收入的7％，以较高者为准。

英国律师事务所Slaughter和May在TechCrunch采访时，罚款将一段时间以来，罚款一段时间。

``预计组织将在2月2日完全遵守，但•公司需要在八月意识到的下一个大截止日期。”届时，我们将知道主管当局是谁，罚款和执行条款将生效。

初步承诺

2月2日的截止日期在某些方面是一种形式。

去年9月，超过100家公司签署了欧盟AI条约，自愿承诺在进入申请之前开始应用《 AI法》的原则。作为该协议的一部分，包括亚马逊，Google和OpenAI在内的签署人致力于确定根据AI法案将可能被归类为高风险的AI系统。

一些科技巨头，尤其是元和苹果，跳过了该协议。法国人工智能创业公司Mistral，AI最严厉的批评家之一，也选择不签名。

这不是表明苹果，元，米斯特拉尔或其他不同意该协议的其他人不会履行其义务，包括禁止对不可接受的风险系统的禁令。Sumroy指出，鉴于规定的禁止用例的性质，大多数公司无论如何都会从事这些做法。

对于组织而言，《欧盟AI法案》的关键问题是明确的准则，标准和行为准则是​​否会及时到达，至关重要的是，他们是否会为组织提供合规性的清晰度，” Sumroy说。。但是，到目前为止，工作组还按照开发人员的行为守则的截止日期。

可能的豁免

AI法案的一些禁令有例外。

例如，该法案允许执法部门使用某些在公共场所收集生物识别技术的系统，如果这些系统有助于执行针对性的搜索，例如绑架受害者，或帮助防止特定的，实质性的，，以及迫在眉睫的生命威胁。这种豁免要求授权适当的理事机构，该法案强调，执法可以做出决定，使仅基于这些系统的成果对人产生不利的法律效果。

该法案还阐明了在有医疗或安全理由的工作场所和学校中推断情绪的系统，例如为治疗使用而设计的系统。

欧盟委员会，欧盟的行政部门，说它将发布其他准则在2025年初，在11月与利益相关者进行了磋商之后。但是，这些准则尚未发布。

苏罗伊（Sumroy）表示，还不清楚书籍上其他法律如何与AI法案的禁止和相关规定互动。随着执法窗口的临近，清晰度可能直到今年晚些时候才能到达。

萨姆罗伊说，组织重要的是要记住AI法规并非孤立地存在。”其他法律框架，例如GDPR，NIS2和DORA，将与AI法案进行互动，尤其是在重叠的事件通知要求上引起潜在的挑战。了解这些法律如何结合在一起将与理解AI行为本身一样至关重要。