MITRE 与业界合作改进集体人工智能防御
弗吉尼亚州麦克莱恩，2024 年 10 月 2 日 MITRE 威胁中心 -Informed Defense（中心）与超过 15 家公司合作，提高社区对人工智能系统的威胁和防御的了解，最终推出了人工智能事件共享计划。
有关事件共享计划的工作是该项目是 Centers Secure AI 项目的一部分，该项目围绕 MITRE ATLAS 构建，于 2024 年 6 月启动。AI 事件共享计划旨在提高对威胁的集体意识，并通过启用快速且受保护的方式，提高对威胁的集体意识，并最终防御人工智能支持的系统。共享涉及人工智能系统的攻击或事故的信息。该计划建立在更广泛的 MITRE ATLAS 社区两年的事件共享协作的基础上，以便能够更快速地描述和共享匿名事件。
与此同时，Secure AI 协作还扩展了 ATLAS 威胁框架，以进一步更新生成人工智能系统的对抗性威胁格局。与 MITRE ATTCK 非常相似，ATLAS 威胁框架是一个关于对手行为的社区知识库，安全专业人员、开发人员和操作员在保护人工智能系统时使用该知识库。
该项目添加了几个新的以人工智能为中心的生成式框架公共 ATLAS 知识库的案例研究和攻击技术，以及减轻对人工智能系统攻击的新方法。MITRE 此前曾与 Microsoft 合作，开始增强 ATLAS 知识库对生成式 AI 的关注，并于 2023 年 11 月发布了更新。这项工作将继续使 ATLAS 代表最新已证实的 AI 系统威胁。
Secure AI 项目的合作者包括：AttackIQ、BlueRock、Booz Allen Hamilton、CATO Networks、花旗集团、云安全联盟、CrowdStrike、FS-ISAC、富士通、HCA Healthcare、HiddenLayer、英特尔、摩根大通银行、微软、渣打银行和Verizon Business。
MITRE 实验室副总裁 Douglas Robbins 表示，随着各种规模和行业的公共和私人组织继续将人工智能纳入其系统，管理潜在事件的能力至关重要。有关事件的标准化和快速信息共享将使整个社区能够改善此类系统的集体防御并减轻外部伤害。
根据 MITRE ATLAS AI 事件共享计划，值得信赖的贡献者社区将受到保护和匿名有关在运行人工智能支持的系统中发生的真实人工智能事件的数据。
任何人都可以通过公共事件共享网站提交事件。提交后，他们的组织将被考虑成为受信任的数据接收者社区的成员。共享和接收这些受保护的信息将使整个社区能够大规模地实现更多数据驱动的风险情报和分析。
MITRE 运营着其他信息共享公私合作伙伴关系，包括公开可用的常见漏洞和暴露 (CVE) 列表，它代表网络安全和基础设施安全局运营，负责识别、定义和分类公开披露的网络安全漏洞。MITRE 还采用这种方法与航空安全信息分析和共享 (ASIAS) 数据库共享数据和安全信息，以识别和预防航空危险。
人工智能事件共享网站和提交表格可在 https 上获取。://ai-incidents.mitre.org/。
关于 MITRE
MITRE 的使命驱动型团队致力于解决问题，打造一个更安全的世界。通过我们的公私合作伙伴关系和联邦政府资助的研发中心，我们与政府合作并与行业合作，应对我们国家的安全、稳定和福祉面临的挑战。
关于威胁中心-Informed Defense
该中心是一个非营利性、私人资助的研究和开发组织，由公益技术基金会 MITRE Engenuity 运营。该中心的使命是推动全球威胁知情防御的最新技术和实践水平。该中心由来自全球各地的参与组织和高度复杂的安全团队组成，以 MITRE ATTCK 为基础，MITRE ATTCK 是安全团队和供应商在企业安全运营中使用的威胁知情防御的重要基础。由于该中心是为了公共利益而运作，因此其研究和开发的成果是公开的，并造福于所有人。如需了解更多信息，请联系 ctid@mitre-engenuity.org。
媒体联系人：Jeremy Singer、media@mitre.org