有关网络安全技术最新趋势的新闻、新闻分析和评论。
与行业合作伙伴的合作将改善集体人工智能防御。值得信赖的贡献者会收到有关现实世界人工智能事件的受保护的匿名数据。
2024 年 10 月 5 日
MITRE 威胁知情防御中心本周宣布启动人工智能事件共享计划，该计划与超过 15 家公司合作，以增加社区对人工智能系统的威胁和防御的了解。
事件共享计划属于该中心安全人工智能项目的范围，旨在就涉及人工智能系统的威胁、攻击和事故实现快速、安全的协作。它扩大了 MITRE ATLAS 社区知识库的范围，该知识库两年来一直在收集和描述匿名事件的数据。根据该计划，合作者社区将收到有关现实世界人工智能事件的受保护和匿名数据。
任何人都可以通过网络（https://ai-incidents.mitre.org/）提交事件。提交组织将被考虑加入会员，其目标是实现大规模数据驱动的风险情报和分析。
Secure AI 还扩展了 ATLAS 威胁框架，纳入了有关生成式 AI 的系统威胁态势的信息，添加了一些新的生成式 AI 案例研究和攻击技术，以及减轻对这些系统的攻击的新方法。2023 年 11 月，MITRE 与 Microsoft 合作，发布了专注于生成式 AI 的 ATLAS 知识库更新。
“有关事件的标准化、快速的信息共享将使整个社区能够改善此类系统的集体防御并减轻外部伤害，”MITRE 实验室副总裁道格拉斯·罗宾斯 (Douglas Robbins) 在一份声明中表示。
MITRE 与航空安全信息分析和共享数据库建立了类似的信息共享公私合作伙伴关系，用于共享数据和安全信息，以识别和预防航空危险。
安全 AI 合作者跨行业，代表来自金融服务、技术和医疗保健。该名单包括 AttackIQ、BlueRock、博思 Allen Hamilton、CATO Networks、花旗集团、云安全联盟、CrowdStrike、FS-ISAC、富士通、HCA Healthcare、HiddenLayer、英特尔、摩根大通银行、微软、渣打银行和 Verizon Business。p>
你可能也喜欢
DevSecOps/AWS
2024 年 10 月 17 日社会工程：新伎俩、新威胁、新防御
2024 年 10 月 23 日每个企业都应该了解的 10 个新出现的漏洞
2024 年 10 月 30 日通过自动化简化数据安全
2024 年 10 月 31 日