国土安全部发布关键基础设施安全人工智能框架
作者：Dark Reading StaffDark ReadingDark Reading is a leading cybersecurity media site.
资料来源：GK 图片来自 Alamy Stock Photo
美国国土安全部 (DHS) 发布了建议，概述了如何在关键基础设施中安全地开发和部署人工智能 (AI)。这些建议适用于人工智能供应链中的所有参与者，从云和计算基础设施提供商，到人工智能开发人员，一直到关键基础设施所有者和运营商。还为民间社会和公共部门组织提供了建议。
“关键基础设施中人工智能的角色和职责框架”中的自愿建议着眼于五个关键领域的每个角色：保护环境、推动负责任的模型和系统设计、实施数据治理、确保安全可靠的部署以及监控性能和影响。还有技术和流程建议，以增强人工智能系统的安全性和可信度。
国土安全部在一份新闻稿中表示，人工智能已经被用于跨部门的恢复和风险缓解，例如用于地震检测、稳定电网和邮件分类的人工智能应用。
该框架着眼于每个角色的职责：
云和计算基础设施提供商需要审查其硬件和软件供应链，实施强有力的访问管理，并保护支持人工智能系统的数据中心的物理安全。该框架还提出了通过监控异常活动和建立报告可疑和有害活动的明确流程来支持下游客户和流程的建议。
人工智能开发者应采用安全的设计方法，评估人工智能模型的危险能力，并“确保模型与以人为中心的价值观保持一致”。该框架进一步鼓励人工智能开发人员实施强有力的隐私实践；进行评估，测试可能的偏差、故障模式和漏洞；支持对给关键基础设施系统及其消费者带来较高风险的模型进行独立评估。
关键基础设施所有者和运营商应安全地部署人工智能系统，包括维护强大的网络安全实践来应对人工智能相关风险，在微调人工智能产品时保护客户数据，并就使用人工智能向公众提供商品、服务或利益提供有意义的透明度。
民间社会包括从事人工智能安全问题的大学、研究机构和消费者权益倡导者在内，应继续与政府和行业一起制定标准，并研究考虑关键基础设施用例的人工智能评估。
公共部门包括联邦、州、地方、部落和地区政府在内的实体应通过法律和监管行动提高人工智能安全和保障的实践标准。
国土安全部部长亚历杭德罗·马约卡斯（Alejandro N. Mayorkas）在一份声明中表示：“该框架如果得到广泛采用，将大大有助于更好地确保提供清洁水、稳定电力、互联网接入等关键服务的安全性。”
国土安全部框架提出了一种共享和单独责任的模型，以确保在关键基础设施中安全可靠地使用人工智能。它还依赖现有的风险框架，使实体能够评估将人工智能用于某些系统或应用程序是否会带来可能造成损害的严重风险。
马约卡斯在媒体电话会议上表示：“坦率地说，我们希望该框架成为一份动态文件，并随着行业发展的变化而改变。”
关于作者
你可能也喜欢
关于《国土安全部发布关键基础设施安全人工智能框架》的评论
暂无评论