CISO 如何引领负责任的 AI 冲锋

资料来源：Andreas Prott，来自 Alamy Stock Photo

评论

没有人愿意错过人工智能 (AI) 浪潮，但“对错过的恐惧”让领导者准备好踏上这趟已经快速行驶的列车，而风险可能超过回报。普华永道调查突显了一个严峻的现实：40% 的全球领导人并不了解生成式人工智能 (GenAI) 的网络风险，尽管他们对新兴技术充满热情。这是一个危险信号，可能会使公司因人工智能采用的疏忽而面临安全风险。这正是首席信息安全官（CISO）应该领导人工智能技术评估、实施和治理的原因。CISO 了解风险场景，有助于创建保障措施，以便每个人都可以安全地使用该技术，并更多地关注人工智能的承诺和机遇。 

人工智能之旅从 CISO 开始 –

如果没有明确的指导方针，踏上人工智能之旅可能会令人畏惧，许多组织都不确定哪位高管应该领导人工智能战略。尽管设立专门的首席人工智能官 (CAIO) 是一种方法，但根本问题仍然是集成任何新技术本质上都涉及安全考虑。 

人工智能的兴起将安全专业知识带到了组织范围内的安全性和合规性的最前沿。CISO 对于在新兴的新法规和行政命令中驾驭复杂的人工智能环境至关重要，以确保隐私、安全和风险管理。作为组织人工智能之旅的第一步，CISO 负责实施安全第一的人工智能方法，并通过政策和工具建立适当的风险管理策略。该策略应包括： 

有关的：暗读机密：五年后笔试逮捕

确定可接受的风险 

尽管人工智能为组织带来了很多希望，但快速且无限制的 GenAI 部署可能会导致产品蔓延和数据管理不善等问题。预防与这些问题相关的风险需要协调组织的人工智能采用工作。一个 

CISO 最终与首席技术官等其他领导者一起制定安全议程，以解决知识差距并确保整个业务在管理治理、风险和合规性的战略上保持一致。CISO 负责 AI 采用的整个范围，从保护 AI 消费（即员工使用 ChatGPT）到构建 AI 解决方案。为了帮助确定其组织可接受的风险，CISO 可以与关键利益相关者建立人工智能联盟，跨职能地开展工作，以发现与 GenAI 功能的开发或消耗相关的风险，建立可接受的风险容忍度，并充当共享执行机构来维护对人工智能使用的扩散进行适当的控制。 

有关的：钱包的力量：如何通过设计确保安全

假设该组织专注于确保人工智能消费的安全。在这种情况下，CISO 必须确定员工如何使用和不可以使用该技术，可以将其列入白名单或黑名单，或者使用 Harmonic Security 等产品进行更精细的管理，从而实现对 SaaS 交付的 GenAI 技术进行风险管理的采用。另一方面，如果组织正在构建人工智能解决方案，首席信息安全官必须开发一个框架来说明该技术的运作方式。无论哪种情况，首席信息安全官都必须掌握人工智能发展的脉搏，以识别潜在风险，并为项目配备适当的资源和专家，以负责任地采用。 

有关的：开源安全事件不会消失

锁定您的安全基础 – 

由于 CISO 具有安全背景，他们可以为人工智能的采用奠定坚实的安全基础，主动管理风险并建立正确的障碍，以防止网络威胁造成的故障。CISO 将网络安全和信息团队与业务部门的协作联系起来，以随时了解威胁、行业标准和法规，例如欧盟人工智能法案. . . . . . . . . . . . . . . . . . 

换句话说，CISO 及其安全团队建立了全面的护栏，从资产管理到强大的安全保障加密技术，成为安全人工智能集成的支柱。它们保护知识产权、客户和内部数据以及其他重要资产。它还确保广泛的安全监控，从严格的人员安全检查和持续培训到强大的加密技术，以迅速有效地应对潜在的安全事件。 

随着人工智能成为主流，对不断变化的安全形势保持警惕至关重要。通过将安全性无缝集成到人工智能生命周期的每一步，组织可以主动应对 GenAI 日益增长的使用社会工程攻击，使得区分真实内容和恶意内容变得更加困难。此外，不良行为者正在利用 GenAI 制造漏洞并加速发现防御中的弱点。为了应对这些挑战，CISO 必须勤勉地继续投资于预防性和检测性控制，并考虑采用新方法在员工中传播意识。” 

最后的想法 

人工智能将触及每一个业务功能，即使是以尚未预测的方式。作为安全工作和业务目标之间的桥梁，CISO 充当整个企业中质量控制和负责任的人工智能使用的把关人。他们可以阐明安全集成的必要基础，从而避免人工智能采用中的失误，并使企业能够充分发挥人工智能的潜力，从而推动更好、更明智的业务成果。”