生成式人工智能 (AI) 已成为一项新技术，有可能彻底重塑商业实践并创造新的创新途径。它将对几乎每个行业产生重大影响。Gallagher 最近对 1,000 名企业主进行的一项调查证明，各组织都争先恐后地接受它。在那次调查中，绝大多数 81% 的人表示他们计划在短期内维持或增加对人工智能的投资。
然而，随着效率的提高，人工智能工具将为那些需要关注的人带来新的风险。使用它们。人工智能风险将迫使企业风险管理计划纳入有效管理策略，这对大多数实体来说无疑是一个新流程。
与生成式人工智能使用相关的主要风险
虽然仍然存在在评估与生成式人工智能相关的所有风险时，我们确定了一些值得企业领导者密切关注的高风险类别，包括：
- 数据偏差和公平性人工智能模型及其基本假设有可能在决策中注入偏见并延续歧视性做法。
- 隐私问题与收集、存储和共享个人身份信息相关的几项隐私法可能适用于人工智能的使用。应优先考虑与这些问题相关的合规义务。
- 数据质量 依赖不完整或不正确的数据可能会导致分析和输出有缺陷。
- 知识产权和数据所有权 所有权权利和商业秘密可能无法得到适当保护，从而增加了与同意权和所有权相关的诉讼风险。
- 监管风险多个州颁布了针对人工智能平台提供者和使用者的合规要求的法案。全球隐私制度已经通过了具有类似重点的法律。
首席人工智能官：新角色
现代的、以风险管理为导向的组织利用人工智能来保持竞争力由于竞争激烈，他们可能需要扮演一个新角色：首席人工智能官（CAIO）。该职位需要具备平衡创新与人工智能风险管理的敏锐能力，可能包括：
- 人工智能战略领导力：制定和实施整体人工智能战略，着眼于提高运营效率、改进客户体验并确定新的收入来源。
- 风险管理和合规性：建立安全和负责任的人工智能使用框架，使其符合组织道德标准和外部各方普遍期望的标准。随着监管要求的发展，这也应该扩展到合规性。
- 治理计划：建立正式的结构来监督人工智能计划和项目。这些标准操作程序应有助于确保组织符合道德和监管标准，重点是公平、透明、数据安全并防止意外后果。
- 内部交叉协作：与多个部门和 C 层的领导者密切协调套房。这应该促进各个利益相关者之间的合作，包括但不限于法律、IT、隐私、运营、营销、人力资源、销售和风险管理部门。
- 绩效衡量和持续改进：促进持续的文化以人工智能为中心的创新。定期评估人工智能工具的性能和人工智能资源的投资回报，同时了解与组织当前和未来目标相一致的新技术。
从哪里开始：新人工智能风险管理指南
一些组织最近发布了实施人工智能项目时基于风险的标准的建议框架：
- 人工智能风险管理框架，美国国家标准与技术研究院 (NIST))
- 美国国务院人工智能与人权风险管理概况
- 第 1 部分：ISO/IEC 38500 在数据治理中的应用，这是 ISO 的一部分ISO/IEC WD 38505 信息技术数据治理
- 人工智能，经济合作与发展组织 (OECD) 的全球原则
虽然并非所有组织此时可能已经准备好接受 CAIO，他们应该仔细考虑这样的投资。随着人工智能成为保持竞争力的标准要求，这一角色将变得更加重要。大多数企业已经以某种形式接受人工智能，并且有迹象表明人工智能的使用将继续快速增长。诉讼和监管风险随着人工智能参与的步伐而上升，促使风险管理者需要站在人工智能风险的最前沿。
主题保险科技数据驱动的人工智能风险管理
主题p>
这篇文章有价值吗？
这里有更多您可能会喜欢的文章。