为了减轻 Gen AI 的风险，请利用团队的集体判断
2024-11-20 16:04:29
英文原文
作者：by Gabriele Rosani, Elisa Farri, and Michelle Renecle
政策和个人常识只能让你走这么远。
2024 年 11 月 20 日
MirageC/盖蒂图片社
许多公司采用了两个基本层面的风险管理策略：关于如何使用技术的政策，以及对新一代人工智能输出的批判性思考。公司还应该采用新颖的第三层风险管理：基于团队的判断。有以下三个方面：集体判断，团队进行讨论以评估输出并确保准确性；领域判断，其中团队应将决策权委托给具有最高专业知识或最接近工作的人员；和反思性判断，其中团队应定期开会，分享和反思他们以及其他使用人工智能的人的经验。当组织大规模发展基于团队的判断力时，他们将能够更好地适应快速发展的人工智能领域并面对未知的未来风险。
生成式人工智能 (gen AI) 为跨组织的学习、工作、创造力和决策提供了变革性机会。这标志着前所未有的人机协作的范式转变。然而，它与组织工作方式的整合是复杂的。风险有很多，包括信任和准确性问题、幻觉以及来自底层基础模型的继承偏差。如今，许多公司都面临着如何利用新一代人工智能的力量，而又不被其潜在缺点所困扰的难题。
关于《为了减轻 Gen AI 的风险，请利用团队的集体判断》的评论
暂无评论
发表评论
摘要
组织必须采用生成式人工智能的第三层风险管理：基于团队的判断，包括集体判断、领域判断和反思判断。这种方法有助于评估产出、将决策委托给专家，并定期反思经验，以适应不断发展的人工智能格局并减轻未来风险。