OC

我们需要理解关于生成式人工智能的故事叙述的影响

2024-10-21 10:08:31 英文原文

作者：Gohdes, Anita

  • 通信往来
  • 发布:

自然人类行为学 (2024)引用这篇文章

公众对生成式人工智能（AI）社会影响的担忧受到潜在能够影响研究优先级和政策议程的故事叙述的影响。理解这些叙事的起源和动态对于有效应对AI的实际影响并确保对其风险和潜力进行建设性讨论至关重要。

这种媒体报道的变化表明需要更仔细地审视背后的论述。我们现在看到四种主要关于生成式人工智能的叙述类型：

  1. (1)

    “存在风险”的叙事认为，来自人工超级智能或通用人工智能的存在性风险可能源自下一代生成式AI系统。随着生成式AI系统的日益复杂化，它们的能力可能会超越人类的控制范围，并导致潜在的存在灾难性后果。这一叙事的强烈版本担心，人工超级智能或通用人工智能技术可能导致人类灭绝。3.

  2. (2)

    “有效加速主义”叙事主张人工智能的迅速发展。支持者认为，人工智能解决复杂全球问题的潜在益处远远超过了风险，并且来自先进人工智能的存在性风险为零或接近于零，因此可以不予理会。4这一叙述基于对人工智能进步带来重大积极变化的强大信念。

  3. (3)

    “现实的、即时的社会风险”这一叙事仅关注生成式人工智能带来的具体而直接的社会风险。它强调诸如深度伪造色情内容、不公平的能力分配或生成式AI日益增长的环境影响等问题，并认为这些当前的关注点比推测性的存在风险更为紧迫和相关。支持这种观点的人士认为，专注于遥远的存在威胁会分散我们应对现实且当下的AI危险的注意力。5.

  4. (4)

    “平衡风险”的叙事主张采取一种人工智能风险管理的方法，该方法承认人工智能既存在根本性的生存威胁，也带来即时的社会风险。它鼓励在这些两类风险之间找到有意义的联系，并建议同时应对这两类风险可以导致更为全面和有效的风险缓解策略和政策。6.

这是订阅内容的预览，通过您的机构访问

访问选项

访问Nature及Nature Portfolio其他54本期刊

购买Nature+，我们的最具性价比的在线访问订阅套餐

24,99 €/ 30 天

随时取消

订阅此期刊

接收12期数字刊和在线文章访问权限

111.21欧元/年

每期仅9,27欧元

购买这篇文章

  • 在SpringerLink上购买
  • 立即访问全文PDF

价格可能包括当地税款，税款将在结账时计算。

图1：关于AI的新文章。

参考文献

  1. 科学 381, 136–137 (2023).

  2. 世界经济论坛全球风险报告2024世界经济论坛，2024年。

  3. 波斯特罗姆，N.超智能：路径、危险、策略（牛津大学出版社，2014年）

  4. 安德森，M. 为什么人工智能将拯救世界。安德森霍洛维茨基金 https://a16z.com/ai-will-save-the-world/ (2023).

  5. 班德尔，E. M. & 汉娜，A. AI造成了实际的危害。让我们将焦点放在这一点上，而不是人类终结的夸张说法上。《科学美国人》, https://www.scientificamerican.com/article/%E6%82%A8%E9%9C%80%E5%A5%BD%E4%B8%AD%E5%BF%83%E5%87%BA%E7%9A%84ai%E7%9A%84%E7%ACTRUE%E5%AE%B3%E4%B8%8D%E6%98%AF%E5%8C%BB%E8%AF%AD%E7%A7%BB%E5%8A%A8%E7%9A%84%E5%8D%B1%E6%DA%81/ (2023).

  6. 卡西尔扎德赫，A. 未发表稿于:arXiv https://doi.org/10.48550/arXiv.2401.07836 (2024).

  7. 巴赫拉赫, P. & 巴拉特, M. S.美国政治科学评论 56, 947–952 (1962).

    文章  谷歌学术 

  8. 自然 618, 885–886 (2023).

  9. 瓦格纳，M. W.科学 381, 388–391 (2023).

    文章  PubMed  CAS  谷歌学术 

下载参考文献

致谢

作者感谢S. Dagstuhl举办了题为“数字社会中民主的挑战与机遇”的研讨会，会上首次开展了关于此话题的讨论。F.G. 感谢欧洲研究理事会（ERC）在欧盟地平线2020研究和创新计划框架下的资金支持（资助协议编号：883121）。

作者信息

作者笔记

  1. 这些作者贡献同等：Fabrizio Gilardi，Atoosa Kasirzadeh，Anita Gohdes.

作者和 affiliations（机构信息或所属单位，此词在某些语境中保留不变）

  1. 瑞士苏黎世大学政治学系

    弗拉维奥·吉拉尔迪

  2. 美国匹兹堡卡内基梅隆大学哲学与软件及社会系统系

    阿托萨·卡西扎德赫

  3. 艾伦图灵研究所，英国伦敦

    阿图萨·卡西瑞扎德赫

  4. 苏黎世大学信息学系，瑞士苏黎世

    阿布拉罕·伯恩斯坦

  5. 斯图加特大学人工智能研究所，德国斯图加特

    斯蒂芬·斯塔布

  6. 南安普敦大学韦伯和互联网科学（WAIS）小组，英国南安普敦

    斯蒂芬·斯塔布

  7. 赫蒂学院，柏林，德国

    安妮塔·戈德斯

通讯作者

通信请致：弗拉维奥·吉拉尔迪, 阿托萨·卡西扎德赫或者安妮塔·戈德斯.

伦理声明

利益冲突

作者声明没有利益冲突。

关于这篇文章

Check for updates. Verify currency and authenticity via CrossMark

引用这篇文章

吉拉迪，F.，卡西尔扎德赫，A.，伯恩斯坦，A.等著пис.maxcdn('et al.', '等著', false);我们需要理解关于生成式人工智能的影响的叙述。自然人类行为学 журнал (注意：原词组可能是杂志名称或专业术语，直译可能不准确，因此保留英文形式并给出解释性翻译)(2024). https://doi.org/10.1038/s41562-024-02026-z

下载引用文献

  • 发表:

  • DOI: https://doi.org/10.1038/s41562-024-02026-z

关于《我们需要理解关于生成式人工智能的故事叙述的影响》
暂无评论

摘要

理解这些叙事的起源和动态对于有效应对人工智能的实际影响以及确保对其风险和潜力进行建设性讨论至关重要。我们目前看到围绕生成式AI有四种主要类型的叙述： (1) “存在性风险”叙事认为，下一代生成式AI系统的潜在发展可能会带来来自人工超级智能或通用人工智能的存在性风险。《科学美国人》, https://www.scientificamerican.com/article/we-need-to-focus-on-ais-real-harms-not-imaginary-existential-risks/(2023)。Kasirzadeh, A. 预印本 arXiv https://doi.org/10.48550/arXiv.2401.07836 (2024). Bachrach, P. & Baratz, M. S. Am. Rev. 56, 947–952 (1962)。 文章 谷歌学术 自然 618, 885–886 (2023)。Wagner, M. W. 科学 381, 388–391 (2023)。文章 PubMed CAS 谷歌学术 引用下载感谢作者感谢S. Dagstuhl举办“数字社会中的民主挑战与机遇”研讨会，该研讨会启动了关于此主题的讨论。我们需要理解生成式AI叙述的影响。

相关新闻

相关讨论