人类安全研究员辞职，警告“世界正处于危险之中”
作者：â Tom Chivers
一位人类安全研究人员辞职，称“世界正处于危险之中”，部分原因是人工智能的进步。
Mrinank Sharma 表示，安全团队 —不断地[面临]压力，要求搁置最重要的事情，——引用了对生物恐怖主义和其他风险的担忧。
Anthropic 成立的明确目标是创建安全的人工智能；其首席执行官达里奥·阿莫迪 (Dario Amodei) 在达沃斯论坛上表示，人工智能进展太快，呼吁监管迫使行业领导者放慢脚步。
其他人工智能安全研究人员出于对灾难性风险的担忧而离开了领先公司。OpenAI 负责指导人工智能开发的“Superalignment”团队的两名关键成员于 2024 年辞职，称该公司强调财务收益，而不是最大限度地减少构建的危险人工智能系统比我们聪明得多.���
关于《人类安全研究员辞职，警告“世界正处于危险之中”》的评论
暂无评论
发表评论
摘要
一位人类安全研究人员辞职，警告说由于人工智能技术的进步，世界正面临风险。该员工提到了内部压力，要求优先考虑利润而不是确保人工智能安全，特别是在生物恐怖主义和其他灾难性风险方面。在此之际，Anthropic 的首席执行官呼吁监管以应对人工智能的快速发展。此外，OpenAI“Superalignment”团队的两名关键成员于 2024 年离开了公司，他们担心财务利益优先于最大限度地减少高度先进的人工智能系统带来的危险。