问答:东湾AI安全专家谈论了该技术的未来
2025-02-21 22:13:23
加利福尼亚州州长加文·纽瑟姆(Gavin Newsom)否决了一项规范人工智能(AI)的法案,SB 1047,红木研究首席执行官巴克·什里格利斯(Buck Shlegeris)被批评为可耻和受到商业利益的驱动。Shlegeris担心AI的不受管制的增长可能会导致人类的存在风险,并旨在通过与Google DeepMind和Anthropic等技术巨头合作,通过其公司的研究来实施更安全的AI实践。有关规范AI技术的辩论以湾区为中心,反映了那些优先考虑经济利益的人与那些关心潜在灾难性结果的人之间的鸿沟。Shlegeris警告说,涉及未对准的AI目标威胁人类存在或自主扩展有害技术的情况。