AI活动家寻求禁止人工通用情报
2025-02-19 19:32:00
停止AI的运动,尤其是在旧金山的运动,强调了一些激进主义者对人工通用情报(AGI)造成的潜在危险的日益关注。他们的目标是雄心勃勃的,但很明确:防止像Openai这样的公司开发他们认为可能对人类构成生存风险的AGI技术。以下是所提供信息的要点和注意事项:###目标和策略1。**美国人口3.5%的参与**:停止AI的目的是动员大部分美国人口(约1100万人)在对AGI发展的和平抗议活动中进行。2。**非暴力民间抵抗**:受到诸如停止石油之类的运动的启发,他们计划使用非暴力的民用抵抗策略,例如障碍和路障。3。**禁止发展**:他们的主要目标是禁止能够执行完全一般认知工作的AGI系统的发展,认为这些技术可能会造成灾难性或存在的伤害。###反对AGI的争论1。**存在威胁**:该组织认为AGI构成了与大规模杀伤性和有毒化学物质武器相比的存在威胁。2。**可审核的系统**:他们主张可以审核和理解的AI系统的开发,这目前在许多先进的AI技术中都缺乏。3。**调节计算功率**:通过限制对训练AGI模型所需的强大计算资源的访问,他们希望阻碍这些系统上的进步。###挑战和障碍1。**企业抵抗**:鉴于AGI的潜在经济和技术利益,像OpenAI这样的公司可能会抵制这种努力。2。**政府参与**:实施禁止AGI发展的国际条约将需要全球政府之间的重大政治意愿和合作。3。**公众意识和支持**:动员大部分人口需要对与AGI相关的风险进行大量教育。###当前活动1。**民事讨论**:尽管Openai不愿参与,但Stop AI还是与这些公司的安全团队成员进行了一些讨论。2。**街道级别的订婚**:该小组正在通过社区参与和直接宣传街头招募支持者。3。**国际观点**:他们正在从全球运动中汲取灵感,并将国际条约视为潜在的解决方案。###含义1。**失业和经济影响**:超越生存威胁,停止AI还解决了由于自动化而引起的工作流离失所的担忧。2。**技术暂停**:该小组主张暂停开发高级高级AGI系统,直到有更多保障措施为止。###未来前景 - **国际合作**:对于任何禁令或法规有效,国际合作将是必不可少的。 - **公共和政治支持**:获得更广泛的公共支持和政治支持对于他们成功的努力仍然至关重要。总而言之,停止AI的方法将基层的行动主义与战略计划相结合,旨在防止AGI的发展可能威胁到人类的生存。他们的方法虽然引起争议,但它与最近历史上成功的环境和社会运动相似。