英国在人工智能安全方面的大胆实验
2025-01-16 12:03:55
英国高级研究与发明局(ARIA)最近成立了人工智能安全研究所(AISI),旨在评估和减轻与先进人工智能系统相关的潜在风险。AISI 是全球多个政府机构之一,其中包括美国的政府机构,其任务是在新兴人工智能技术发布到公共或商业市场之前对其进行评估。关于人工智能安全研究所 (AISI) 的要点:1. **评估角色**:AISI 的主要职能是测试前沿人工智能模型是否存在潜在危险,例如促进网络攻击、设计生物武器以及从事有害的自主行动。这些测试有助于识别私营公司可能忽视或未解决的风险。2. **测试能力**:- **能力阈值**:该研究所正在制定基准,以确定某些能力何时变得足够重要以保证监管干预。- **风险识别**:当前的评估重点是识别人工智能模型中的漏洞,例如越狱和操纵用户。- **资源限制**:尽管做出了努力,AISI 承认由于资源限制,它无法保证绝对安全。这意味着需要在研究和基础设施方面进行更多投资。3. **与行业合作**:- **自愿协议**:目前,AISI 和人工智能实验室之间的合作基于自愿共享信息。- **平衡关系**:AISI 优先考虑与行业合作伙伴保持积极的关系,以促进开放的沟通和数据交换。- **法律授权的未来前景**:未来的法规有可能合法授权实验室共享信息,从而增强研究所的监管权力。4. **政府影响力**:- **政治支持**:AISI 获得了前总理 Rishi Sunak 的大力政治支持,但面临着新工党政府的挑战。- **政策倡导**:该研究所倡导国际合作,并将人工智能安全视为一项全球公共利益,需要超越单个实体的集体努力。5. **全球视野**:- **相互关联的挑战**:AISI 认识到人工智能发展固有的相互关联性,强调全球合作在应对这些挑战方面的重要性。- **新兴合作伙伴**:该研究所正在努力与世界各地的类似机构建立网络,以促进人工智能安全的协调方法。从本质上讲,虽然 AISI 在评估和管理与先进人工智能技术相关的风险方面发挥着至关重要的作用,但它也强调了持续需要强有力的国际合作、充分的政府支持以及可能更强有力的监管框架,以确保对新兴人工智能能力的有效监督。我