纽约通过一项法案，以防止AI造成的灾难|TechCrunch

通过了一项法案周四，旨在防止OpenAI，Google和Anthropic的Frontier AI模型从造成灾难情况的贡献，包括死亡或伤害100多人，或超过10亿美元的损失。《加薪法》的通过代表了AI安全运动的胜利，

近年来失去的立场正如硅谷和特朗普政府对速度和创新的优先级一样。安全倡导者包括诺贝尔奖获得者Geoffrey Hinton和AI研究先驱Yoshua Bengio，倡导了《加薪法》。如果成为法律，该法案将建立美国AI实验室的第一组法律规定的透明度标准。

《加薪法》具有与加利福尼亚有争议的AI安全法案，SB 1047，最终是否决。但是，该法案的共同发起人纽约州参议员安德鲁·戈纳德斯（Andrew Gounardes）在一次采访中告诉TechCrunch，他故意设计了《加薪法案》，因此在初创企业或学术研究人员中不冷酷的创新 - 对SB 1047的普遍批评。

戈纳德斯参议员说，鉴于这项技术的发展速度，建立护栏的窗户正在迅速缩小。”知道[ai]的人最好的说，这些风险很可能令人震惊。

《加薪法案》现在前往纽约州长凯西·霍克尔（Kathy Hochul）的桌子，在那里她可以签署法案，将其签署回法案进行修正，或者完全否决了法案。

如果签署为法律，纽约的AI安全法案将要求世界上最大的AI实验室在其前沿AI模型上发布透彻的安全和保障报告。该法案还要求AI实验室报告安全事件，例如有关AI模型行为或窃取AI模型的不良行为，如果发生的情况发生。如果科技公司未能履行这些标准，那么《加薪法案》使纽约的总检察长将民事罚款高达3000万美元。

《加薪法案》旨在狭义地规范世界上最大的公司 - 无论是在加利福尼亚州（例如Openai和Google）还是中国（例如Deepseek和Alibaba）。该法案的透明度要求适用于使用超过1亿美元的计算资源对AI型号进行培训的公司（似乎比今天可用的任何AI模型都多），并且可供纽约居民使用。

While similar to SB 1047 in some ways, the RAISE Act was designed to address criticisms of previous AI safety bills, according to Nathan Calvin, the vice president of State Affairs and general counsel at Encode, who worked on this bill and SB 1047. Notably, the RAISE Act does not require AI model developers to include a “kill switch” on their models, nor does it hold companies that post-train frontier AI models accountable for critical harms.

尽管如此，纽约州议会筹集者和《 Raish Act Act Act Allex Bores》告诉TechCrunch，硅谷已经大大推翻了纽约的AI安全法案。Bores称该行业的抵抗力不足为奇，但声称《加薪法》不会以任何方式限制科技公司的创新。

``纽约州加薪法案是另一个愚蠢的州级AI法案，只有在我们的对手前进的时候才会伤害美国。”星期五在X上发布。安德森·霍洛维茨（Andreessen Horowitz）和启动孵化器Y组合者是SB 1047最激烈的对手。

人类，以安全为中心的AI实验室呼吁联邦透明度STAn人工智能公司联合创始人杰克·克拉克（Jack Clark）在本月早些时候尚未达到该法案的正式立场星期五在X上发布。但是，克拉克（Clark）对《加薪法》的广泛性表达了一些不满，并指出它可能对较小的公司构成风险。

当被问及人类的批评时，州参议员戈纳德斯告诉TechCrunch，他认为这是错过的，并指出他设计了该法案不适用于小型公司。

Openai，Google和Meta没有回应TechCrunch的置评请求。

对《加薪法》的另一个普遍批评是，AI模型开发人员只是在纽约提供最先进的AI模型。这是对SB 1047引起的类似批评，这在很大程度上归功于欧洲的技术艰难法规。

汇编孔孔告诉TechCrunch，《加薪法》的监管负担相对较轻，因此，不应要求科技公司停止在纽约运营其产品。鉴于纽约拥有美国第三大GDP的事实，大多数公司并不是大多数公司都会轻易地撤出该州。

``我不想低估可能发生的政治琐事，但我非常有信心，没有经济原因[AI公司]不会在纽约提供其模型。