人工智能 (AI) 模型正在以惊人的速度发展。主要开发人员在增强这些模型理解复杂查询并提供更有洞察力、合理响应的能力方面取得了重大进展。
OpenAI（广为人知的 ChatGPT 模型的创建者）在 9 月 12 日关于其新 Strawberry 模型的声明中强调了这一点。
这一开发，也称为 OpenAI o1 模型系列，将允许人们在响应之前更多地思考问题，就像一个人一样。
我们正在发布 OpenAI o1 的预览版，这是一系列新的 AI 模型，旨在在做出响应之前花更多时间进行思考。
OpenAI (@OpenAI) 2024 年 9 月 12 日
这些模型可以通过复杂的任务进行推理并解决比以前的科学、编码和数学模型更难的问题。https://t.co/peKzzKX1bu
据开发者称，这些模型还能够完善他们的思维过程，尝试不同的策略，并认识到他们的错误。
虽然人工智能肯定不会占领世界，也不是开发该技术的人的目标，但该技术的快速进步让立法者担心，如果这些模型在开发过程中失控并实施安全措施，那么它们是否有能力控制它们。阶段。
过去一周，加州立法者继续通过影响加州居民和开发商的人工智能相关法案。
这包括第 1836 号议会法案，禁止在未经事先同意的情况下未经授权使用人工智能生成已故人物的复制品，以保护表演者的权利和肖像。
然而，业内人士争论的主要法案之一是参议院法案 (SB)-1047，也称为《前沿人工智能模型安全创新法案》。
如果通过，该法案将主要影响 OpenAI、Google 和 Microsoft 等主要 AI 开发商，他们拥有开发需要超过 10^26 整数或浮点运算 (FLOP) 且成本超过 1 亿美元的 AI 模型的资源。
相关：人工智能高管访问白宫讨论能源基础设施
开发人员将被要求训练和微调模型，以实现法案中概述的安全功能。这包括人工智能模型关闭功能、创建和保留书面安全协议、确保第三方年度审计以及向加州总检察长提交合规声明和事件报告。
该法案正面临行业内各种规模开发商的强烈反对，他们表示该法案扼杀了创新。Cointelegraph 采访了 Haynes Boone 律师事务所的合伙人 Dina Blikshteyn，以了解这种情况是如何发生的。
Blikshteyn 表示，该法案还可以扩展到小型开发者，对 AI 模型进行微调，其计算能力大于或等于 10^25 整数或 FLOP 的三倍，并且可以负担 1000 万美元的访问费用。
她说，该法案旨在防止人工智能模型造成的灾难，特别是通过实施关闭功能。
但是，它可能无法完全消除风险，因为人工智能模型即使在关闭后也可能引发连锁反应，造成有害后果。
她还指出：
虽然该法案的意图是积极的，但对安全协议、审计和合规报告的要求可能被视为过多，可能会强加繁重的披露和官僚要求，从而阻碍加州人工智能行业的创新。
美国目前没有监管人工智能模型输出的联邦框架。然而，Blikshteyn 指出，加利福尼亚州和科罗拉多州等州正在制定自己的法规。
州长加文·纽瑟姆 (Gavin Newsom) 办公桌上的规定将影响训练和访问所涵盖的人工智能模型的加州人。
她指出，较大的人工智能公司将有更多的人力来处理账单要求，这可能会被认为是对较小公司资源的消耗。
虽然大型人工智能公司不太可能离开加州，但州法律的变化和缺乏联邦监督可能会促使小型开发者搬迁到人工智能治理法规较少的州或在其开展人工智能工作。
尽管如此，Blikshteyn 强调了许多业内人士认为的事实：联邦层面的立法为强大的人工智能模型设定了基本要求，这对消费者和开发者都有利。它还将为所有州提供有关这些要求的基线。
SB-1047 已于 9 月 9 日提交给纽瑟姆州长，目前仍在等待决定。纽瑟姆对该法案发表评论称，他一直致力于制定合理的监管措施，支持冒险行为，但不支持鲁莽行为。不过，他也对这对竞争力的潜在影响表示担忧。
随着加州成为全球科技创新的领导者，其有关人工智能的法律决定引起了全世界的关注。
AI Eye：台湾的人工智能无人机地狱计划，大语言模型太愚蠢，无法毁灭人类