人工智能监管能否在第一修正案中幸存？
加利福尼亚州监管人工智能问题的首次努力碰壁了。现在怎么办？
加入俱乐部
数千名顶尖科技高管、记者、学者和民间社会工作者阅读我们对当今科技与科技交叉领域重大事件的报道和分析民主。
I.
近几十年来，政府监管科技行业的努力明显落后于新技术的发展。但人工智能的兴起，恰逢人工智能开发人员大声警告他们的产品存在重大危害风险，促使立法者比平时更快地开展工作。
加州是最能体现这一点的地方。.
谷歌、OpenAI、Anthropic 等公司总部所在地的州本周因一项未成为法律的法案而成为新闻焦点：参议院第 1047 号法案，该法案要求对大型语言模型进行安全测试该法案花费了超过 1 亿美元进行培训，并为这些模型造成的损害承担法律责任。
该法案遭到了大多数大型人工智能公司以及许多风险投资家和其他行业的强烈反对玩家。尽管送到他办公桌上的法案与早期版本相比被严重淡化，但周日，州长加文·纽瑟姆否决了该法案。（纽瑟姆说他否决了它，不是因为它太强大，而是因为它太弱，尽管据我所知，几乎没有人认为他真的相信这一点。）
本周我的收件箱充满了来自该法案倡导者的信息，他们指责纽森鲁莽，让加州人遭受各种伤害。但我怀疑纽瑟姆可能最早在明年签署该法案的另一个版本，特别是如果下一代模型显着增加了今年法案试图减轻的所有危害的风险。
I之所以这么说，是因为尽管纽瑟姆否决了 SB 1047 号法案，但他还是签署了其他 18 项人工智能法规成为法律。总而言之，这可能是迄今为止我们所见过的旨在规范生成人工智能滥用的最全面的一揽子立法。
这些法律（其中一些要到 2026 年才会生效）包括：
- 扩大对儿童性虐待材料的禁令，将由生成人工智能创建或更改的 CSAM 包括在内。
- 将利用人工智能生成的未经同意的裸照勒索他人视为非法行为.
- 要求平台创建渠道，供用户举报与其相似的深度造假裸体。平台必须在调查期间阻止这些图像的传播，如果报告属实，则将其删除。
- 要求人工智能模型在其输出中添加数字水印，以公开其出处。
- 要求工作室在使用演员的数字肖像之前获得演员的许可，并在演员去世后将这些保护扩展到演员。
- 要求人工智能开发人员披露其训练数据的来源并将其发布在其网站上。他们还必须说明是否包含受版权保护或许可的数据。
- 医疗保健提供者在使用生成式人工智能与患者沟通时披露的要求，并要求医生监督人工智能在其实践中的使用。
- li>
Newsom 还宣布了一项围绕人工智能的使用建立进一步护栏的计划，该计划将由人工智能先驱兼初创公司创始人李飞飞以及人工智能伦理学家和院长领导。加州大学伯克利分校。
这些法案采取了重要步骤来解决目前不仅在加州而且在全世界发生的危害。但在某些情况下，他们通过限制言论自由来解决这些危害，而州政府可能很快就会发现自己已经越界了。
II.
加州新签署的法律还寻求限制人工智能的使用，以免在选举期间欺骗选民。一项法律要求政治广告商披露在其广告中使用生成式人工智能的情况。另一项要求社交平台删除或标记与选举相关的深度伪造品，并为用户创建一个向平台报告此类深度伪造品的渠道。第三项法案将惩罚任何在选举后 60 天内传播深度伪造品或其他旨在欺骗选民的虚假信息的人。
然而，周三，一名联邦法官阻止了第三项议会法案 2839 的生效。TechCrunch 的麦克斯韦·泽夫 (Maxwell Zeff) 表示：
在签署 AB 2839 后不久，纽瑟姆表示可以用它来迫使埃隆·马斯克 (Elon Musk) 删除他转发的副总统卡玛拉·哈里斯 (Kamala Harris) 的人工智能深度伪造品（引发了双方之间的一场小型在线战斗）两者）。然而，加利福尼亚州的一名法官刚刚裁定，该州至少目前还不能强迫人们消除选举深度造假行为。[...]
也许并不令人意外的是，人工智能 Deepfake 的最初发布者、一位名叫 Christopher Kohls 的 X 用户在签署后仅一天就提起诉讼，以违宪为由阻止加州新法律的通过。科尔斯的律师在一份诉状中写道，卡玛拉·哈里斯的深度伪造是讽刺，应该受到第一修正案的保护。
美国地区法官约翰·门德斯对此表示同意，下令发出初步禁令，命令该法律除以下情况外不得生效：该法案的一个条款要求仅音频深度伪造品进行披露。（原告没有对此提出质疑。）
最高法院的先例表明，虽然对数字化媒体操纵格局的恐惧可能是有道理的，但这种恐惧并不意味着立法者可以肆无忌惮地推翻长期存在的问题。受到第一修正案保护的批评、戏仿和讽刺的传统。YouTube 视频、Facebook 帖子和 X 推文是当今的报纸广告和政治漫画，第一修正案保护个人的言论权，无论这些批评可能采用何种新媒体。其他法定诉讼事由，例如隐私侵权、侵犯版权或诽谤，已经向公众人物或私人提供了追索权，这些公众人物或个人的名誉可能会因讽刺作家或机会主义者在互联网上兜售的人为改变的描述而受到影响
记录表明，加利福尼亚州对维护选举公正性和解决人为操纵的内容有着浓厚的兴趣。然而，与第一修正案价值观的严重性以及原告和其他类似情况的内容创作者在言论被冻结时所经历的持续违反宪法的情况相比，加州的利益和该州面临的困难微乎其微。
我对法官的论点表示同情。在我看来，所讨论的深度造假是明显的讽刺。即使讽刺不那么明显，第一修正案也应该适用。
但正如里克·哈森在选举法博客上所写的那样，只要社交网络上存在此类内容，可能就有一条允许此类内容的前进道路加州大学洛杉矶分校法学教授哈森写道，法官的意见缺乏细微差别，也没有认识到州对所有人工智能生成的选举内容强制贴上标签的法律很可能符合宪法。。我担心法官的切肉刀而不是手术刀的方法，如果在上诉中得到维持，将对适当平衡我们对公平选举的需要与我们对强有力的言论自由保护的需要之间的法律造成严重损害。
也许上诉法院会在这里发现更多细微差别。但过去五年左右的时间里，国家级科技监管屡屡陷入同样的困境。立法者指责社交平台造成伤害，并通过旨在减轻这些伤害的法律，结果却一次又一次被法官告知他们的法律违宪。禁止 TikTok 的努力就会发生这种情况；当强迫访问色情网站的访问者验证自己的年龄时，就会发生这种情况；它发生在监管社交网络推荐算法的努力中。
每个人都对在选民可以轻松区分事实与虚构的环境中进行的选举感兴趣。我们还希望能够轻松地从社交平台上删除我们自己的恶意深度伪造品，或者以其他方式防止我们的数字肖像被以有害的方式使用。
在来年，我预计许多州都会效仿加利福尼亚州带头并寻求通过类似的立法，以防止这些明显的人工智能危害继续发生。不过，当他们这样做时，他们可能会学到加州刚刚做过的同样的教训，即保护人们免受人工智能侵害的一些最明显的方法可能不符合宪法。
在本周的播客上：凯文和我讨论了加州新的人工智能法规。然后，The Information 的 Julia Black 加入讨论硅谷对生育技术和一般婴儿制造日益增长的迷恋。最后，关于 OpenAI、Reddit 和 Sonos 的一些有趣更新。
Apple |Spotify |缝合器|亚马逊 |谷歌 |YouTube
治理
- WP Engine 起诉 Automattic 和 WordPress 联合创始人 Matt Mullenweg，指控他们勒索和滥用权力。（Ivan Mehta / TechCrunch）
- 为了明智地了解这场日益混乱的战斗中所有参与者的可能动机，我推荐 Pragmatic Engineer 的 Gergely Orsozs 的测量视图。
- WordPress 母公司 Automattic在公共商标纠纷发生之前，曾要求托管服务商 WP Engine 将其每月收入削减 8%。（艾玛·罗斯 / The Verge）
- 拜登签署了一项新法律，限制某些联邦环境审查和某些半导体芯片项目的许可要求。（Lindsey Choo / 福布斯）
- 周三在《自然》杂志上发表的一项研究发现，保守派在网上分享的虚假和低质量信息比自由派更多，即使你让保守派指定哪些信息是虚假和低质量的。（威尔·奥莱穆斯 / 华盛顿邮报）
- 监督委员会宣布将审理与删除一名墨西哥公职政治候选人被暗杀相关内容相关的案件。从描述来看，这听起来像是 Meta 的明显越权案例。（监督委员会）
- 哈佛大学的学生将 Metas Ray-Ban 智能眼镜与面部识别服务 PimEyes 连接起来，展示了提取视野中任何人的个人信息是多么容易。(Joseph Cox / 404)
- Telegram 首席执行官 Pavel Durov 表示，最近有关该公司响应能力增强的报道被夸大了，而且这一情况几乎没有改变。这几乎就像他想回到法国监狱一样。（杰克·鲁德尼茨基 / 彭博社）
- 对杜罗夫 10 年前恋人伊琳娜·博尔加 (Irina Bolgar) 的采访，她指控杜罗夫虐待他们共同拥有的三个孩子中最小的一个。（亚当·萨塔里亚诺和保罗·莫祖尔/《纽约时报》）
- 埃隆·马斯克对共和党的政治捐赠开始得比之前报道的要早，这位亿万富翁向右翼捐赠了数千万美元。2022 年开始。（Dana Mattioli、Joe Palazzolo 和 Khadeeja Safdar/《华尔街日报》）
- 伦敦警方对面部识别技术的使用正在激增。警方从 1 月到 8 月使用了该技术 117 次，而 2020 年至 2023 年三年间使用了 32 次。（Yasemin Craggs Mersinoglu / 英国《金融时报》）
- 韩国出现了大量的深度造假女性裸体，给受害者带来了深深的创伤。议会通过了一项法律，将拥有或观看深度伪造色情内容定为非法。（Hyung-Jin Kim / 美联社）
- Meta 正在与英国银行合作开展威胁情报共享计划，以阻止诈骗者。（Akila Quinio / 英国《金融时报》）
- 菲律宾对 Netflix、HBO 和迪士尼等数字服务提供商征收 12% 的增值税。（Andreo Calonzo / 彭博社）
行业
- OpenAI 在 Thrive Capital 领投的一轮融资中筹集了 66 亿美元，估值为 150 美元。微软在其现有 130 亿美元投资的基础上增加了 7.5 亿美元。（Shirin Ghaffary、Katie Roof、Rachel Metz 和 Dina Bass / Bloomberg）
- 这一估值使得 OpenAI 在 IPO 时的纸面价值比任何风险投资支持的初创公司都更有价值。（Rosie Bradbury / Pitchbook）
- OpenAI 的大型融资轮包括 40 亿美元的循环信贷额度。（Hayden Field / CNBC）
- 据报道，该公司还要求投资者避免支持 xAI 和 Anthropic 等竞争对手的初创公司。我的年纪还记得，其非营利组织董事会曾表示，如果竞争对手更接近建立超级智能，该公司将关闭并帮助竞争对手。（乔治·哈蒙德和斯蒂芬·莫里斯/金融时报）
- 看看 OpenAI 最近的动荡，就会发现倦怠和疲惫是高管离职的一个因素。（Rachel Metz / Bloomberg）
- OpenAI 发布了 Canvas，这是一种使用 ChatGPT 的方式，可以打开并排窗口以方便使用。它是 Anthropics Artifacts 功能的克隆。（Maxwell Zeff / TechCrunch）
- 了解 Threads 与 fediverse 和 Metas 战略的集成，以迈向更加开放的互联网。（Will Oremus / 华盛顿邮报）
- Google DeepMind 和 BioNTech 正在构建人工智能实验室助手，以帮助规划实验并预测结果。（Madhumita Murgia 和 Ian Johnston/《金融时报》）
- 据报道，Google 的多个团队正在开发类似于 OpenAI o1 模型的人工智能推理软件。（Julia Love 和 Rachel Metz / Bloomberg）
- 您现在可以使用 Google Lens 询问有关您从智能手机拍摄的视频的问题。（艾玛·罗斯 / The Verge）
- Google 人工智能驱动的搜索结果现在有广告。这对于我蓬勃发展的食用岩石业务来说是个好消息。（Emma Roth / The Verge）
- Google Geminis 语音模式将在未来几周内添加新语言，包括法语、德语、葡萄牙语、印地语和西班牙语。（Alison Johnson / The Verge）
- YouTube 将 Shorts 的长度延长至三分钟，并在其移动应用中添加了新模板和热门 Shorts 页面。（Sarah Perez / TechCrunch）
- Gmail 应用程序正在重新设计更加动态的摘要卡。（Abner Li / 9to5Google）
- Apple Vision Pro 的第三方 YouTube 应用 Juno 已从应用商店中删除。谷歌警告称，该应用违反了 YouTube 准则。（Emma Roth / The Verge）
- 开发人员担心，苹果新的联系人同步调整可能会抑制新社交应用的增长。经典的隐私与竞争权衡。（Kevin Roose / 纽约时报）
- 埃隆·马斯克 (Elon Musk) 在出席 xAI 招聘活动时闲聊了一会儿。（Kylie Robison / The Verge）
- 独立的 Microsoft Office 2024 现已可供 Mac 和 PC 用户使用。（Tom Warren / The Verge）
- 亚马逊将在 Prime Video 的电影和节目中推出更多广告，进一步进军广告支持的流媒体服务。（丹尼尔·托马斯/《金融时报》）
- 亚马逊全新 Fire HD 8 平板电脑系列配备了升级版 RAM，据报道比之前的型号提高了 50%。（Ryan McNeal / Android Authority）
- Character.ai 临时首席执行官多米尼克·佩雷拉 (Dominic Perella) 表示，由于其投入超过竞争对手，Character.ai 正在转向专注于改进其聊天机器人，而不是人工智能模型。（Cristina Criddle / 英国《金融时报》）
- Twitch 通过计算流媒体并发观看者的数量，让流媒体更容易成为有资格获得广告收入的合作伙伴。他们需要在一定的观看时间内平均有 75 个并发才能保证质量。（James Hale / TubeFilter）
那些好帖子
每天有更多好帖子，请关注 Caseys Instagram 故事。
（链接）
（链接）
（链接）
与我们交谈
向我们发送提示、评论、问题和人工智能宪法法规：凯西@platformer.news。