加州的人工智能监管法案应该发生什么?- 福布斯

2024-09-19 16:53:33 英文原文

这是《福布斯》CIO 时事通讯的出版版本,为首席创新官和其他以技术为中心的领导者提供最新消息。单击此处,每周四将其发送到您的收件箱。

一些 AI 最大的参与者(例如 OpenAI 或 Meta)的目标是在宣布其最新模型或功能时引起轰动。但一直在完善人工智能在搜索中工作方式的谷歌已经做出了许多改进,并悄悄推出了它们。SEO 和搜索引擎顾问 BrightEdge 今天发布了一份新报告,详细介绍了 Google 在搜索中的 AI 概览正在发生的一些变化,并试图保持领先于其他 AI 原生搜索引擎(包括 OpenAIs Search GPT 和 Anthropics Perplexity)。

<这份与《福布斯》独家分享的报告发现,谷歌人工智能搜索的总览高度在 7 月至 8 月期间增加了约 10%。它们也变得更加专业化,概述越来越多地来自特定行业的来源。例如,《今日美国》网站的引用率下降了 10.3%,《纽约时报》网站的引用率下降了 3.1%。技术评论网站的链接也有所下降,TechRadar 的点击量减少了 47.3%,Toms Guide 的引用量减少了 16.4%。对于健康查询,更多的搜索引用了受人尊敬的医疗机构,例如美国国立卫生研究院 (National Institute of Health) 的点击率增加了 83.2%,而 Verywell Health 的点击率下降了 77.9%。引用的来源现在也显示在单独的框中,更易于单独点击。

登录 Google 的用户还会看到更多用于电子商务搜索的照片比较轮播。BrightEdge 发现这些内容增加了 172%,一般项目的无序列表搜索量增加了 42%。报告指出,这可以更好地按功能组织产品,并帮助用户在购物时进行更轻松的比较,这可能是帮助用户在年底临近时找到节日礼物的关键。

问题仍然存在用户是否注意到这些变化,以及这是否足以让他们保持对谷歌搜索的忠诚度。他们向登录 Google 服务的用户更全面地展示自己:BrightEdge 发现,未登录用户的电子商务相关搜索中弹出的 AI 概述减少了 90%。谷歌在搜索之外的人工智能领域也一直在采取行动。本周,该公司向所有英语 Android 用户免费提供 Gemini Live AI 语音助手。谷歌及其新老竞争对手可能很快就会推出更多内容。

加州议会已经处理并通过了几项监管人工智能的法案。本周早些时候,州长加文·纽瑟姆(Gavin Newsom)签署了其中一些法律。其中一项法案 SB 1047 比其他法案更具争议性,业内许多人都在观望纽瑟姆会如何处理该法案。我与人工智能评估公司 Galileo 的首席技术官 Atin Sanyal 讨论了他对立法的看法。我们的对话摘录在本通讯后面。

政策+法规

本周,加利福尼亚州州长 Gavin Newsom 签署了五项人工智能监管法律。这些新法规对深度造假进行监管,主要与选举相关。他们在选举前 120 天和选举后 60 天内制作含有经过修改的候选人音频和视频的广告是非法的;要求网络平台下架欺骗性的政治深度假货;并要求公开披露带有人工智能生成图像的竞选广告。使深度伪造音频和视频非法的新法律立即生效。

7 月,X 所有者埃隆·马斯克分享了一段由人工智能创建的副总统卡马拉·哈里斯语音版本旁白的竞选视频后,纽瑟姆做出了回应在该平台上,在这样的广告中操纵声音应该是非法的,并承诺在未来几周内签署一项法案以确保它是非法的。马斯克的人工智能助手 Grok-2 可以生成经常被其他图像创作者屏蔽的政治人物、受版权保护的人物和品牌的图像,在 X 上发布的模仿在美国是合法的。被篡改的哈里斯视频的创作者克里斯托弗·科尔斯 (Christopher Kohls) 在联邦法院起诉加州,称新法律公然利用国家权力,通过清除与选举相关的人工智能生成内容,迫使私人社交媒体公司审查私人公民言论。<纽瑟姆签署的其他与人工智能相关的法案保护演员和表演者在视觉和音频形式上的数字相似性。现在必须在合同中规定使用人工智能生成的在世演员的肖像,演员必须能够进行谈判。未经已故演员财产许可,不得使用已故演员的数字复制品。这些问题在去年 SAG-AFTRA 罢工期间凸显出来。该工会的视频游戏行业成员从 7 月开始就这个问题举行罢工,并于本月初宣布已与 80 家视频游戏公司达成协议。新法律并没有结束罢工;据工会网站称,纠察活动计划于本周晚些时候举行。

人工智能

OpenAI 推出了新聊天机器人版本的预览版,据称该版本更加深思熟虑,会花更多时间思考回答查询。因为该公司表示新版本代表了新的人工智能能力,所以它正在重置计数器并将该模型称为 OpenAI o1。福布斯高级撰稿人 Janakiram MSV 写道,新模型经过训练可以模仿人类的思维链推理,特别关注安全和幻觉控制。OpenAI 表示,这个版本是专门为更复杂的问题和推理而设计的,例如注释基因测序数据或生成复杂的数学模型。福布斯资深人士写道,当接受英国出了名的困难游戏节目 Only Connect 的测试时,参赛者需要弄清楚不同事物之间的关系,OpenAI o1 在不到一分半钟的时间内就给出了大部分答案。撰稿人巴里·柯林斯。

技术 + 创新

新的人工智能创新即将上线,将改变您的运营方式,尤其是在业务营销方面。上周,Salesforce、HubSpot 和 Adob​​e 都发布了新的人工智能工具。

Salesforce 和 HubSpot 都推出了人工智能代理,以增强人类员工现在所做的工作——《福布斯》高级撰稿人 John Koetsier 写道,这是人工智能的下一代迭代。人工智能。Salesforce 表示,这是人工智能的第三次浪潮——第一次是预测性的,第二次是生成性的,其中人工智能代理可以自主推理和处理多方面的项目,而无需在每一步进行人工干预。Salesforce 的新工具套件 Agentforce 本质上是一个低代码平台,可让公司构建复杂的人工智能代理来完成更平凡的任务并增强人类工作。Koetsier 写道,Agentforce 可以回答问题、安排预约、销售产品并建议后续行动。HubSpots 的新 Breeze 平台与之类似,利用人工智能来创建营销内容、分析社交媒体并通过潜在客户来增强销售渠道。

Adobe 的创新还可以为不同客户提供更加个性化的人工智能生成内容福布斯高级撰稿人马克·斯帕罗(Mark Sparrow)写道,这是为了确定哪种方法最有效而进行的测试。新工具允许品牌将人工智能生成的内容与客户偏好相匹配,然后创建反馈循环以查看其表现如何。分析可以非常详细,帮助用户找出最适合不同目标受众的特定方面,例如颜色、图像类型和文案风格。

BITS + BYTES

Galileo 联合创始人兼首席技术官关于加州悬而未决的人工智能监管法案

仍有人工智能相关立法等待州长加文·纽瑟姆 (Gavin Newsoms) 采取行动,特别是有争议的 SB 1047。该法案旨在防止人工智能系统造成灾难,但被广泛批评为会扼杀创新并需要对大型且昂贵的人工智能模型进行额外审查。纽瑟姆必须在 9 月底之前对该法案采取行动,他本周表示,为人工智能制定合理的法规具有挑战性。我无法解决所有问题。我们能解决什么问题?据 TechCrunch 报道,他在一次会议上说道。

我与人工智能评估公司 Galileo 的首席技术官兼联合创始人 Atin Sanyal 进行了交谈,讨论了这项立法以及他认为这对更大的行业意味着什么。本次对话已针对长度、清晰度和连续性进行了编辑。

已经提出了许多监管人工智能的提案。您认为为什么这个专注于安全的系统会一路走到州长的办公桌上?

Sanyal:有两种方法来看待这样的系统可能造​​成的潜在危害。外行人看待它的方式是,您不希望输出包含偏见或种族主义内容。这可能会对社会造成危害,特别是因为您将在其他产品中使用这些输出。在伽利略,我们与使用大语言模型的金融机构和银行合作,对贷款申请做出决策。一旦你进入这个领域,你就会根据这些模型的结果做出决定。

但是如果你深入一点,问题是你如何做到这一点?你在哪里护栏?加州的很多人,尤其是硅谷的人,都认为,我们比联邦政府或大多数人更了解人工智能。我们的想法是,其中很多都出现在这些较大模型的根训练和验证数据中。因此,如果你在那里设置护栏,如果你消除噪音和有偏差的数据,你就会减少下游影响。这就是我喜欢该法案的地方。它着眼于问题的根源。该模型只是一个方程。它会学习您向其提供的数据,因此它是垃圾输入,垃圾输出。如果你向它提供错误的数据(现实世界的数据通常充满了这些数据),就会有噪音、偏见、不平衡。

归根结底,[人工智能系统]有点像黑匣子,即使对于最先进的从业者来说,他们也已经记住了语言数据中的所有这些模式。最后,它们的输出本质上是词汇上的数学概率分布。他们基本上只是梦想机器,由于他们接受的训练数据,说的话显得非常连贯。

这项法案遭到了加州国会代表团成员的反对,其中包括前众议院议长南希·佩洛西,她提到了国会一直致力于对这些问题进行联邦监管。您认为这个问题应该首先在联邦层面进行监管吗?

州优先是正确的方法,因为当前需要的是快速、灵活的行动。在理解有害内容的成因方面已经存在脑裂问题,甚至在联邦政府和州政府之间也是如此。联邦政府,通常如果你读过他们的理解,就是为了遏制这些模型说出某些错误的话。

我个人的观点是,正确的方法是快速而灵活地行动,并获得某些基本的细致入微的护栏并制定规则,因为创新将会发生。它已经以闪电般的速度发生了。球门柱正在改变。即使对于地球上最聪明的人来说,对所有这些系统如何工作的理解也在不断发展。我们需要快速安装某些基本护栏。如果中央政府介入,事情就会开始放缓。虽然我们最终确实希望对人工智能安全和监管的真正含义有更统一的理解,但这需要时间。在此期间,我认为各州开始制定自己的立法是件好事。

如果该法案被否决,人工智能监管运动接下来会发生什么?

将会有是某种形式的其他规则,它将弹出。缺乏此类法规并不会阻止该技术的发展。我可以在接下来的 12 到 18 个月内看到这些模型的演变。会有疑问:也许该法案中的某些细微差别不起作用。有什么作用?这可能是一个完全不同的定义。今天我们只是讨论这些语言模型如何像人类一样说话,并且输出如此之大。我们正在进入代理的世界,其中不仅仅是与模特交谈并要求其背诵一点俳句。更多的是关于实际做真实的事情、任务和行动。

事实 + 评论

亚马逊首席执行官安迪·贾西 (Andy Jassy) 本周宣布,这家电子商务和科技巨头的员工将预计继续工作从 1 月开始,每周在办公室工作五天。

7%:需要全职办公的大型科技公司的百分比

15:亚马逊员工在办公室工作的月份每周三天在办公室

我们的团队成员可以更轻松地学习、示范、实践和加强我们的文化:Jassy 谈到在工作场所亲自参与

策略 + 建议

对人工智能持观望态度的公司已经审视了它的风险,并考虑了潜在的成本和对业务的影响,这可能超过它的回报。

人工智能被比作实习生:能够做事,但不能总是理解细微差别。以下是训练您的聊天机器人成为负责任的专业人士的五个技巧。

测验

人工智能公司最近对哪家机构表现出了极大的兴趣,希望使用其数据进行培训?

测验

p>

A.牛津大学

B.国会图书馆

C.梅奥诊所

D.NASA

看看您是否在这里得到了答案。

我是《福布斯》的特约撰稿人,负责撰写 C 级高管时事通讯。此前,我是 Industry Dive 的一名记者,报道 CPG 食品和饮料以及该领域的技术。我还担任过企业技术和数字化转型关键领域的基本趋势和新闻的工作,从人工智能和网络安全到初创公司和创新。在此注册。

关于《加州的人工智能监管法案应该发生什么?- 福布斯》的评论


暂无评论

发表评论

摘要

这是《福布斯》CIO 时事通讯的出版版本,为首席创新官和其他以技术为中心的领导者提供最新消息。SEO 和搜索引擎顾问 BrightEdge 今天发布了一份新报告,详细介绍了 Google 在搜索中的 AI 概述正在发生的一些变化,并试图保持领先于其他 AI 原生搜索引擎的能力,包括 OpenAIs Search GPT 和 Anthropics Perplexity。其中一项法案 SB 1047 比其他法案更具争议性,业内许多人都在观望纽瑟姆会如何处理该法案。我与人工智能评估公司 Galileo 的首席技术官兼联合创始人 Atin Sanyal 讨论了这项立法以及他认为这对更大的行业意味着什么。联邦政府,通常如果你读过他们的理解,就是为了遏制这些模型说出某些错误的话。