CT 公司将人工智能投入使用,但监管仍不确定 - 康涅狄格镜报

2024-09-26 09:00:00 英文原文

位于温莎的技术服务公司 Cooperative Systems 正在使用人工智能为其客户自动执行可重复的任务并记录客户互动。

在纽黑文,健康初创公司 Anthogen 为患者开发了一款人工智能工具患有慢性疾病的人可以监测生命体征,并发送提醒喝一杯水,或伸展身体,以帮助避免病情发作。

柴郡营销咨询公司 Rebellion Group 使用人工智能来分析客户决策,通过在线梳理审查语言,以理解对个人用户有吸引力的词语和语气。

康涅狄格州几乎每个行业的公司都在不断扩大的应用程序范围内部署人工智能,利用该技术开发更快、更一致和更好的产品 -量身定制的产品和服务。

与此同时,州和联邦立法者正在努力确保人工智能的安全性,因为人工智能的用例与他们学习的数据宝库一样快速增长。

关键是采取基于风险的方法,米尔福德民主党参议员詹姆斯·马罗尼 (James Maroney) 表示,他在 2024 年大会会议期间担任了一个工作组的联合主席,并共同发起了有关人工智能的州立法。当使用人工智能对某人的生活做出关键决策时,我们需要确保其经过测试是安全的。

这些关键决策可能包括人力资源算法等,这些算法会根据有偏见的标准剔除某些简历,马罗尼说,或者由于数据不准确或过时而被拒绝的住房申请。

如果这些决定是针对人做出的,并且没有让他们有能力知道原因并在数据错误时纠正数据他说,他们可能会继续被剥夺重要的机会。

参议院第 2 号法案于今年早些时候在参议院获得通过,但在休会前未能在康涅狄格州众议院进行投票,将制定保护消费者免受歧视的规则,要求公司记录其流程、进行风险评估、添加标签并向客户披露人工智能的应用方式。在与选举相关的内容中欺骗性地使用人工智能或传播人工智能生成的裸体图像也将被定为犯罪。

经济发展的更多故事

该法案的反对者,包括州长内德·拉蒙特在内的一些人对这些法规可能阻碍创新表示担忧。许多人建议人工智能应受联邦规则管辖,以免在各州制定零散的立法。

Maroney 计划在下届会议上再次提出立法,他表示他正在参加一个由来自 46 个州的立法者组成的工作组其他州制定人工智能标准,以避免不同法律的拼凑。

但就目前而言,情况远未统一。

科罗拉多州今年通过了立法,密切关注反映了康涅狄格州拟议的法律。加州州长加文·纽瑟姆 (Gavin Newsom) 将决定是否签署立法者今年夏天通过的一项全面法案,该法案制定了迄今为止最严格的州人工智能法规。总体而言,今年有 30 多个州采取了与人工智能治理相关的各种行动。

在联邦层面,美国康涅狄格州民主党参议员理查德·布卢门撒尔 (Richard Blumenthal) 和纽约州参议院多数党领袖查克·舒默 (Chuck Schumer),他们各自领导了起草人工智能监管框架的工作。白宫去年在一项行政命令中制定了人工智能标准。

Maroney 表示,他认为人们可能对 S.B. 的内容缺乏了解。2 的目标是这样做,自会议休会以来,他一直在与公司会面,解释他拟议的法规的意图。他引用了波士顿咨询集团最近的一项研究,该研究发现大多数企业领导者在全面部署人工智能战略之前都在等待监管的明确性。

他说,他们希望有明确的规则。因此,我们等待的时间越长,实际上就阻碍了全面采用。

循环中的人

研究和部署人工智能的研究人员和企业指出,这项技术并不新鲜。

机器学习可以处理大量数据并做出预测,其历史可以追溯到上个世纪。机器人流程自动化,其中包括合作系统为其客户提供的各种服务,已经发展了数十年。

但最近对人工智能进行更严格监管的呼声是随着所谓的生成人工智能的出现而出现的,它产生类似人类的输出文本、语音或视频,例如响应提示。流行的 genAI 应用程序,例如 OpenAIs ChatGPT 和 Anthropics Claude,在生成响应时会处理来自整个互联网的源材料,这可能会导致有偏见或不准确的输出。

这就是公众如此着迷的,耶鲁大学医学院数字战略负责人、耶鲁纽黑文健康中心首席数字健康官 Lee Schwamm 表示,这确实是一次巨大的计算飞跃。

Schwamm 表示,基于规则的重复性自动化任务和部署机器学习来处理大型数据集并提供预测可以是相对安全的活动。

在这种情况下,您需要有人在循环中,但如果没有人在循环中,您就无法真正进行,他说。当你真正需要一个人参与循环,并且你可以在没有人的情况下继续进行时,是当你有生成式人工智能来创建任何输出的实质内容时。我认为这是一个真正的挑战。

这可能会导致不平等,例如算法根据客户的种族为客户提供不同的抵押贷款利率,或者针对某些人口群体中的选民的虚假广告并导致压制。

施瓦姆表示,合理执行的公平标准是一个好主意,围绕责任的一些法律结构也是一个好主意,该结构可以确定算法无法正常工作时的责任人。他说,旨在影响选举、欺凌或操纵他人或损害他人声誉的恶意活动应该被定为犯罪。

你想建立保障措施,但你不想抑制这里的学习弧,这是陡峭的,他说。

不过,在立法中制定这些保障措施的最佳方式仍然是一个激烈争论的话题。

史蒂夫·施瓦茨 (Steve Shwartz),人工智能研究员、专利持有者、企业家和作家,自 20 世纪 80 年代以来一直在该领域工作,他称马罗尼法案很糟糕,并表示他很高兴拉蒙特州长表示他不会签署该法案。他说,这项立法没有解决人们对人工智能的许多主要担忧,例如自动驾驶汽车,而且这会给康涅狄格州试图吸引的初创企业带来太大的负担。

施瓦茨说,为了防止歧视,该法案要求公司披露有关培训数据的信息(即源输入)。但大多数部署生成式人工智能的公司都在使用 ChatGPT 或 Claude 等应用程序,这些应用程序不会披露这些信息。他说,我担心这一要求会阻止公司使用这些第三方工具,从而扼杀创新。

Shwartz 也是在联邦层面而不是逐州制定规则的支持者。状态。他说舒默的框架以及白宫两年前提出的人工智能权利法案蓝图对他来说都很有意义。

为什么各州要参与其中?施瓦茨说道。想象一下一家初创公司。你正在努力生存,你正在努力赚钱。为了发布你的技术,你必须经过 50 个州,每个州需要 700 页的文档,并且你必须确保你没有违反任何这些规则。

即将启动的新计划CT 每月将向谁提供现金援助?

你知道答案吗?玩本周的新闻测验来找出答案。

想象一下您需要多少法律帮助。

在灰色地带

康涅狄格州的经济发展领导者是努力为人工智能等开创性技术的公司营造友好的氛围。

从技术服务和医疗保健到保险、物流、汽车、工程、法律、教育甚至社会服务等领域的公司正在将人工智能应用于他们的行动。就连总部位于布里斯托尔的 ESPN 最近也推出了人工智能生成的游戏回顾。

该州准公共风险投资机构康涅狄格州创新公司 (Connecticut Innovations) 表示,其资助的初创公司中有超过三分之一目前正在以有意义的方式使用人工智能,预计未来几年该数字将升至 100%。经济和社区发展部最近宣布了一项 1 亿美元的拨款计划,旨在在该州建立人工智能和量子计算中心。

商界领袖基本上承认需要一些监管护栏来确保安全和公平的人工智能应用程序。(康涅狄格州人工智能领域的公司领导和专家似乎主要是白人和男性。)

尽管如此,许多应用程序并未达到马罗尼立法所关注的风险水平,因为他们的人工智能应用程序根据其得出结论并产生输出Anthogen 的创始人兼首席执行官丹尼尔·纳迪斯 (Daniel Nadis) 表示,他的公司非常谨慎地保护患者信息的安全。

对于我们来说,他说,问题在于数据控制者的数据。

合作系统表示,这是最重要的,进出这些平台的数据的安全性和可靠性总裁 Scott Spatz。

Rebellion Group 首席人工智能官 Chris Nocera 在电子邮件评论中表示,因为人工智能模型的有效性取决于它们所训练的数据,并且因为它们所训练的数据通常来自我们自己的人类决定和行为,因此保障措施和公开讨论是必要的。

Maroney 预计立法机构将在 2025 年会议期间再次讨论他的人工智能立法。到那时,科罗拉多州应该有一些证据表明其法律与康涅狄格州 S.B. 非常相似。2已在实践中发挥了作用。如果纽瑟姆州长在他的办公桌上签署该法案,加州可能会出台新的法规,从而导致全国范围内的广泛变化。

马罗尼表示,他正在起草该法案的新草案,他打算下个月公布。

他说,当行业和政府共同制定法规时,这实际上是有利于创新的。

诺塞拉表示,他已与参议员讨论了康涅狄格州的情况立法鼓励采取灵活的方法,而不是一刀切,因为已经有如此广泛的人工智能应用程序正在使用和开发中。

虽然采取强硬立场,要么令人窒息的谨慎,要么过于热心的野心是一种容易的做法他写道,在两者之间的灰色空间中继续前进并蓬勃发展要困难得多,也更重要。涉及立法者、技术专家、人工智能开发人员和伦理学家的灵活协作方法至关重要。

在您离开之前...

作为一家非营利性新闻编辑室,我们相信最健康的方式来维持和发展CT Mirror 的成长得益于像您这样使用和重视它的忠实、好奇的读者的支持。

关于《CT 公司将人工智能投入使用,但监管仍不确定 - 康涅狄格镜报》的评论


暂无评论

发表评论

摘要

位于温莎的技术服务公司 Cooperative Systems 正在使用人工智能为其客户自动执行可重复的任务并记录客户互动。柴郡营销咨询公司 Rebellion Group 使用人工智能来分析客户决策,梳理在线评论语言,了解吸引个人用户的词语和语气。马罗尼计划在下届会议上再次提出立法,他表示,他正在参加一个由来自其他 46 个州的立法者组成的工作组,以制定人工智能标准,以避免不同法律的拼凑。他说,你想要建立保障措施,但你不想抑制这里的学习弧线,因为学习弧线很陡。康涅狄格州公司的人工智能领导者和专家似乎主要是白人和男性。)尽管如此,许多应用程序并未达到马罗尼立法所关注的风险水平,因为他们的人工智能应用程序根据用户的闭环数据得出结论并产生输出喂它。