德克萨斯州的AI法律将无法实现其承诺的责任

俗话说，得克萨斯州的一切都更大了，德克萨斯州负责AI治理法（Traiga）也不例外。该法案于2024年12月提出，以解决算法偏见，如果通过法律，将对AI系统施加严格的州级限制。但是，它的强制性方法可能会产生比解决问题更多的问题，优先考虑官僚主义的障碍，而不是公平和问责制的有意义的进步。

Traiga就其规范和将适用的人提供了广泛的网络。它将AI系统定义为使用机器学习和相关方法来训练能够执行与人类智能相关的任务的模型，例如视觉识别，语言处理和内容创建。如果这些系统用于影响住房，医疗保健，就业或关键公用事业（例如水和电力）的那些系统，则将其视为高风险。这些高风险系统的开发人员必须提交详细报告，概述其模型如何损害受保护的群体以及他们为减轻这种风险所采取的步骤。分销商是将这些工具推向市场的实体，有义务确保遵守法律标准并可能撤回不合规的产品。部署该技术的组织将面临每种用例的半年度影响评估，并且每当AI系统中发生重大变化时，都需要对其进行更新。该法案加剧了这种全面的方法，将建立一个德克萨斯州人工智能委员会一个新的集中权威，并有权发布全州AI部署的道德准则和规则。

值得称赞的是，Traiga试图解决一个重要的问题。防止AI系统永久化或放大偏见是一个值得的目标，但仅意图并不能做出良好的政策。作为书面形式，Traiga的全面要求将优先级的过程优于实质，从而创造出掩盖而不是确保公平结果的合规性层次。更糟糕的是，它有可能加剧州和联邦AI治理的拼布破裂，积极破坏努力，以建立统一有效的方法来解决偏见和歧视。

首先，由于详尽的报告，风险文档和评估将转化为有意义的问责制，因此Traiga的方法是有缺陷的，因为它取决于过程的透明度。但是，仅凭文书工作并不能确保进展。总检察长的任务是审查这些材料并执行合规性，但是鉴于所需的监督范围，希望该办公室拥有解决此类巨大任务的资源或专业知识是幻想的。它会将合规性变成一个空心的仪式：开发人员筹集了文书工作，但是没有人有意义地询问它或确保它导致进步。一个更好的方法将支持对州政府采购的任何高风险AI系统的绩效指标的使用，包括按年龄，种族和性别划分的准确性和错误率。为州政府设定绩效标准可以促进经济各个部门的更高准确率，并确保机构对无效系统或绩效差异的无效系统的浪费税美元。对于商业AI系统，各州应避免设置放弃前的绩效指标。联邦政府已经在研究如何最好地评估AI系统，该系统在国家一级最好地处理以确保一致性，但是各州通过跟踪AI系统失败的情况（例如偏见或意外危害，并贡献数据和见解，这些数据和见解可以加强在国家一级评估的任何工具包。

其次，Traiga计划建立一个集中的得克萨斯州人工智能委员会回收了一个反复陷入平坦的想法。从城市层面到国家的一个机构，都在一个机构中进行AI监督的建议，出于实际和概念上的原因而搁浅。例如，纽约市的自动决策系统工作组，旨在指导政府在警务和教育等领域使用AI，倒塌了经过多年的官僚延误和对关键数据的访问有限，在2019年，没有任何可行的建议。如果像纽约市这样的一项狭窄的倡议无法克服这些挑战，那么很难看到得克萨斯州以更加雄心勃勃的授权期望如何成功。来自国家一级的课程相似：国会在2023年驳回了呼吁单个AI调节器，认识到没有一个人可以有效地管理如此广泛的应用。状态级别也不例外。一定程度的疏忽无法处理各个部门的AI的复杂性。Traiga没有复制过去的失败，而是专注于加强已经了解每个领域中独特风险的部门特定机构。这种方法将在最重要的情况下加强AI治理，而不是添加不适合任务的另一层集中官员。

最后，Traiga加深了美国AI治理景观破裂的混乱，使该国远离统一的国家方向。州隐私法已经显示了如何昂贵且令人困惑的拼凑方法可以适合企业和消费者。但是，虽然隐私法至少遵循一些可预测的沿红色和蓝色状态的模式，AI调节更混乱。众议员Giovanni Capriglione拥有俯仰Traiga是一种红色州模型，但该法案与蓝邦努力有更多共同点科罗拉多州而不是犹他州更受限制的方法证明，州如何管理AI没有真正的连贯性。对于企业而言，这种缺乏连贯性将转化为更大的不确定性和更高的成本。没有统一的框架，公司不仅要面对合规性头痛，而且要面临一个监管雷区，在各州之间的期望差异很大。最重要的是，这种分散的方法破坏了美国的能力在全球统治方面领导，允许其他国家以损害美国创新者的方式设定标准。

就目前而言，Traiga更像是一个警告性的故事，而不是指导光。它远没有为他人设定大胆的模型，而是有可能成为一个案例研究，即如何掩盖进步，巩固官僚机构和未能兑现其诺言。

图片来源：Flickr用户埃德·希普尔（Ed Schipul）

霍丹·奥马尔（Hodan Omaar）

Hodan Omaar是针对AI政策的数据创新中心的高级政策经理。此前，她曾在伦敦担任技术和风险管理的高级顾问，并在柏林担任加密经济学家。她拥有爱丁堡大学的经济学和数学硕士学位。