德克萨斯州考虑全面的人工智能法案

德克萨斯州正在与越来越多的州一起考虑制定监管人工智能使用的综合法律。特别是，德克萨斯州立法机关计划考虑 草稿《德克萨斯州负责任的人工智能治理法案》（以下简称“法案”）旨在规范德克萨斯州人工智能系统的开发和部署。至关重要的是，随着大多数州继续努力应对人工智能的出现，该法案可以作为其他州的典范，并可能产生巨大的影响。

适用性

该法案的大部分内容侧重于“高风险人工智能系统”，其中包括部署后会做出重大决策或以其他方式促成重大决策的人工智能系统。[1]该法案特别排除了许多系统，例如旨在检测决策模式的技术、反恶意软件和反病毒程序以及计算器等。 [2]

另外，该法案还根据当事人的角色规定了具体义务，包括：

• “部署者”，是在德克萨斯州开展业务并部署高风险人工智能系统的一方。[3]
• “开发者”，是指在德克萨斯州开展业务、开发高风险人工智能系统或大幅或有意修改此类系统的一方。[4]

确定一方的角色是评估其根据该法案承担的义务的关键。

开发商的职责

该法案要求高风险人工智能系统的开发者采取合理的谨慎措施，保护消费者免受已知或合理可预见的风险。[5]此外，该法案要求开发者在提供高风险人工智能系统之前，部署者，向部署者提供书面的“高风险报告”[6]，其中必须包括：

1. 描述应如何使用和不使用高风险人工智能系统，以及当系统用于做出（或是做出）重大决策时应如何监控系统。—[7]

• 对系统任何已知限制、用于衡量系统性能的指标以及系统在这些指标下的执行情况的描述。 [8]
• 对可能发生的任何已知或合理可预见的算法歧视、非法使用/披露个人数据或欺骗性操纵或胁迫人类行为的风险的描述。 [9]
• 用于编程或训练系统的数据类型的描述。[10]
• 为涵盖训练数据集及其收集而实施的数据治理措施的摘要、用于检查数据源适用性的措施、可能存在的歧视性偏见以及减轻此类风险所需采取的措施。 [11]

在部署高风险人工智能系统之前，开发人员需要采用并实施正式的风险识别和管理政策，该政策必须满足许多规定的标准。[12]此外，开发人员需要维护任何风险的详细记录。用于开发生成人工智能系统或服务的生成人工智能训练数据集。 [13]

经销商的职责

该法案要求高风险人工智能系统的部署者采取合理的谨慎措施，保护消费者免受算法歧视引起的已知或合理可预见的风险。[14]此外，如果部署者认为或有理由认为系统不属于为了遵守上述义务，该法案要求部署者暂停使用该系统，并将此类问题通知相应系统的开发者。[15]此外，高风险人工智能系统的部署者需要指派人工监督关于[16]如果部署者得知已部署的高风险人工智能系统已经导致或可能导致算法歧视或不适当或歧视性的后果性决策，则此类部署者必须通知人工智能系统理事会、[17] 德克萨斯州总检察长或监管部署者行业的州机构主管，不迟于部署者获悉之日后十 (10) 天内此类问题。[18]

另外，该法案还要求高风险人工智能系统的部署者每半年完成一次影响评估，并在对系统进行任何有意或实质性修改后的九十 (90) 天内完成。[19] 该法案概述了评估中必须解决的项目数量，其中包括对系统是否构成任何已知或合理可预见的算法歧视风险的分析，以及为减轻此类风险而采取的步骤的描述。[20]此外，在对高风险人工智能系统进行有意或实质性修改后，部署者必须披露该系统的使用方式与开发者的预期用途一致或不同的程度。系统。[21]

此外，该法案要求开发商每年审查高风险人工智能系统的部署，以确保该系统不会造成算法歧视。 [22]

数字服务提供商和社交媒体平台

该法案还规定，数字服务提供商[23]和社交媒体平台[24]必须采取商业上合理的努力，防止服务或平台上的广告商部署可能使用户面临算法歧视的高风险人工智能系统。[25]

具体禁止活动

该法案包括对特定活动的多项限制，例如：

• 操纵人类行为– 该法案禁止使用使用潜意识或欺骗性技术的人工智能系统，其目的或效果是通过明显削弱一个人或一群人做出明智决定的能力来严重扭曲他们的行为。[26]
• 社会评分– 该法案禁止使用开发或部署的人工智能系统，用于根据自然人或自然人群体的社会行为或预测的个人特征对其进行评估或分类，以确定社会分数或类似的数据估计/评估。[27]
• 生物识别标识符– 该法案禁止使用以收集或以其他方式收集个人生物识别标识符的目的或能力而开发或部署的人工智能系统。[28]此外，该法案还禁止使用推断或收集个人生物识别信息的系统。使用生物识别标识符解释一个人或一群人的敏感个人属性，但合法获取的生物识别标识符数据的标签或过滤除外。 [29]
• 受保护的特性– 该法案禁止使用基于种族、肤色、残疾、宗教、性别、国籍、年龄或特殊社会或经济状况的个人特征的人工智能系统，以达到以下目的（或效果）：) 以导致或相当可能导致该人或其他人重大伤害的方式严重扭曲该人的行为。 [30]
• 情感推论 – 该法案禁止使用人工智能系统在未经自然人明确同意的情况下推断或能够推断自然人的情绪。 [31]

消费者权利

部署、提供、销售、租赁、许可、给予或以其他方式提供与消费者交互的高风险人工智能系统的部署者或开发人员必须向消费者披露（在交互之前或交互时）以下内容：

1. 消费者正在与人工智能系统进行交互；
2. 系统的目的；
3. 系统可能或将会做出影响消费者的相应决定；
4. 系统是或可能是影响因素的任何后续决策的性质；
5. 做出任何后续决定时所使用的因素；
6. 相关部署者的联系信息；
7. 对系统任何人为组成部分的描述；
8. 对系统任何自动化组件的描述；
9. 描述如何使用人工和自动化组件来做出相应的决策；和
10. 消费者权利声明。[32]

上述披露必须引人注目并以通俗易懂的语言呈现。[33]

另外，该法案还允许消费者对侵犯该法案规定的消费者权利的开发者或部署者提起诉讼（包括参与上一节中讨论的任何明确禁止的活动）。 [34]尽管有上述规定，消费者似乎只能寻求宣告性或禁令性救济，而不是损害赔偿，尽管消费者可以收回成本和合理且必要的律师费。 [35]

德克萨斯州总检察长的执法

值得注意的是，该法案赋予德克萨斯州总检察长调查和执行该法案的管辖权，包括通过禁令。[36]此外，该法案还授权根据具体情况处以不同程度的行政罚款，例如每次违规罚款从 40,000 美元到 100,000 美元不等。开发者或部署者未能及时纠正违反禁止使用行为的情况。[37]

付诸实践

在德克萨斯州运营并使用人工智能系统的企业监控该法案的立法进展以确定其是否会通过成为法律至关重要。如果该法案最终颁布，企业应开始评估其当前（或预期）运营是否符合该法案的限制，并应开始进行影响评估以确保符合规定。此外，企业应该开始准备政策、程序和其他系统，以确保他们准备好响应消费者的请求。

脚注

[1] 第 551.001(13) 条。该法案将“后果性决定”定义为“对消费者获得以下服务、成本或条款具有重大法律或类似重大影响的决定：(A) 刑事案件评估、量刑或认罪协议分析，或赦免、假释、缓刑或释放决定；(B) 教育入学或教育机会；(C) 就业或就业机会；(D) 金融服务；(E) 基本的政府服务；（六）电力服务；（七）食品；(H) 医疗保健服务；（一）住房；（十）保险；(K) 法律服务；(L) 运输服务；(M) 监视或监测系统；[] (N) 水[;或 (O)] 选举。 – 第 551.001(4) 条。

[2] 第 551.001(13) 条。

[3] 第 551.001(8) 条。

[4] 第 551.001(9) 条。

[5] 第 551.003(a) 条。

[6] 第 551.003(b) 条。

[7] 第 551.003(b)(1) 条。

[8] 第 551.003(b)(2) 条。

[9] 第 551.003(b)(3) 条。

[10]第 551.003(b)(4) 条。

[11] 第 551.003(b)(5) 条。

[12]第 551.008 条。

[13] 第 551.003(f) 条。

[14]第 551.005 条。

[15]第 551.005 条。

[16]第 551.005 条。

[17] 人工智能委员会根据《德克萨斯州商业和商业法》第 553 条成立，在行政上隶属于德克萨斯州州长办公室。第 553.001 条。

[18]第 551.011 条。

[19] 第 551.006(a) 条。

[20]第 551.006(a) 条。

[21] 第 551.006(b) 条。

[22] 第 551.006(d) 条。

[23]“社交媒体平台”是指“向公众开放、允许用户创建帐户并允许用户与其他用户进行交流的互联网网站或应用程序，其主要目的是发布信息、评论、消息或图像——但受到某些排除，例如互联网服务提供商、电子邮件等。德克萨斯州巴士。& 通讯。法典§ 120.001(1)。

[24] “数字服务提供商”是指： (A) 拥有或运营数字服务的人；(B) 确定收集和处理数字服务用户个人识别信息的目的；(C) 确定用于收集和处理数字服务用户的个人识别信息的方式。德克萨斯州巴士。& 通讯。法典§ 509.001(2)。反过来，“数字服务”包括“通过互联网连接收集或处理个人识别信息的网站、应用程序、程序或软件。”德克萨斯州巴士。& 通讯。法典§ 509.001(1)。

[25]第 551.010 条。

[26]第 551.051 条。

[27]第 551.052 条。

[28]第 551.053 条。

[29]第 551.054 条。

[30]第 551.055 条。

[31]第 551.056 条。

[32] 第 551.007(a) 条。

[33] 第 551.007(c) 条。

[34] 第 551.107(a) 条。

[35] 第 551.107(b) 条。

[36]第 551.104、551.106 条。

[37]第 551.106 条。

听听这个帖子