自政府表示以来，没有一个白厅部门登记人工智能系统的使用这将成为强制性的，这引发了人们的警告：公共部门对于影响数百万人生活的算法技术的部署“盲目行动”。
政府已经使用人工智能来为从福利支付到移民执法等各个方面的决策提供信息，记录显示公共机构已经授予了数十份人工智能和算法服务合同。上周，警方设立的采购机构竞标了一份价值高达 2000 万英镑的面部识别软件合同。家庭办公室，重新引发人们对“大规模生物识别监控”的担忧。
但迄今为止，只有九个算法系统的详细信息已提交给公共登记册越来越多的人工智能程序没有被内政部或警察用于福利系统。尽管政府在今年 2 月宣布使用人工智能登记册将成为“所有政府部门的要求”，但信息仍然匮乏。
专家已经警告过如果不加批判地采用人工智能，就会带来潜在的危害，最近 IT 系统无法按预期工作的突出例子包括邮局的 Horizon 软件。白厅内部使用的人工智能范围广泛，从正在广泛试用的微软副驾驶系统，到福利系统中的自动欺诈和错误检查。美国工作和养老金部 (DWP) 最近发布的一份人工智能合同通知描述了“DWP 内部的兴趣如雨后春笋般涌现，这反映了更广泛的政府和社会的兴趣”。
美国科学技术大臣彼得·凯尔承认，公共部门“没有足够重视政府使用算法的透明度”。
当被问及缺乏透明度时，凯尔告诉《卫报》：“我同意，如果政府代表公众使用算法，公众就有知情权。公众需要感觉到算法是为他们服务的，而不是相反。做到这一点的唯一方法是对其使用保持透明。”
隐私权运动组织“老大哥观察”表示，警察面部识别合同的出现，尽管国会议员警告缺乏立法来规范其使用，是“政府在人工智能技术的使用方面缺乏透明度的又一个例子。”
– 秘密使用人工智能和算法来影响人们的生活，使每个人的数据权利都面临风险。政府部门必须公开和诚实地说明他们如何使用这项技术，”首席倡导官马德琳·斯通说。
内政部拒绝置评。
艾达·洛夫莱斯研究所最近警告说，人工智能系统似乎可以减轻行政负担，“但如果它们产生的预测或结果具有歧视性、有害或根本无效，则可能会严重损害公众信任并减少公共利益”。
数据和人工智能研究机构副主任伊莫金·帕克 (Imogen Parker) 表示：“缺乏透明度不仅让公众蒙在鼓里，还意味着公共部门在采用人工智能方面盲目行动。”未能发布算法透明度记录限制了公共部门确定这些工具是否有效、从中学习以及监控这些工具的不同社会影响的能力。
自 2022 年底以来，国家登记册上仅记录了三种算法。它们是内阁办公室用于识别具有长期历史价值的数字记录的系统，是用于分析剑桥人行横道的人工智能摄像头，以及一个分析患者评论的系统国民医疗服务体系服务。
但据监控公共合同的公司 Tussell 称，自 2 月份以来，已有 164 份与公共机构签订的合同提到了人工智能。微软和 Meta 等科技公司正在政府范围内大力推广其人工智能系统。Google Cloud 资助了最近的一份报告，该报告声称，到 2030 年，更多地部署生成式 AI 每年可为公共部门节省高达 380 亿英镑的资金。凯尔称其为“有力地提醒人们生成式 AI 如何为政府服务带来革命性的变革”。
并非所有最新的公共部门人工智能都涉及公众成员的数据。与德比市议会签订的一份价值 700 万英镑的合同被描述为“利用人工智能技术改造议会”，与教育部签订的一份价值 450 万英镑的合同被描述为“提高人工智能在教育领域的表现”。
科学技术部的一位发言人证实了透明度标准“现在对所有部门都是强制性的”，并表示“一些记录很快就会公布”。
政府已经在哪些方面使用人工智能？
-
工作和养老金部一直在使用生成式人工智能每天阅读 20,000 多份文件，以“理解和总结信件”，然后将完整信息与官员共享以供决策。它拥有用于检测普遍信用索赔中的欺诈和错误的自动化系统，人工智能通过总结证据来协助代理人处理个人独立付款索赔。今年秋天，DWP 开始在就业中心部署基本的人工智能工具，允许工作教练询问有关通用信用指导的问题，以提高与求职者对话的效率。
-
内政部部署了人工智能驱动的移民执法系统，批评者称其为“机器人社会工作者”。算法参与制定决策，包括将人们送回祖国。政府将其描述为“基于规则”而不是人工智能系统，因为它不涉及从数据中进行机器学习。它表示，它通过确定工作优先级来提高效率，但每个决定仍然由人负责。该系统正在使用中案件数量不断增加受到驱逐行动的寻求庇护者人数目前约为 41,000 人。
-
一些警察部队使用面部识别软件在人工智能的帮助下追踪犯罪嫌疑人。其中包括大都会警察局、南威尔士警察局和埃塞克斯警察局。批评者警告称，此类软件“将把英国的街道变成高科技警察队伍”，但支持者表示，它可以抓获犯罪嫌疑人，并且不会存储无辜路人的数据。
-
英国 NHS 与 Palantir 签订了价值 3.3 亿英镑的合同，以创建一个巨大的新数据平台。与美国公司的交易构建人工智能驱动的数字基础设施尽管 Palantir 表示其客户保留对数据的完全控制权，但由唐纳德·特朗普支持者 Peter Thiel 领导的项目引发了对患者隐私的担忧。
-
人工智能聊天机器人正在试用，以帮助人们浏览庞大的 gov.uk 政府网站。它是由政府数字服务部门使用 OpenAI 的 ChatGPT 技术构建的。红盒唐宁街和其他政府部门的公务员使用的另一个人工智能聊天机器人也已部署，以允许官员快速深入研究安全的政府文件并获得快速摘要和量身定制的简报。