据亚马逊称，一款旨在促进英国国防部招募的人工智能工具使国防人员面临被公开身份的风险政府评估。
自动化 Textio 系统中使用的数据可通过改进包容性语言来改进国防招聘广告的起草并吸引更多多样化的候选人，其中包括军事人员的姓名、角色和电子邮件，并存储在亚马逊美国的网络服务 (AWS)。根据今天首次发布的详细介绍政府人工智能系统的文件，这意味着“数据泄露可能会产生令人担忧的后果，即国防人员的身份识别”。
风险被判定为“低”，国防部表示，供应商已采取“强有力的保障措施”，这些供应商在国防部网站上列为 Textio、AWS 和威胁检测服务 Amazon GuardDuty。（亚马逊表示 GuardDuty 不是供应商，而是 AWS 的产品。）
但这是政府承认的在公共部门使用人工智能工具的几个风险之一。一批文件发布的目的是提高中央政府使用算法的透明度。
关于算法如何工作的官方声明强调，随着部长们推动使用人工智能来提高英国经济生产力，并且用技术大臣彼得·凯尔（Peter Kyle）周二的话来说，“带来了风险”。公共服务从崩溃的边缘恢复过来。
据本周报道，新任内阁秘书克里斯·沃莫尔德 (Chris Wormald)已经告诉公务员总理希望“重新调整政府的运作方式”，要求官员们“利用技术提供的重大机遇”。
谷歌和 Meta 一直在与英国政府直接合作，开展在公共服务中使用人工智能的试点。微软正在向公务员提供人工智能驱动的 Copilot 系统，本月早些时候，内阁办公室部长帕特·麦克法登 (Pat McFadden) 表示，他希望政府“更像一家初创公司一样思考”。
当前中央政府人工智能中确定的其他风险和收益包括：
-
生成不适当的课程材料的可能性人工智能驱动的课程计划工具由教师基于 Open AI 强大的大型语言模型 GPT-4o 使用。人工智能可以节省教师的时间，并可以以其他方式无法实现的方式快速个性化课程计划。
-
“幻觉”，作者：部署聊天机器人来回答有关儿童福利的询问在家庭法庭。然而，它还提供全天候信息，并减少需要与人工客服人员交谈的人们的排队时间。
-
HM Treasury 的新版本中“代码操作错误”和“输入数据不正确”策略引擎它使用机器学习对税收和福利变化进行建模，并且比现有方法更准确。
-
– 人类推理能力的退化 – 如果人工智能用户在优先考虑食品卫生检查风险时变得过度依赖系统。它还可能导致“某种类型的企业得分持续低得多”，但这也意味着对更有可能违反卫生规则的场所进行更快的检查。
这些披露来自新扩展的算法透明度登记册，其中记录了有关 23 种中央政府算法的详细信息。一些算法，例如工作和养老金部福利系统中使用的算法，表现出偏见的迹象，还没有记录。
“技术具有改善公共服务的巨大潜力，”凯尔说。– 我们将利用它来减少积压、节省资金并改善全国公民的成果。公共部门如何以及为何使用算法工具的透明度对于确保其可信和有效至关重要。”
中央政府组织将被要求公布任何直接与公民互动或对人们的决策产生重大影响的算法工具的记录，除非适用国家安全等狭隘的豁免规定。一旦工具公开试用或上线运行，就会发布工具的记录。
扩展登记册中包含的其他人工智能包括一个人工智能聊天机器人，它可以处理客户对 Network Rail 的询问，并接受铁路机构客户关系系统历史案例的培训。
教育部正在使用 Open AI 的 GPT-4o 模型为教师运行人工智能课程助手 Aila。它是在白厅内部创建的，而不是使用承包商，它允许教师制定课程计划。该工具经过精心设计，不会通过触摸按钮来生成课程。但已识别并减轻的风险包括产生的有害或不适当的课程材料、偏见或错误信息，以及 –及时注射– – 恶意行为者欺骗人工智能实现其意图的一种方式。
儿童和家庭法院咨询和支持服务机构负责向家庭法院提供有关儿童福利的建议，该机构使用自然语言处理机器人为网站聊天服务提供支持，每月处理约 2,500 个查询。公认的风险之一是，它可能会处理有关儿童问题的报告，而其他风险则是“幻觉”和“不准确的输出”。它的成功率是三分之二。它得到了 Genesys 和 Kerv 等公司的支持，同样使用 Amazon Web Services。