AI建议Keir Starmer吗？英国政府不会告诉我们

英国政府中心的成千上万的公务员，包括直接支持总理凯尔·斯泰默（Keir Starmer）的公务员，正在使用专有的人工智能聊天机器人进行工作，新科学家可以揭示。官员们拒绝在记录中披露该工具的使用方式，无论是总理正在接受使用AI准备的建议还是公务员如何减轻不准确或有偏见的AI输出的风险。专家说，缺乏披露引起了人们对政府透明度的担忧以及政府中使用的信息的准确性。

固定后根据信息自由（FOI）立法，世界上首次发行的CHATGPT日志，，，，新科学家要求20个政府部门与Redbox进行互动的记录，Redbox是在英国政府工作人员中开发并进行了试用的生成AI工具。大型语言模型驱动的聊天机器人允许用户询问政府文件，并生成简报的初稿。根据其发展背后的人之一。早期的审判使一名公务员声称在几秒钟内综合了50个文件，而不是一整天的工作。

所有联系部门都表示，他们不使用Redbox或拒绝提供与该工具互动的成绩单，声称新科学家S的要求是烦人的，这是一个正式术语，用于回应信息专员办公室的FOI请求定义因为可能会导致不成比例或不合理的困扰，破坏或刺激。

但是，两个部门确实提供了一些有关其使用Redbox的信息。支持总理的内阁办公室说，其部门的3000人与Redbox共同参加了30,000次聊天。它说，审查这些聊天以修改任何敏感信息，然后再将其释放到FOI下，将需要超过一年的工作。商业和贸易部也拒绝了，并指出它持有13,000多个提示和答复，并审查它们以释放是不可行的。

当被问及有关红外使用的后续问题时，两个部门都提到新科学家向监督工具的科学，创新和技术部（DSIT）。DSIT拒绝回答有关总理还是其他内阁部长是否正在收到使用AI工具准备的建议的具体问题。

DSIT发言人告诉新科学家：：没有人应该花时间在AI上可以做得更好，更快地做的事情。Redbox在Whitehall建于Whitehall，正在帮助我们以安全，安全和实用的方式利用AI的力量 - 使官员更容易总结文件，议程草案等。最终，这加快了我们的工作，并释放了官员，以专注于制定政策和改善服务 - 推动该国需要的变化。”

但是，使用生成的AI工具涉及一些专家。大型语言模型周围有据可查的问题偏见和准确性这很难减轻，因此我们无法知道Redbox是否提供了优质信息。DSIT拒绝回答有关Redbox用户如何避免不准确或偏见的具体问题。

我的问题是，政府应该为公众服务，这项服务的一部分是，作为选民，我们作为选民作为纳税人，应该有一定数量的机会了解理解如何做出决定以及在决策方面的过程，”凯瑟琳·弗里克（Catherine Flick）在英国斯塔福德郡大学。

由于生成的AI工具是黑匣子，因此Flick担心它不容易测试或了解其如何达到特定输出，例如突出文档的某些方面而不是其他文档。她说，政府不愿分享该信息进一步降低了透明度。

缺乏透明度扩展到第三政府部门，即财政部。为了回应FOI请求，财政部告诉 新科学家它的员工无法访问Redbox，并且HM内部可用的GPT工具（Majesty s]财政部都无法保留及时的历史。究竟哪种GPT工具尚不清楚，而ChatGpt是最著名的例子，其他大型语言模型也称为GPT。回应表明，财政部正在使用AI工具，但没有保留其使用的全面记录。财政部没有回应新科学家要求澄清的要求。

``如果他们不保留所使用的提示，那么很难对如何复制那里的决策过程有任何形式的想法。”

乔恩·贝恩斯（Jon Baines）在英国律师事务所Mishcon de Reya说，选择不记录此信息是不寻常的。``我发现，政府说，它是否可以检索到其内部GPT系统中的提示。虽然法院裁定，公共机构在归档之前不必保留公共记录，但良好的信息治理仍然非常重要，尤其是保留记录非常重要，尤其是在可能已经被制定或告知政策的地方，”他说。

但是，数据保护专家蒂姆·特纳（Tim Turner）表示，财政部有权不保留根据FOI法律提示AI提示的权利：我认为，除非有有关数据性质的特定法律或公务员规则，否则他们可以做到这一点。”