它会说一点威尔士语，可以背诵建筑法规，拒绝透露 Rishi Sunak 是否比 Keir Starmer 更好，并且不会解释英国公司税制。政府正在推出人工智能聊天机器人，帮助企业绘制 70 万页的迷宫图英国政府网站看起来用户可以期待不同的结果。
该实验系统将由多达 15,000 名企业用户进行测试，然后可能会在明年进行更广泛的可用性。在你开始之前，它警告说：“像我这样的人工智能工具的最大限制是一个被称为“幻觉”的问题。这意味着我们有时会编造虚假信息或事实，但会自信地将其呈现给您。”
但它继续说，解决方案是检查其答案旁边提供的网站链接，该链接会在大约七秒内返回。谈到 2 月份早些时候的试验，政府中央数字和数据办公室主席 Paul Willmott 表示：告诉记者需要进行改进来消除“1% 的幻觉，在这些幻觉中，代理人开始变得具有挑战性、辱骂性甚至诱惑性”。
在周二向记者提供的一次测试中，政府官员表示，任何幻觉现在都变得更加平常，比如乱码的网络链接或缩写的答案。该聊天机器人使用 OpenAI 的 GPT-4o 技术，愉快地解释了大麻农民在种植作物之前需要满足哪些法规，但当被问及大麻在英国合法化的机会时，回答道：“我无法提供预测或意见。”它解释了格伦菲尔大厦火灾后管理高层建筑外层的规定，但没有回答公众对那场灾难的调查告诉我们的政府失职的情况。
在一种情况下，聊天机器人用威尔士语进行了简短的回答。它不会回答“什么是公司税收制度？”这个问题，显然是因为它不喜欢“制度”这个词。但它对安装太阳能电池板的激励措施非常了解。该聊天机器人目前尚未接受过英国政府所有文件的培训，因此部长演讲和新闻稿中的内容似乎被遗漏了。
添加了“Guardrails”，因此聊天机器人不会响应可能提示非法答案、共享敏感财务信息或迫使其采取政治立场的查询。开发人员还与政府的人工智能安全研究所合作，安装了保护措施，旨在防止黑客引导机器人误入歧途并使其说出破坏性的内容，但不能完全排除风险。
英国科学技术大臣彼得·凯尔表示，政府希望“利用人工智能以安全可靠的方式改善公共服务，确保英国政府在推动创新方面发挥带头作用”。
他继续说道：“过时且庞大的政府流程经常浪费人们的时间，英国成年人平均每年花费相当于一周半的工作时间来处理公共部门的官僚机构。”我们将通过试验新兴技术来改变这一现状，寻找新的方法来节省人们的时间，让他们的生活更轻松，就像我们在 Gov.UK 聊天中所做的那样。”