英格兰的数百名社会工作者已经开始使用人工智能系统来记录对话、起草给医生的信件并提出人类工作者可能没有考虑到的行动建议。
斯温顿、巴尼特和金斯顿的市议会是目前使用社会工作者手机上的人工智能工具来记录和分析面对面会议的七个市议会之一。Magic Notes AI 工具几乎可以即时撰写摘要并建议后续行动，包括起草给全科医生的信函。还有另外两打议会已经或正在试点。
该系统背后的公司 Beam 声称，通过减少社会工作者记笔记和填写报告的时间，该工具每年有可能节省高达 20 亿美元。
但这项技术也可能引起人们的担忧，即忙碌的社会工作者如何权衡人工智能系统提出的行动，以及他们如何决定是否忽略拟议的行动。
英国社会工作者协会欢迎人工智能系统为面对面工作腾出时间，但表示它们绝不能取代基于关系的社会工作实践和决策。
一个试点委员会表示，在记录可能改变生活的选择之前，需要进一步确保人工智能工具能够准确地总结会议内容。
根据伦敦卡姆登区的影响评估，一名角色扮演客户的人顺便提到，他们在使用手机时遇到了一些困难。人工智能生成了一个案例摘要，其中添加了一项潜在的行动来研究他们的技术培训，但角色扮演中的两个人都没有意识到这一点。
提供 Magic Notes 的 Beam 首席运营官 Seb Barker 表示，飞行员的反馈中没有一个表明社会工作者会简单地按照 Magic Note 的指示去做；摘要和后续行动必须得到人员的批准。他表示，没有证据表明社会工作者在与客户会面时会关掉电源，让人工智能制定行动计划。
英格兰有十分之一的成人社会工作者职位空缺，2023 年儿童和家庭社会工作者的空缺率是自 2017 年以来第二高，这使得政府对风险的评估变得至关重要。
斯温顿市议会已签署了一份为期六个月的使用该技术的合同，并表示该技术特别有助于患有阅读障碍的社会工作者。成人社会关怀内阁成员雷·鲍尔曼议员 (Cllr Ray Ballman) 表示，这对我们的同事来说改变了游戏规则。
威尔特郡议会的平等影响评估表示：该工具不会就对话的撰写做出决定或采取完全自动化的行动：从业者必须始终拥有最终决定，并进行适当的质量检查和监督。
伦敦巴尼特区正在向 300 名成年社会护理人员提供该工具，因为工作人员发现该工具可以让他们更充分地与居民互动，节省时间，并且没有发现任何偏见问题。一位发言人表示，人工智能摘要只是一个起点，在作为正式记录归档之前，需要由社会工作者进行编辑并由管理人员进行检查。
根据国家审计办公室最近的评估，70% 的英国政府部门正在试点或计划使用人工智能系统。但支出监管机构表示，老化的 IT 系统、技能差距和数据质量问题可能会阻碍公共部门利用快速发展的技术。英国没有人工智能中央监管机构，但工党政府计划立法，对那些致力于开发最强大人工智能模型的人提出要求。
Magic Notes 系统收集敏感信息，包括健康状况、个人财务、地址、出生日期、电话号码、性取向、种族和宗教信仰。它部署了旧金山公司 Deepgram 和 OpenAI 开发的人工智能算法。Barker 表示，这些录音保存在英国的 Beams 服务器上，这些数据不会用于训练 Magic Notes 或任何其他人工智能系统。
克罗伊登议会的发言人表示：我们正在评估该试点项目，并将在继续进行之前进行全面评估。人工智能的任何使用都将受到适当的检查和治理。
英国社会工作者英格兰协会全国主任 Maris Stratulis 表示：我们呼吁对人工智能进行监管，建立一个关于其使用的道德原则的国家框架，并在人工智能应用程序何时使用以及由哪些行业使用方面保持透明度确保对公民负责并维护人权。