根据英国即将宣布的法律变更，将儿童置于危险之中的人工智能聊天机器人制造商将面临巨额罚款，甚至他们的服务在英国被封锁。凯尔·斯塔默星期一。

受到埃隆·马斯克 (Elon Musk) X 的鼓舞阻止其 Grok AI 工具在英国创建真实人物的性感图像在上个月公愤之后，部长们正在计划“打击人工智能创建的邪恶非法内容”。

随着越来越多的孩子使用聊天机器人来完成从辅导作业到心理健康支持等各种用途，政府表示将“迅速采取行动堵住法律漏洞，并迫使所有人工智能聊天机器人提供商遵守《在线安全法》中的非法内容义务，否则将面临违法后果”。

斯塔默还计划加快对儿童使用社交媒体的新限制，如果议员们在就可能的 16 岁以下禁令进行公众咨询后同意的话。这意味着对儿童使用社交媒体的任何改变，其中可能包括限制无限滚动等其他措施，最快可能会在今年夏天发生。

但鉴于磋商尚未开始，保守党驳斥了政府关于迅速采取行动的说法，认为这是“更多的烟雾和镜子”。

“当他们所谓的紧急咨询根本不存在时，声称他们正在采取‘立即行动’根本不可信，”影子教育部长劳拉·特洛特(Laura Trott)表示。– 工党多次表示，他们对于是否应阻止 16 岁以下青少年访问社交媒体没有看法。这还不够好。我很清楚，我们应该阻止 16 岁以下青少年访问这些平台。”

在此之前，在线监管机构 Ofcom 承认它没有权力对 Grok 采取行动，因为聊天机器人在没有搜索互联网的情况下创建的图像和视频不属于现行法律的范围，除非它构成色情内容。尽管该漏洞已为人所知两年多了，但将人工智能聊天机器人纳入《在线安全法》的修改可能会在几周内发生。

“技术发展得非常快，法律也必须跟上，”斯塔默说。– 我们对 Grok 采取的行动发出了一个明确的信息：没有平台能获得免费通行证。今天，我们正在堵住使儿童面临危险的漏洞，并为采取进一步行动奠定基础。”

违反《在线安全法》的公司可能面临高达全球收入 10% 的处罚，监管机构可以向法院申请阻止其在英国的连接。

如果人工智能聊天机器人专门用作搜索引擎、制作色情内容或在用户对用户的环境中操作，则它们已经受到该法案的保护。但它们可以用来制作鼓励人们自残或自杀的材料，甚至制作儿童性虐待材料，而不会面临制裁。这就是政府表示想要堵住的漏洞。

NSPCC 首席执行官克里斯·舍伍德 (Chris Sherwood) 表示，年轻人正在联系其帮助热线，报告人工智能聊天机器人造成的危害，他不相信科技公司能够安全地设计它们。

在一个案例中，一名 14 岁女孩与人工智能聊天机器人谈论她的饮食习惯和身体畸形，但得到的信息不准确。在其他人身上，他们看到“年轻人有自残行为，甚至向他们提供了更多自残行为的内容”。

“社交媒体为年轻人带来了巨大的好处，但也带来了很多危害，”舍伍德说。“如果我们不小心的话，人工智能将会变得更加强大。”

我们联系 OpenAI 寻求置评。OpenAI 是一家价值 5000 亿美元的旧金山初创公司，其开发的 ChatGPT 是英国最受欢迎的聊天机器人之一，而 xAI 是 Grok 的制造商。

加利福尼亚州 16 岁的 Adam Raine 自杀后，他的家人声称，在“ChatGPT 几个月的鼓励”下，OpenAI 启动了家长控制，并正在推出年龄预测技术，以限制对潜在有害内容的访问。

政府还将就强制社交媒体平台禁止用户发送和接收儿童裸照进行磋商——这种做法已经是非法的。

技术部长利兹·肯德尔 (Liz Kendall) 表示：“我们不会等待采取家庭需要的行动，因此我们将收紧对人工智能聊天机器人的规则，我们正在奠定基础，以便我们能够根据针对年轻人和社交媒体的咨询结果采取行动。”

莫莉·罗斯基金会 (Molly Rose Foundation) 是由 14 岁莫莉·拉塞尔 (Molly Russell) 的父亲创立的，莫莉·拉塞尔 (Molly Russell) 在网上浏览有害内容后自杀，该基金会称这些举措是“值得欢迎的首付”。但它呼吁首相致力于一项新的在线安全法案，该法案加强监管并明确产品安全和儿童福祉是在英国开展业务的成本。