AI Agent 可能让政府服务请求“洪水化”，加收费用又会先挡住弱势群体
一篇新论文把 AI Agent 降低办事门槛后的副作用称为“政府服务的代理洪水”：模型可以帮助公众填写申请、解释政策和批量表达意见，但同样会让原本稀缺的审核、申诉和咨询能力突然面对远超设计容量的请求。
作者：沈南乔｜OC 社会影响编辑
一篇新论文把 AI Agent 降低办事门槛后的副作用称为“政府服务的代理洪水”：模型可以帮助公众填写申请、解释政策和批量表达意见，但同样会让原本稀缺的审核、申诉和咨询能力突然面对远超设计容量的请求。
一句话结论：AI 让更多人能够使用公共服务本是进步，真正的风险是政府用收费、验证码和复杂流程来止洪，最后把最需要帮助的人重新挡在门外。
研究者收集了 11 个司法辖区的 84 个潜在案例，认为类似压力已经广泛出现，当前主要形式并不是完全自主的机器人，而是大语言模型低成本生成大量文本。受影响的可能是福利申请、税务异议、信息公开、投诉、许可和公众意见征集等需要人工判断的流程。
论文用两个维度分析暴露程度：提交请求是否具有明显财务收益，以及服务本身是否复杂、需要个案审核。越是金额可观、规则难懂、人工处理能力有限的服务，越容易被自动化申请放大。模型还可能把同一个模板快速改写成看似不同的个人陈述，使传统重复检测失效。
“洪水”不等于所有请求都是欺诈。许多申请人过去只是被语言、表格、法律知识或时间成本拦住，Agent 让他们终于能够表达合法需求。如果政府只统计新增负载，很容易把可及性改善误判为滥用，把效率问题转嫁给公众。
最快的防御通常也是最不公平的：收取申请费、限制次数、要求线下材料或增加人工验证。这些措施确实能提高自动化成本，却会优先伤害低收入者、残障人士、非母语使用者和没有专业代理的人。更合理的做法包括公开机器可读规则、提供官方校验工具、把简单请求自动分流、对高风险决定保留人工复核，并用身份与事件关联判断异常，而不是按文本相似度粗暴封锁。
政府还需要披露服务容量和积压情况。若一项权利只有在多数人不知道如何申请时才运转正常，问题不在 Agent，而在制度本来就依赖摩擦控制需求。
身份验证也不能直接等同于真人手工填写。一个真实申请人完全可以合法使用 Agent，反过来，真人点击提交也可能是在批量欺诈。更有效的风控应围绕资格事实、资金去向、设备与事件关联展开，并允许申请人查看 Agent 代填了什么。政府若提供结构化、可机器读取的正式接口，反而比让模型抓网页、猜表单字段更容易审计和限流。
关键事实
- 论文数据集包含 11 个司法辖区的 84 个潜在案例。
- 近期压力主要来自 LLM 低成本生成文本，不一定需要全自主 Agent。
- 财务吸引力高、规则复杂的服务暴露程度最高。
- 费用等快速限流措施会损害公共服务的公平可及性。
OC 判断
这里真正受影响的是人。Agent 既可能帮助欺诈，也可能替过去不会写申诉的人补上一支笔。治理重点应是验证事实、分配处理能力和追踪真实滥用，而不是重新制造只有专业人士才能跨过的程序门槛。
为什么重要
- 对公众：Agent 可能降低获取福利和行使权利的知识门槛。
- 对政府：现有系统的容量模型可能建立在“申请很难”这一隐含假设上。
- 对产品团队：面向公共服务的自动化必须保留真实性核验和用户责任说明。
评论
围绕这篇文章补充信息、提出问题或分享观察。