退伍军人管理局希望使用人工智能来审查退伍军人福利。可能会出现什么问题?
作者:Michael Embrich
特朗普政府正在尽一切努力限制对服役人员的护理
该部门退伍军人事务部上个月搬去改变它如何评估残疾评级,宣布了一项新规则,允许在确定残疾退伍军人可以获得什么样的福利时考虑药物的影响。
反应立即而激烈。退伍军人、倡导者和主要服务组织清楚地了解其中的利害关系。伤残补偿并不是对无法工作的奖励。这不是失业保险。人们认识到服兵役造成了持久的伤害。如果退伍军人服用有助于控制症状的药物,这并不能消除潜在的伤害。如果退伍军人在疼痛、创伤或身体限制的情况下设法继续工作,这并不是减少工资的借口。
在强烈反对之下,退伍军人管理局放弃了这一规定。但现在,在保守派宣言声称“在没有充分规划的情况下将残疾福利扩大到大量人口已经导致退伍军人对退伍军人管理局企业的信任受到侵蚀之后,他们有了一个关于如何响应“2025计划”限制福利的呼吁的新计划。”
新计划是人工智能,VA想要用来扫描欺诈行为。特朗普以欺诈为理由摧毁退伍军人事务部,但该部门的欺诈率不到百分之一。大型语言模型 (LLM) 对大型政府组织很有帮助 - 我知道,我写了 VA 用来帮助建立他们的白皮书人工智能政策——但它们不利于发现欺诈等事情。部分原因是法学硕士与人类不同,在没有发现任何欺诈行为时不会退出。他们甚至可以编造欺诈行为,开发商称之为欺诈行为法学硕士的幻觉。
在一个实际欺诈极其罕见的系统中放开法学硕士的问题是不言而喻的。
VA 的计划是使用残疾福利问卷 (DBQ) 来识别所谓的欺诈迹象。这些调查问卷是伤残索赔流程的重要组成部分。它们通常由私人医疗服务提供者完成,并由退伍军人管理局用来确定与服务相关的病情的严重程度以及退伍军人获得的补偿。根据新计划,退伍军人管理局将使用人工智能来审查大量此类表格,并标记可疑的提交内容。这可能包括缺少字段、重复语言、更改文档的表格,或者提供者距离退伍军人超过 100 英里的表格。
编辑精选
从纸面上看,这听起来可能很合理。没有人支持欺诈。退伍军人不希望骗子堵塞系统、利用公众或破坏对合法主张的信任。如果存在伪造表格的工厂或不道德的供应商夸大条件的情况,应该对其进行调查并关闭。但这并不是故事的结局。因为一旦退伍军人管理局赋予机器将索赔标记为可疑的权力,负担几乎总是会转移回退伍军人身上——这才是真正危险开始的地方。
由算法标记的索赔并不能证明欺诈。退伍军人可能会在远离家乡的地方看医生,因为专家有限,因为远程医疗已经扩大,或者因为他们在治疗过程中搬家。不同形式的相似语言可能反映的是标准医学术语,而不是欺骗。信息缺失可能是笔误。文件可能因与不诚实无关的原因而不完整。但是,一旦系统将 DBQ 标记为潜在问题,退伍军人就不再只是简单地提出索赔。他们正在为自己辩护,以应对无形的指控。毕竟,人工智能模型对退伍军人一无所知,它只是一个法学硕士被告知寻找欺诈行为。
这将意味着新的考试、新的延误、新的审查以及官僚机构让人们疲惫不堪的新机会。这创造了一种恐惧文化。退伍军人会放弃。这是设计使然。
相关内容
这里更大的模式是不容忽视的。
首先,DOGE 进来了,解雇了数万名退伍军人来自联邦服务部门。随后,VA尝试了多种方案福利制度的变化通过立法。当国会议员不愿意利用政治资本来欺骗退伍军人时,特朗普喊道“欺诈”在 VA 系统中,该系统实际上并不存在。随后,退伍军人事务部寻求修改规则,通过重新定义评估条件的方式,使降低残疾评级变得更加容易。当失败后,话题转向欺诈检测、自动化和人工智能。
热门故事
语言发生了变化,但实际结果是相同的:获得补偿的退伍军人越来越少,更多的权力集中在一个系统中,这个系统常常将退伍军人视为需要推入私人市场的问题,而不是需要服务的人,即毕生致力于保卫美国的人。
退伍军人通过服役、受伤、牺牲以及在很多情况下永远不会完全消失的永久性伤害来获得福利。如果特朗普和共和党不想照顾退伍军人,他们就需要停止创造了这么多. . .