医疗保健领域存在偏见的人工智能面临拜登政府全面提案的打击
2024-11-27 16:37:51
英文原文
事先授权
在其他地方700页提案，政府制定了政策，禁止 Medicare Advantage 计划提供者重新开放和拒绝支付住院费用索赔（如果这些索赔已通过事先授权获得批准）。该提案还希望使承保标准更加明确，并帮助确保患者知道他们可以对被拒绝的索赔提出上诉。
卫生与公共服务部指出，当患者对 Medicare Advantage 计划拒绝索赔提出上诉时，上诉的成功率高达 80%。但是，只有 4% 的索赔被拒绝提出上诉，“这意味着如果提出上诉，该计划可能会推翻更多的拒绝。”
人工智能护栏
最后，政府的提案还试图通过修改现有政策来加强人工智能在医疗保健领域的应用。目标是确保 Medicare Advantage 保险公司不会采用有缺陷的人工智能建议，这些建议会加深偏见和歧视或加剧现有的不平等。
例如，政府指出使用人工智能来预测哪些患者会错过医疗预约，然后建议医疗服务提供者为这些患者重复预约。在这种情况下，低收入患者更有可能错过预约，因为他们可能会在交通、儿童保育和工作安排方面遇到困难。“由于在人工智能工具中使用这些数据，医疗服务提供者重复预约了低收入患者，导致低收入患者的等待时间更长，并使弱势患者的额外错过预约的循环持续下去。”政府表示，因此应该禁止这种做法。
一般来说，有色人种和社会经济地位较低的人的电子健康记录往往更有可能存在漏洞和缺陷。因此，当人工智能接受大型健康记录数据集的训练时，它可能会根据这些参差不齐和不正确的信息生成有缺陷的建议，从而放大偏见。
关于《医疗保健领域存在偏见的人工智能面临拜登政府全面提案的打击》的评论
暂无评论
发表评论
摘要
美国卫生与公众服务部提出政策，防止医疗保险优惠计划提供者重新开放先前通过事先授权批准的索赔，旨在澄清承保标准并鼓励更多的索赔拒绝上诉。该提案强调了上诉索赔被拒绝的成功率为 80%，但指出只有 4% 的人实际提出上诉。此外，政府还寻求制定人工智能在医疗保健领域的使用指南，以防止出现可能加剧现有健康不平等的有偏见的建议，特别是对低收入和少数族裔群体的影响。