联合健康意外宣称人工智能公开供任何人使用
你是认真的？
人工智能声明
在余波中联合医疗保健首席执行官布莱恩·汤普森被谋杀，该公司的处方药中间商因巨大的人工智能问题而受到抨击。
作为 TechCrunch 报告，使用的聊天机器人联合健康集团的 Optum Rx帮助员工解决保险索赔和纠纷的药房福利管理器 (PBM) 意外被公开，并且任何知道其 IP 地址的人都可以轻松访问。
该人工智能被称为“SOP 聊天机器人”，显然是指它旨在回答的“标准操作程序”查询，它还显示了公司员工向其询问“如何检查保单续订日期？”等问题的日志。
这些日志还显示员工提出诸如“索赔的决定应该是什么？”之类的问题。– 听起来很像人工智能被用来评估覆盖范围。
然而，这个聊天机器人确实不是看起来是一样的索赔否认算法此前有报道称 Optum 的姊妹公司 UnitedHealthcare 使用该产品。虽然那个人工智能，nH Predict，是诉讼标的声称该公司在明知其高度不准确的情况下仍使用它，Optum 的 SOP 聊天机器人之前似乎并未为公众所知TechCrunch打破了这个故事。
漏水的船
网络安全公司 SpiderSilk 的联合创始人兼首席安全官、研究员 Mossab Hussein 表示TechCrunch侵犯隐私的情况。目前尚不清楚侯赛因是如何得知 SOP 聊天机器人的。
不久之后 TechCrunch联系 Optum 询问 SOP 聊天机器人，该机器人已被锁定，公众无法再访问。
在一封电子邮件中TechCrunchOptum 发言人表示，该聊天机器人只是“作为潜在概念证明而开发的演示工具”，并且“从未投入生产”。因此，没有真实的患者数据被插入其中，该公司声称在其培训中没有使用任何数据。
该发言人表示：“该演示的目的是测试该工具如何回答一小部分 SOP 文档样本中的问题。” TechCrunch。“这个工具不会也永远不会做出任何决定，而只会更好地访问现有的 SOP。”
“简而言之，”他们继续说道，“这项技术从未规模化或以任何实际方式使用过。”
尽管有这样的免责声明，但联合健康的处方管理子公司正在测试这种人工智能仍然很能说明问题——尤其是考虑到发生的事情及其其他索赔处理人工智能。
有关奥普图姆的更多信息： 国会提出分拆联合健康集团的法案
关于《联合健康意外宣称人工智能公开供任何人使用》的评论
暂无评论