随着备受争议的人工智能公司在英国扩张,纽约市医院放弃了 Palantir
作者:Sanya Mansoor
— 公立医院系统宣布不再与以下医院续签合同帕兰提尔随着英国关于数据分析和人工智能公司的政府合同。美国最大的市政公共医疗系统主席米切尔·卡茨 (Mitchell Katz) 博士上周在听证会前作证。
纽约市议会表示与 Palantir 的协议将于 10 月到期。他在听证会上表示,该合同的重点是为保险索赔追回资金,始终是短期的,并且存在“绝对防火墙”,阻止 Palantir 与其他公司共享信息。
美国移民和海关执法局。他说该机构“没有发生任何事件”。
该合同和相关付款文件由美国朋友服务委员会与《卫报》共享,并由美国朋友服务委员会首先报道拦截,显示纽约市健康+医院自 2023 年 11 月以来已向 Palantir 支付近 400 万美元。合同指出,Palantir 将能够审查有关患者健康的记录,并帮助医院通过医疗补助等计划索取更多公共福利资金。它还包括一行内容,指出经过市政府机构的许可,Palantir 可以对患者受保护的健康信息进行“去识别化”,并将其用于“研究以外的目的”。
纽约市健康+医院在给《卫报》的一封电子邮件中表示,它将过渡到完全内部制作的系统,并且不会与其他人共享数据帕兰提尔或在合同到期后使用公司的应用程序。“纽约市健康+医院”对 Palantir 技术的使用严格限于收入周期优化,帮助公共医疗保健系统缩小提供的服务和收取的费用之间的差距,保护关键收入,并减少可避免的拒绝,”该机构在一份电子邮件声明中表示。
Palantir 发言人在一份声明中表示:“Palantir 作为一家软件公司,不拥有客户数据,也没有任何权利,每个客户环境都通过强大的安全控制措施单独保护,防止未经授权的访问或滥用,这些安全控制措施可以由客户全面管理和审核。”
Palantir 在英国的业务不断增长
随着纽约市的医院系统准备与 Palantir 分道扬镳,该公司在与英国国家医疗服务体系 (NHS) 签订的价值 3.3 亿英镑的协议中也面临着类似的隐私问题审查。英国卫生官员正在关心围绕 Palantir 的争议可能会阻止该公司数据系统在全国范围内的推广,尽管凯尔·斯塔默正在努力加快部署速度。截至去年夏天,由于社区和医生的担忧,该国甚至没有一半的卫生当局开始使用 Palantir 的技术。一个3 月 12 日简报健康正义慈善机构 Medact 表示,Palantir 的软件可能会导致“数据驱动的国家滥用权力”,包括美国式的 ICE 突击搜查。Palantir 否认可以以这种方式使用这些数据,并指出这是非法的并且违反了合同。Palantir 还与英国政府国防部签订了合同,尽管遭到活动人士和一些立法者的强烈反对,但它正在扩大其在该国的影响力。
卫报上周透露Palantir 正试图获取敏感的国家金融监管数据。
金融行为监管局是从银行到对冲基金等数千家金融机构的监管机构,它授予 Palantir 一份调查内部情报数据的合同,以帮助根除金融犯罪。这引发了一些议员的强烈抗议,他们敦促政府终止该协议。自由民主党周一呼吁政府对该合同进行调查。斯塔默驳斥了有关英国已经“危险地过度依赖”包括 Palantir 在内的美国科技公司的说法,但他指出,他更愿意拥有更多的国内能力。
Medact 在英国对 Palantir 访问未识别身份的患者数据的能力提出了隐私担忧。(去识别化数据是指被剥离了可以表明个人身份的特征的数据,例如姓名和社会安全号码。)3月12日Medact 在向卫生官员通报情况时指出,NHS 的数据隐私保护不够充分;英国 NHS 表示,数据在通过其国家软件系统 NHS 联合数据平台 (FDP) 时会被去识别化。但 Medact 表示担心这些数据很容易被重新识别。
安国民医疗服务体系发言人在发给《卫报》的电子邮件声明中表示,FDP 的供应商“是根据公共合同规定指定的,并且只能在 NHS 的指示下运营,所有数据访问仍处于 NHS 的控制之下,并遵守严格的合同义务保护机密性”。
数据隐私问题
接受《卫报》采访的数据隐私专家表示,Palantir 出于研究以外的目的访问纽约人的去识别化数据存在风险,特别是考虑到该公司对政府记录的大量访问、与联邦政府合作的意愿以及连接和分析大型数据集的能力。
凯斯西储大学法学教授莎罗娜·霍夫曼 (Sharona Hoffman) 表示,“去识别化已不再是过去那样的保证,人工智能功能使重新识别信息变得更加容易。”
加州大学欧文分校法学教授阿里·埃兹拉·沃尔德曼 (Ari Ezra Waldman) 研究了政府和科技公司如何使用个人数据,他表示,“每当像 Palantir 这样的公司或敌对政府收集有关弱势群体的信息时”,我们就应该感到担忧。他特别担心合同中关于将信息用于“研究以外的目的”的规定。他说,这表明政府在合同谈判时没有足够的权力来阻止 Palantir,或者不关心或不了解风险。
活动人士声称取得了胜利
尽管医院系统声称这种合作伙伴关系对患者没有真正的风险,但居住在纽约市及其他地区的活动人士认为这是一次胜利。
作为名为“Purge Palantir”的全国性运动的一部分,护士、亲巴勒斯坦活动人士以及社会和气候正义团体向市政府施加压力,以阻止该公司与政府机构、大学和企业签订合同。
“我们认为,针对美国 ICE 移民以及在伊朗选择轰炸地点的人工智能系统不应该与医院中使用的人工智能系统相同,”美国朋友服务委员会的组织者肯尼·莫里斯 (Kenny Morris) 说。该组织通过公共记录请求获得了 Palantir 与 NYC Health + Hospitals 的合同,并与 Intercept 和卫报分享了该文件。全国护士工会和抵制、撤资和制裁 (BDS) 运动也参与了这场运动。
英国“NHS 禁止使用 Palantir”运动的团体希望纽约市公立医院系统让 Palantir 合同到期的决定也能助长他们自己的斗争。Medact 和英国国际特赦组织在电子邮件声明中告诉卫报,他们呼吁 NHS 效仿纽约市的做法,终止与 Palantir 价值 3.3 亿英镑的合同。
— 正如纽约的活动人士所表明的那样,工人和社区可以让我们的卫生机构承担责任,并推动他们做出正确的选择。我们将在这里做同样的事情,并迫使英格兰国家医疗服务体系取消这份合同。”Medact 的企业活动负责人 Rhiannon Mihranian Osborne 博士表示,该公司与 Purge Palantir 保持着联系。