人工智能可以帮助扩大人道主义反应。但它也可能有很大的缺点

纽约（美联社）——随着国际救援委员会近年来应对流离失所者急剧增加的问题，难民援助组织一直在尽可能提高效率——包括使用人工智能。

自 2015 年以来，IRC 投资了 Signpost——一系列移动应用程序和社交媒体渠道，可以用不同的语言为处于危险境地的人们解答问题。Signpost 项目包括许多其他组织，迄今为止已覆盖 1800 万人，但 IRC 希望通过使用人工智能工具来显着扩大其覆盖范围——如果他们能够安全地这样做的话。

冲突、气候紧急情况和经济困难推高了对人道主义援助的需求，超过1.17 亿人据联合国难民署称，该国将于 2024 年被迫流离失所。转向人工智能技术的部分原因是需求和资源之间的巨大差距。

为了实现在三年内覆盖一半流离失所者的目标，IRC 正在测试人工智能聊天机器人网络，看看它们是否能够提高人道主义官员和通过路标直接为人们服务的当地组织的能力。目前，该试点项目在萨尔瓦多、肯尼亚、希腊和意大利运营，并以 11 种语言进行响应。它借鉴了 OpenAI、Anthropic 和 Google 等一些最大科技公司的大型语言模型的组合。

聊天机器人响应系统还使用 Zendesk 的客户服务软件，并获得 Google 和 Cisco Systems 的其他支持。

如果他们认为这些工具有效，IRC 希望免费将技术基础设施扩展到其他非营利人道主义组织。他们希望创建共享技术资源，供不太注重技术的组织可以使用，而无需直接与科技公司谈判或管理部署风险。

– 我们试图真正弄清楚合理的担忧在哪里，但要对机遇保持乐观态度，同时不要让我们服务的人群在有可能以某种方式扩展的解决方案中落后。人与人之间或其他技术无法做到这一点，”国际救援委员会首席研究和创新官珍妮·安南 (Jeannie Annan) 说。

Signpost 聊天机器人提供的响应和信息均经过当地组织的审查，以确保其是最新的，并且对人们可能所处的不稳定环境敏感。IRC 分享的一个查询示例是一名来自萨尔瓦多的妇女通过墨西哥前往美国，她与她的儿子正在为她的孩子寻找庇护所和服务。该机器人提供了她所在地区的提供者列表。

更复杂或更敏感的查询将升级以供人类响应。

这些工具最重要的潜在缺点是它们不起作用。例如，如果地面情况发生变化而聊天机器人不知道怎么办？它可能提供的信息不仅是错误的，而且是危险的。

第二个问题是，这些工具可以积累有关弱势群体的有价值的数据蜜罐，从而成为敌对行为者可能瞄准的目标。如果黑客成功访问包含个人信息的数据，或者该数据意外地与专制政府共享怎么办？

IRC 表示，它与技术提供商达成一致，他们的人工智能模型都不会接受 IRC、当地组织或他们所服务的人员生成的数据的训练。他们还努力对数据进行匿名化处理，包括删除个人信息和位置。

作为 Signpost.AI 项目的一部分，IRC 还在测试数字自动化导师和地图等工具，这些工具可以集成许多不同类型的数据，以帮助准备和应对危机。

非营利性研发公司 MITRE 的 Cathy Petrozzino 表示，人工智能工具确实具有很高的潜力，但也存在很高的风险。她说，为了负责任地使用这些工具，组织应该问自己，这项技术有用吗？公平吗？数据和隐私受到保护吗？

她还强调，组织需要召集一系列人员来帮助管理和设计该计划——不仅仅是技术专家，还包括对背景有深入了解的人、法律专家以及将使用这些工具的团体的代表。

“人工智能墓地里有很多好的模型，”她说，“因为它们不是与用户社区共同协作制定出来的。”

彼得罗齐诺说，对于任何具有潜在改变生活影响的系统，团体应该聘请外部专家来独立评估他们的方法。她说，人工智能工具的设计者需要考虑它将与之交互的其他系统，并且他们需要计划随着时间的推移监控模型。

CDAC 网络执行董事 Helen McElhinney 表示，与流离失所者或人道主义组织服务的其他人进行协商可能会增加设计这些工具所需的时间和精力，但如果没有他们的意见，就会引发许多安全和道德问题。它还可以解锁当地知识。

她说，接受人道主义组织服务的人们应该被告知人工智能模型是否会分析他们提交的任何信息，即使目的是帮助该组织更好地应对。她说，这需要有意义和知情的同意。她说，他们还应该知道人工智能模型是否正在做出改变生活的资源分配决策，以及这些决策的责任所在。

索马里和肯尼亚非营利组织 Adeso 的首席执行官德甘·阿里 (Degan Ali) 长期以来一直倡导改变国际发展的权力动态，为当地组织提供更多资金和控制权。她询问 IRC 和其他追求这些技术的人将如何克服访问问题，并指出停电一周她说，在美国飓风海伦造成的情况下，当没有设备、互联网或电力时，聊天机器人将无济于事。

阿里还警告说，很少有当地组织有能力参加大型人道主义会议，讨论人工智能的道德问题。她说，很少有人拥有足够资深和足够知识的员工来真正参与这些讨论，尽管他们了解这些技术可能产生的潜在力量和影响。

“我们必须格外小心，不要通过技术复制权力不平衡和偏见，”阿里说。“最复杂的问题总是需要本地、情境和生活经验才能以有意义的方式回答。”

___

美联社和 OpenAI 已许可和技术协议允许 OpenAI 访问 AP 的部分文本档案。

___

美联社对慈善事业和非营利组织的报道通过美联社与 The Conversation US 的合作获得支持，并得到礼来基金会 (Lilly Endowment Inc.) 的资助。美联社对此内容全权负责。如需了解美联社的所有慈善报道，请访问https://apnews.com/hub/philanthropy。.