聊天机器人现在会见你:如何训练人工智能来发现任何语言的心理健康问题
作者:Kat Lay
当病人打电话给坎帕拉的布塔比卡医院时,乌干达,寻求心理健康问题的帮助,他们自己通过帮助创建治疗聊天机器人来帮助未来的患者。
拨打诊所求助热线的电话被用来训练人工智能算法,研究人员希望该算法最终能为聊天机器人提供支持,以非洲当地语言提供治疗。
十分之一的人非洲正在与心理健康问题作斗争,但非洲大陆面临着严重的心理健康问题精神卫生工作者短缺,而耻辱感是许多地方护理的巨大障碍。专家认为,人工智能可以帮助解决资源稀缺的这些问题。

Joyce Nakatumba-Nabende 教授是马凯雷雷大学马凯雷雷人工智能实验室的科学负责人。她的团队正在与邻国坦桑尼亚多多马的布塔比卡医院和米伦贝医院合作。
一些来电者只需要有关营业时间或工作人员空闲时间的事实信息,但其他人则谈论有自杀倾向或透露有关他们精神状态的其他危险信号。
“有人可能不会说“自杀”这个词,或者他们不会说“抑郁”这个词,因为其中一些词甚至在我们的当地语言中都不存在,”Nakatumba-Nabende 说。
从通话录音中删除患者身份信息后,Nakatumba-Nabende 的团队使用人工智能对其进行梳理,并确定人们如何用斯瓦希里语或卢干达语(或乌干达数十种语言中的另一种语言)描述特定的精神健康疾病,例如抑郁症或精神病。
Nakatumba-Nabende 说,随着时间的推移,录音通话可以通过人工智能模型运行,该模型将确定“根据这次对话和关键词,也许有抑郁倾向,有自杀倾向,[因此]我们可以升级通话或回电给患者进行跟进”。
她说,当前的聊天机器人往往不了解如何提供护理的背景或乌干达提供什么服务,并且仅提供英语版本。最终目标是“为患者提供心理健康护理和服务”,并尽早确定人们何时需要精神科医生提供的更专业的护理。
Nakatumba-Nabende 说,这项服务甚至可以通过短信为没有智能手机或互联网接入的人提供。
她说,聊天机器人的优点很多。– 当您实现自动化时,速度会更快。你可以轻松地为人们提供更多服务,而且比培训某人获得医学学位,然后专攻精神病学,然后进行实习和培训,你可以更快地获得结果。”

规模和范围也很重要:人工智能工具可以随时轻松访问。纳卡通巴-纳本德说,由于耻辱,人们不愿意被人看到去诊所寻求心理健康护理。数字干预绕过了这一点。
她希望该项目将意味着现有的劳动力能够“为更多人提供护理”并“减轻该国精神健康疾病的负担”。
威康信托基金 (Wellcome Trust) 的心理健康主任米兰达·沃尔珀特 (Miranda Wolpert) 表示,技术为诊断带来了希望。该信托基金正在资助各种研究人工智能在全球范围内促进心理健康的项目。“目前,我们实际上非常依赖人们填写纸笔问卷,人工智能可能可以帮助我们更有效地思考如何识别陷入困境的人,”她说。
沃尔珀特说,技术辅助的治疗可能看起来也与谈话疗法或药物治疗等传统心理健康选择非常不同,他引用了瑞典关于玩俄罗斯方块如何发挥作用的研究。缓解 PTSD 症状。
然而,监管机构仍在努力解决在医疗保健领域更多地使用人工智能的影响。例如,南非健康产品监管局 (SAHPRA) 和健康非政府组织 Path 正在利用 Wellcome 的资金来制定监管框架。
Path 首席人工智能官 Bilal Mateen 表示,各国制定自己的法规非常重要。“这件事在祖鲁语中运作良好吗?”这是南非关心的一个问题,但我认为 FDA(美国食品和药物管理局)从未考虑过这个问题,“他说。
SAHPRA 首席运营官 Christelna Reynecke 希望心理健康人工智能算法的用户能够像服用药物的人一样得到保证,药物已经过检查并且是安全的。“它不会开始产生幻觉,给你带来奇怪的结果,造成弊大于利,”她说。

背景是与聊天机器人的使用相关的自杀幽灵,以及人工智能的案例似乎加剧了精神病。
Reynecke 希望开发一种先进的监控系统,能够实时识别生成式人工智能工具的“有风险”输出。“这不可能是“事件发生后”的事情,事件发生后你可能已经将其他患者置于危险之中,因为你的干预速度不够快,”她说。
英国监管机构药品和保健品监管局 (MHRA)类似的举措并正在与科技公司合作,了解如何最好地监管医疗设备中的人工智能。
马丁表示,监管机构需要决定哪些风险需要重点监控。有时,好处会超过潜在的危害,因为“我们有动力将其交到人们手中,因为这会对他们有所帮助”。

虽然围绕人工智能的大部分对话都围绕着聊天机器人,例如Google Gemini 和 ChatGPT马丁建议,“人工智能和生成式人工智能……可以用来做很多事情”,例如用它来培训同伴辅导员提供更高质量的护理,或者更快地为人们找到最好的治疗方法。—
全世界有十亿人今天我们正在经历心理健康问题,”他说。– 撒哈拉以南非洲地区不仅存在劳动力缺口,而且存在劳动力缺口。我们到处都存在劳动力缺口——与英国的某人交谈,了解他们需要等待多长时间才能获得谈话疗法。
“如果我们能够更好地获得安全有效的技术,则可以更有效地满足各地未满足的需求。”