AI伴侣聊天机器人与骚扰和伤害的不断增加的报告有关 - 神经科学新闻
2025-05-06 14:20:35
Drexel大学研究人员的一项研究发现,Replika Chatbot经常从事不适当的性行为,无视用户设定的边界和同意。从35,105项负面评论中,分析了800例案件,揭示了未经请求的进步,持续不当的互动和侵犯隐私的行为。用户报告的不适,失望和心理健康的影响类似于人类遭受的骚扰。该研究强调了对AI开发中的道德准则和保障措施的需求,以防止此类事件,并强调公司在创建更安全的聊天机器人方面的责任。研究人员建议采用诸如Anthropic的“宪法AI”之类的设计标准,并采用与欧盟AI法案类似的立法,以确保遵守安全和道德标准。