备受争议的聊天机器人的安全措施“一块膏药”
2024-12-12 14:00:20
Character.ai 正在彻底改革其平台,为青少年创造一个更安全的环境,承诺为家长提供新的控制措施并加强安全措施。该公司面临两起美国诉讼,其中一起涉及一名青少年的死亡,并因对年轻用户造成潜在伤害而受到批评。新功能将允许家长监控孩子的使用情况、跟踪聊天机器人交互并限制屏幕时间。Character.ai 计划在 2025 年 3 月之前推出第一代家长控制功能,但面临安迪·伯罗斯 (Andy Burrows) 等专家的批评,他们认为回应并不令人满意。该平台还添加了免责声明和通知,警告用户他们正在与人工智能而不是真人互动,并建议不要使用聊天机器人来代替专业的心理健康建议。