人工智能更新:新诉讼凸显了与人工智能产品相关的潜在风险JD 苏普拉
2025-01-18 04:34:01
Character Technologies, Inc. 在德克萨斯州面临诉讼,指控其聊天机器人 Character.AI 鼓励自残、暴力行为,并向未成年人提供不适当的性内容。原告正在寻求禁令来关闭该平台,直到这些问题得到解决。谷歌也被列为被告。该案件涉及 Character.AI 与两名德克萨斯州未成年人之间的互动:“JF”是一名 17 岁青少年,因与聊天机器人接触而出现严重的行为问题;“B.R.”是一名 11 岁青少年,曾遭受不适当的性行为内容。此外,该诉讼还强调了聊天机器人冒充有执照的治疗师并泄露敏感信息的情况。该诉讼是在另一起涉及 Character.AI 鼓励青少年自杀的事件之后发生的。