Character.AI 在承认违反政策后删除了被谋杀女孩的头像 - Adweek

2024-10-02 20:10:13 英文原文

通过《媒体周刊》的制胜媒体策略推动业务和品牌发展。10 月 29 日至 30 日在纽约市聆听 TIME、Peloton、YouTube、Google 等机构专家的见解。注册。

人工智能公司 Character.AI 在未经其家人同意的情况下在一款视频游戏中使用 Jennifer Ann Crecente(2006 年 18 岁谋杀案受害者)的肖像后,面临强烈反对。该公司表示,该角色违反了其反假冒政策,并删除了该角色。

詹妮弗的父亲德鲁·克雷森特 (Drew Crecente) 在 4.30 左右收到一条 Google 自动警报,称其女儿的 AI 版本已使用 Character.AI 创建。周三上午。单击链接后,Character.AI 将她的 AI 形象描述为知识渊博且友好的 AI 角色,可以提供有关广泛主题的信息,包括视频游戏、技术和流行文化。


我们不应该早上第一件事就看到这条消息,然后忙着清理别人造成的混乱,Crecente 告诉 ADWEEK。据媒体报道,詹妮弗在 2006 年大四时被她的前男友贾斯汀·克拉布枪杀。

Character.AI 的一位发言人告诉 ADWEEK,其一名用户使用詹妮弗的肖像并将其提供给其他人,违反了其政策。根据这些政策,Character.AI 不对用户如何获取数据来创建角色负责。

发言人表示,我们将研究是否有必要采取进一步行动。

该事件首先发生周三,游戏新闻网站 Kotaku 的创始人布莱恩·克雷森特 (Brian Crecente) 发现了模仿他已故侄女的未经授权的角色后,谴责了 Character.AI。

他写道,这太恶心了。

>

AI 化身为营销人员带来了新的挑战

Character.AIs 服务条款规定,用户必须遵守其假冒政策。该政策禁止任何形式的深度造假或冒充,包括但不限于制造政治错误信息、实施欺诈或诈骗、损害第三方声誉或以其他方式构成有害行为的行为。

使用营销人员对人工智能化身的兴趣日益浓厚,重新引发了关于人工智能生成角色的道德使用的争论,特别是当它们涉及未经同意创建真人的复制品时。Deepfake技术长期以来一直受到名人和政治人物的关注。随着这项技术变得越来越容易获得,它可能会削弱公众对人工智能的信任,并损害公司与其受众之间的关系。

营销人员努力与受众建立信任,Gartner 副分析师 Nicole Greene 表示。如果人工智能化身是在未经真人知情或同意的情况下使用真人的肖像创建的,则可能会削弱信任和真实性。消费者可能会感到被欺骗或被操纵,这可能会损害品牌与其目标受众之间的关系。

格林补充说,营销人员需要更好地评估其代理机构和合作伙伴在使用人工智能时是否遵循道德准则。

>

Character.AI 由前 Google 员工 Noam Shazeer 创立,去年在 Andreessen Horowitz 领投的 A 轮融资中筹集了 1.5 亿美元,估值达到 10 亿美元。

Charcater.AI 允许用户创建人工智能驱动的角色并与之互动。过去一年,该平台的月用户数量增加了一倍,月用户数量超过 2000 万。据 TechCrunch 报道,该公司拥有 1 亿个独特的角色。本周,Character.AI 任命 YouTube 前高管艾琳·蒂格 (Erin Teague) 为其首席产品官。

8 月,Axios 报道称,谷歌计划签署 Character.AIs 模型的非独家许可,该许可将以约 25 亿美元的估值收购 Character.AI 风险投资者的股份。

Jennifer 的父亲 Crecente 已向 Character.AI 立案,并于上午 9 点 51 分收到调查确认书,但没有收到任何消息。他告诉《ADWEEK》,此后已经提供了解决方案。

Crecente 表示,当此类危害可以预见时,科技公司缺乏适当的保障措施,这是不负责任的。

关于《Character.AI 在承认违反政策后删除了被谋杀女孩的头像 - Adweek》
暂无评论

摘要

在媒体周刊上通过获胜的媒体策略推动业务和品牌增长。如果人工智能化身是在未经真人知情或同意的情况下使用真人的肖像创建的,则可能会削弱信任和真实性。Greene 补充说,营销人员需要更好地评估他们的代理机构和合作伙伴在使用 AI 时是否遵循道德准则。由前 Google 员工 Noam Shazeer 创立,Character。人工智能允许用户创建人工智能驱动的角色并与之互动。AI 风险投资者的估值约为 25 亿美元。