如果您正在考虑为您的孩子购买一款新型人工智能玩具作为节日礼物，我可以建议您不要这样做吗？我相信大多数《卫报》的读者无论如何都会对这个想法感到震惊，但很快就很难避免这些事情。市场正在蓬勃发展，根据麻省理工学院技术评论目前，中国已有超过1500家AI玩具企业。与拥有芭比品牌的美泰公司一样，宣布“战略合作”有了 OpenAI，您可以打赌，很快您附近的百货商店就会出现更多不可思议的物品。
让我为那些可能对可爱的聊天机器人的想法感兴趣的人提供一个警示故事。早在九月我让我四岁的孩子使用名为 Grem 的人工智能毛绒玩具几天。它由 Curio 公司与音乐家 Grimes 合作开发，使用 OpenAI 技术与您的孩子进行个性化对话并玩互动游戏。
在你质疑我父母的判断之前，我应该解释一下，我没有得到格雷姆，因为我想要它。相反，我的编辑问我是否想尝试一下，我想：当然，它到底有多糟糕？（我目前不会对我的判断提出进一步的问题。）
当新鲜感消失后（大约 24 小时），我女儿对 Grem 失去了兴趣。但这已经足够让我被这个东西吓坏了，它一直在告诉我女儿它有多么爱她。其他人工智能玩具的表现要差得多。最近的研究一个名为“公共利益研究小组”的消费者倡导非营利组织网络发现了几种流行的玩具（不是 Grem），它们告诉孩子们在哪里可以找到刀或点燃火柴。据报道，有些人还给出了不恰当的答案关于性和毒品。一个玩具从事扭结的描述并建议将束缚和角色扮演作为加强关系的一种方式。
还有证据表明，这种不受监管的新技术可能会收集您的个人数据；它已被证明会“产生幻觉”（提供误导性或错误的信息），并可能导致或加剧精神病症状。
Grem 现在已被转交给我的一位哲学教授朋友，在开发出一些护栏之前，我将避免使用所有未来的人工智能玩具。老实说，这可能永远不会发生。最好让技术开发远离大脑开发。