纽约～
ChatGPT 和 Meta AI 等流行的人工智能聊天机器人允许浪漫的、有时是性的对话，从而越来越模糊现实世界和数字关系之间的界限——而扰乱确保儿童不会访问成人内容。
但微软人工智能首席执行官穆斯塔法·苏莱曼 (Mustafa Suleyman) 告诉 CNN，微软不想参与其中。
“我们正在创造的人工智能具有高情商、友善和支持性，但从根本上来说是值得信赖的，”苏莱曼说。“我想创造一个你信任你的孩子会使用的人工智能，这意味着它需要有边界且安全。”
微软正与 OpenAI、Meta 和谷歌等科技巨头展开一场竞赛，力图让 Copilot 成为硅谷认为将掀起下一次计算浪潮的首选人工智能工具。该公司在最近的财报电话会议中表示，Copilot 目前在微软平台上拥有 1 亿月活跃用户。这远低于 OpenAI 等竞争对手，后者ChatGPT 拥有 8 亿每月活跃用户。
但微软相信其方法将赢得更广泛的受众，特别是在人工智能公司在人工智能报道中努力解决如何塑造其聊天机器人的个性之际加剧用户的心理健康危机。
– 我们必须为人们构建人工智能；不要成为一个数字人，”Suleyman 在今年早些时候的一篇博客文章中写道。
这次采访是在一系列的采访之前进行的新副驾驶功能微软周四公布了这一功能，其中包括回顾以前的聊天记录、参与群组对话、改进对健康问题的回答以及一种可选的、时髦的语气，称为“真实谈话”。
微软的一些人工智能竞争对手正面临着确保年轻用户在其平台上安全的巨大压力。
家属已提起诉讼开放人工智能和角色.AI声称他们的聊天机器人伤害了他们的孩子，在某些情况下据称导致了他们的自杀。一串报告今年早些时候，人们担心 Meta 的聊天机器人和其他人工智能角色会参与性对话，即使账户被识别为未成年人。
流行人工智能聊天机器人背后的科技公司表示，他们已经为儿童推出了新的保护措施，包括内容限制和家长控制。Meta 和 OpenAI 还在实施人工智能年龄估计技术，旨在抓住那些使用虚假成人出生日期注册的年轻用户，但目前尚不清楚这些系统的工作效果如何。OpenAI 首席执行官山姆·奥尔特曼宣布本月早些时候，随着新的安全预防措施到位，ChatGPT 很快将允许成年用户与聊天机器人讨论“色情内容”。
苏莱曼表示，微软正在对浪漫、调情和色情内容划清界限，即使是针对成年人的内容。“这不是我们追求的目标，”他说。
苏莱曼说，这意味着，微软目前不太可能像一些竞争对手那样推出“年轻用户”模式，因为他们不应该需要它。
微软的一个重点是培训 Copilot，鼓励用户与其他人互动，而不仅仅是与人工智能互动。这对于一家以提供以工作为导向的生产力工具为基础开展业务的公司来说至关重要。
其新的“群组”功能最多可让 32 人（例如正在做作业的同学或计划旅行的朋友）加入与 Copilot 的共享聊天，聊天机器人可以在其中提出建议。
将用户引向真实人物的主题也适用于 Copilot 的健康更新。该聊天机器人会推荐附近的医生来解答某些与医疗相关的问题，并会利用“医学上值得信赖”的来源，例如哈佛健康中心。
Suleyman 表示，他认为微软人工智能聊天机器人旨在帮助加强人与人之间的关系，这对于目前行业中正在发生的其他事情来说是一个非常重大的基调转变，这些事情开始将这些事情视为深度模拟，你可以进入自己的世界并拥有一个完整的平行现实，在某些情况下还包括成人内容。