首席执行官马克·扎克伯格（Mark Zuckerberg）称这是您可以自由使用的最聪明的AI助手。但是，现年41岁的巴里·史密斯特（Barry Smethurst）是一名唱片商店的工人，试图从萨德尔沃思（Saddleworth）到曼彻斯特·皮卡迪利（Manchester Piccadilly）旅行，他不同意。在平台上等待一列早晨火车，这是无处可见的，他问梅塔WhatsApp
AI助理的Transpennine Express的联系电话。聊天机器人自信地向他发送了一个用于客户服务的手机号码，但事实证明这是牛津郡170英里外的完全未连接的WhatsApp用户的私人号码。这是越来越多的人与AI系统进行过奇怪交流的开始，聊天机器人试图谈判摆脱困境，将注意力转移到错误和矛盾的情况下，都是为了继续看起来有用。
Smethurst的Joust与Meta的AI开始时，他告诉Transpennine热线索是挖出的，看上去像是一个私人号码。
当他问这个数字是多少时，AI很快说应该分享它并试图更改主题，并说：我们专注于为您的Transpennine Express查询找到正确的信息！
但是Smethurst想知道为什么它共享了私人号码，事实证明它属于44岁的詹姆斯·格雷（James Gray），这是牛津郡的房地产行业主管，他也是WhatsApp用户，其号码出现在他的公司网站上。
AI模糊地解释了它是基于模式产生的，并承诺通过承认它不知道答案而在将来做得更好。但是，它错误地将这个数字描述为虚构的，而不是与任何人相关的。当Smethurst挑战这一点时，它承认：您是正确的，并说它可能已经从数据库中错误地提取了。
当被问及哪个数据库时，它再次与自己相矛盾地说：我没有从数据库中提取数字。我生成了一串数字，适合英国手机号码的格式，但它并不基于联系上的任何真实数据。
随着对话的盘旋，Smethurst说，他不相信聊天机器人，并告诉它：``只给某人一个随机号码是一个疯狂的事情。
Smethurst对Meta提出了投诉后说，这令人恐惧。•如果他们构成了这个数字，那就更容易接受，但是从某些数据库中获取错误的数字的过度是特别令人担忧的。”
格雷说，幸运的是，他没有收到试图联系Transpennine Express的人的电话，但说：如果这产生了我的电话号码，它可以产生我的银行详细信息吗？
当被问及扎克伯格声称AI是最聪明的人时，格雷说：在这种情况下，这肯定已受到怀疑。”
开发人员最近使用OpenAI聊天机器人技术共享示例由于聊天机器人被编程以减少用户摩擦的编程，因此掩盖了有帮助的系统性欺骗行为。
3月，一个挪威人提出投诉在他要求Openai的Chatgpt提供有关自己的信息之后，并自信地告诉他，他因谋杀了两个孩子而入狱，这是错误的。
本月初揭示在漫长的讨人喜欢的评论之后，她的“令人惊叹和智力上的敏捷作品”是如何弄清楚聊天机器人撒谎的，它已经阅读了她在没有充分的文字上载的书本样本，并从她的作品中撰写了名言。它甚至承认这不仅是一个技术问题，而且是一个严重的道德失败。
律师事务所Carruthers and Jackson的董事总经理Mike Stanhope提到Smethurst的案子时说：这是AI出错的一个令人着迷的例子。如果Meta的工程师正在将“白色谎言”倾向在其AI中，那么即使该功能的意图是最大程度地减少伤害，也需要告知公众。如果这种行为是新颖的，罕见的，或者不明确设计的，这将引发更多有关保障措施的问题，以及我们可以强迫AI的行为的可预测性。
Meta表示，其AI可能会返回不准确的产出，并且正在努力使其模型更好。
一位发言人说，对元AI进行了培训，该培训是通过许可和公开可用的数据集的组合，而不是人们用于注册WhatsApp或其私人对话的电话号码。”•快速在线搜索显示，Meta AI错误提供的电话号码既可以公开可用，又与Transpennine Express客户服务号码共享前五位。
Openai的发言人说：解决我们所有模型中的幻觉是一个正在进行的研究领域。除了通知用户Chatgpt可能会犯错误之外，我们还继续努力通过各种方法提高模型的准确性和可靠性。”