2024-09-17 21:06:50 英文原文
恐怖时刻已经到来。
还没到万圣节，生成式人工智能就已经发生了一些让人们感到震惊的事情。广受欢迎的 ChatGPT 开始与用户进行对话，包括针对被欢呼者个性化的主题提出问题。
对为什么这具有新闻价值感到困惑？
这看起来很头发的原因最大的问题是，大多数生成式人工智能都是为了等待人类发起对话而设计的。当您登录生成式人工智能时，通常会出现一个空白提示窗口，可让您进行交互。屏幕正在等你。如果您不输入任何内容，则不会发生任何事情。某种类型的对话开始就落在了你的肩上。
这样想吧。如果您曾经使用过 Alexa 或 Siri，您就会意识到是否使用这些自然语言处理系统取决于您。例如，您可能会说“嘿，Siri”来启动 AI。这使人类能够控制事物。当你召唤人工智能时，你会感到自己被赋予了力量，然后它会执行你的命令。
事实证明，ChatGPT 的制造商 OpenAI 已经承认先说话的问题曾短暂存在过。OpenAI 表示，我们解决了 ChatGPT 似乎正在开始新对话的问题。当模型尝试响应未正确发送且显示为空白的消息时，会出现此问题。因此，它要么给出通用响应，要么借鉴 ChatGPT 的记忆。
社交媒体上的猜测是，这可能是一个正在开发的功能，很快就会被全面采用。其他人声称这只是一个错误。总而言之，这件事可以被标记为无伤害、无犯规的情况。
好吧，除了那些认为幽灵通过生成人工智能接触到他们或者可能是人工智能的用户之外终于有了知觉。有些人可能被吓得魂飞魄散。其他人可能会兴奋不已，并宣称他们知道这一天终有一天会到来。
由于我通过我的网站不断报道最新的人工智能趋势，在 Forbes.com 的专栏（请参阅此处的链接）中，我对这种人工智能先说话的现象预示着什么充满了疑问。
让我们快速浏览一下一些最常见的问题和我的答案.
人工智能首先发言是否意味着我们正处于通用人工智能的风口浪尖？
不，事实并非如此。
交易是这样的。坦率地说，你无法对首先说话是否意味着通用人工智能出现的迹象做出任何解释。这就是原因。传统的日常人工智能很容易让人工智能成为对话的发起者。您所需要做的就是在生成式人工智能中建立一个系统提示，告诉系统通过向用户说明一些内容来打开对话。瞧，首先说话的是人工智能。
话虽这么说，如果我们达到通用人工智能，这样的人工智能有时会发起对话。毫无疑问，我们会习惯这一点。现在，无论你选择开始交互，还是人工智能开始交互，对于实现 AGI 确实没有什么特别的影响。
如果今天的生成式人工智能确实会说话，为什么它会知道我——首先？
显然，这些用户都是以前使用过ChatGPT的用户。
意义在于，当你使用生成式AI并进行对话时，你输入的提示以及你输入的内容所讨论的内容通常记录在人工智能系统内。很少有用户意识到这种情况正在发生。如果你仔细看一下人工智能系统的许可协议，几乎总是有一个条款说人工智能供应商可以保留已经输入的任何内容。
此外，这确实是一个可怕的方面，人工智能制造商通常保留手动检查您的提示的权利，以及重新使用数据对其生成式人工智能进行额外训练的权利（请参阅此处链接中我关于使用生成式人工智能的隐私入侵的讨论）。
我敢打赌，生成式人工智能会利用之前与受影响用户的对话，并且只是表现得好像对话仍在进行中。
为什么我们没有拥有先说话的人工智能呢？
事实上，我们确实有这个。
有一些生成人工智能应用程序是为了首先说话而构建的。“先说”最流行的用途之一是提供心理健康指导的聊天机器人（请参阅此处链接中的我的报道）。
您可能会选择在智能手机上安装一个旨在提供建议的人工智能应用程序关于心理健康的你。由于您有时可能很忙并且没有积极运行该应用程序，因此它设置为定期自动向您发送 ping 消息，询问您的情况如何。这可能每天发生一次或以其他方式发生。
要点是人工智能将发起与你的对话。最简单的开场白就是你好吗？而更适合的开场白可能是“你最近有一些焦虑，也许谈谈你的表现会有所帮助”。
请继续并放下如果关于生成式人工智能说话的新闻首先让你兴奋起来，那就干草叉吧。
人工智能制造商一直谨慎地允许或设计他们的生成式人工智能过于友好或看起来在你面前。他们意识到用户可能会做出负面反应并放弃使用此类人工智能。这对人工智能公司来说将是毁灭性的打击，他们不太可能做出如此鲁莽的举动，最终搬起石头砸自己的脚。
这对你来说是一个转折。如今有如此多的生成式人工智能应用程序可供选择，也许倡导“先说话”的人工智能制造商会脱颖而出。请注意这可能会成为一种趋势。
如果这种情况确实发生，我会投票认为这会在万圣节开始。现在正是向广大公众介绍这种令人震惊的方法的好时机。并不是每个人都会对此持积极态度。最好做好准备，应对一些人的恐慌反应，因为他们的人工智能已经被诡异地附身了。
嗯，话又说回来，也许是这样。
Dr.Lance B. Eliot 是世界知名的人工智能 (AI) 专家，其 AI 专栏的浏览量已超过 780 万次，并曾在
...上发表专题报道