前 OpenAI 高管：目前人工智能的 3 大障碍

扎克·卡斯

，人工智能未来学家和 OpenAI 前市场推广主管。他在最近于费城举行的 Precisely 会议上发表讲话时表示，最终，在后台运行的人工智能将使我们能够像人与人之间一样轻松地与机器和应用程序进行交互。“我的预测是，在它变得伟大之前，它会变得很奇怪，”卡斯说。

——我们将不得不接受这一点。所有的进步都是有代价的。但在这一转变中，我们需要开始准备的最有趣的事情之一是理解技术门槛和社会门槛的概念。”

技术门槛就是简单地提出一个问题：“机器能做什么？”他解释道。– 社会门槛提出了这样的问题： – 我们想要机器做什么？还是我们愿意让它发生？

与此同时，他警告说，存在三个障碍可能会减缓或抑制进展：人类对失去控制的恐惧；对人工智能风险的不成比例的看法；对机器故障的容忍度低。

这些挑战与自动驾驶汽车的兴起密切相关，卡斯将自动驾驶汽车视为人工智能采用的“领头羊”。正如奥的斯电梯在 1800 年代末和 1900 年代初努力减轻人们对电梯的恐惧一样，人们对自动驾驶汽车也存在类似的恐惧和厌恶。

“在自动驾驶汽车中，我认为我们即将对如何看待与人工智能相关的技术产生令人难以置信的理解，”他说。他指出了自动驾驶汽车以及人工智能面临的三大挑战。

• 失去控制。“人类喜欢控制，”他解释道。“我们喜欢坐进车里，把脚踩在踏板上，转动方向盘，控制这台巨大的机器。”
• 不成比例的恐惧。“在美国，害怕坐飞机的人比害怕开车的人多十五倍，”卡斯说。– 一种是经验上安全的，另一种是经验上危险的。此外，人们并没有意识到自动驾驶汽车有多好。大多数人不知道，如今，亚利桑那州将有 50,000 人驾驶自动驾驶汽车而不会发生事故。湾区有 10,000 人。 –
• 对机器故障的容忍度低。“人类对人为故障具有非凡的容忍度，但我们对机械故障没有容忍度，”他观察到。– 这就是为什么每年有 20,000 人死于醉酒驾驶，我们非常愿意说，这就是做生意的成本。但如果自动驾驶的特斯拉驶入错误车道，每个人都会要求关闭该程序。他补充说，让机器或人工智能达到更高的标准并不一定是坏事。——这就是为什么我所在的大楼永远不会倒塌，这就是为什么我们驾驶的飞机不会从天上掉下来。飞行从未像现在这样安全。我们正在为我们的机械系统打造如此强大的稳健性。我们对这些技术的交付抱有很高的期望。”

卡斯说，正在发生的事情是技术已经超越了人类处理它的能力。以奥的斯电梯为例，人们害怕乘坐电梯，但该公司以人性化的方式做出回应——音乐、镜子和人类电梯操作员。——它奏效了。人们开始使用电梯。技术门槛已经达到，并通过社会门槛的真正模拟调整来更新。”

同样，当我们看到解决方案中添加了更多的人性化元素时，对人工智能的恐惧或困惑将会减少。例如，有代理人工智能。或自主代理。– 我们将向人工智能分配任务或目标，并让这些系统在应用程序和浏览器上执行任务和目标。想象一下，我们不再依赖手机上的 100 或 150 个应用程序。 –

自然语言操作系统正在促进这一点，在该操作系统中，“我们基本上将进入一个我们与机器交互的方式就像我们彼此交互一样的世界，”卡斯解释道。– 原因在于我们今天生活的数字鸿沟。我们设计的系统（例如个人计算机）实际上并不是第二天性。您必须花费大量时间来熟悉这台机器，才能充分发挥其潜力。”

即使是 Google 关键字搜索，对某些人来说也不是很明显，这与 Kass 相关。–ChatGPT 让我们第一次看到未来的世界会是什么样子，在那里你可以像人与人之间一样与机器交互。我们认为自然语言操作系统可能会在未来 10 年（或者肯定是未来 15 年）内问世，它将从这种与机器的尴尬通信转变为更加自然的通信。