自动驾驶出租车没有乘客，因此它会将自己停在很多地方，以减少拥堵和空气污染。出租车被拦下后，出发去接乘客，途中不幸撞到了人行横道上的行人。
谁或什么值得称赞汽车减少拥堵和空气污染的行动？谁或什么应该为行人受伤负责？
一种可能性是自动驾驶出租车设计师或开发商。但在许多情况下，他们无法预测出租车的确切行为。事实上，人们通常希望人工智能能够发现一些新的或意想不到的想法或计划。如果我们确切地知道系统应该做什么，那么我们就不需要费心人工智能。
或者，也许出租车本身应该受到赞扬和谴责。然而，这些类型的人工智能系统本质上是确定性的：它们的行为是由它们的代码和传入的传感器数据决定的，即使观察者可能很难预测这种行为。从道德上评判一台别无选择的机器似乎很奇怪。
根据许多现代哲学家的观点，理性主体可以对自己的行为承担道德责任，即使他们的行为完全是由神经科学或代码预先确定的。但大多数人都认为，道德主体必须具备自动驾驶出租车几乎肯定缺乏的某些能力，例如塑造自身价值观的能力。人工智能系统处于道德主体和非道德工具之间令人不安的中间地带。
作为一个社会，我们面临着一个难题：似乎没有人或任何一件事在道德上对人工智能的行为负责，哲学家称之为责任差距。当前的道德责任理论似乎根本不适合理解涉及自主或半自主人工智能系统的情况。
如果当前的理论行不通，那么也许我们应该看看过去几个世纪以来的想法，这些想法在今天能引起令人惊讶的共鸣。