前欧洲议会议员和科技评论家谈论人工智能、大型科技的政治 |塞马福尔

Reed Albergotti：我们在地球另一端通过 Zoom 进行交谈，这对我来说仍然令人难以置信。您如何平衡技术的所有优点和缺点？您是否担心自己会显得“反科技”？

玛丽耶·沙克：正如我在书中所写，这不是一本反对技术的书。这是一本关于民主的书。我的意思是，谁会反对技术呢？它带来了如此多令人惊奇的事情，而且仍然充满希望。但我反对的，也是我认为这本书的核心信息是，这种不受约束的企业权力主导了整个技术生态系统。

这是关于大型科技的。这是关于小型科技的。有时，它涉及非常具体的反民主技术，如间谍软件或垄断的、不断发展的公司，这些公司可能一开始是很酷的初创公司，挑战现有企业，但现在是坚定的现有企业，排挤竞争对手，真正的整合，包括在政府决策方面。我想阐明这个问题。

如果你看看 2016 年大选后的 Facebook，就会发现大量的抗议迫使该公司做出了改变。您认为权力集中有什么好处，比如让一家公司承受压力？

我曾经使用过一个假设的例子，一位科技首席执行官有着非常坚定的政治议程，该议程将利用他所有的资金和他为该议程运行的平台。人们对我说，字面上，“你看太多这样的电影了。”现在我们有了埃隆·马斯克。

以 Facebook 为例，这是相当可悲的，它花了多年的时间才发出警告，不仅是专家警告这些算法设置的不良结果，而且我们不要忘记世界各地在缅甸和肯尼亚吸取了许多许多痛苦的教训。

只有当这件事在美国引起轰动时，他们才会关心声誉受损并开始改变自己的行为。

新冠病毒实际上是一个重大转折点，有关疫苗的谎言实际上导致了公共卫生危机。

有一种理论认为，当你试图压制这些平台上的虚假信息时，它几乎会产生与预期效果相反的效果。您为这本书进行了哪些研究？

几年前我看这个的时候，我想看看像亚马逊这样的平台当时是如何处理有关麻疹的信息的。我在亚马逊上输入麻疹，我得到的第一件事是一本书，玛吉的神奇麻疹。这是庆祝麻疹和身体的抵抗。这并不是要压制言论。这是关于允许此类内容游戏化的算法设置，允许那些在道德上确实令人反感的事物得以病毒式传播。

公司不应该拥有如此大的自由裁量权，不仅可以决定如何向数亿人提供这些信息，而且还可以决定没有办法以学术的方式对其进行研究作为一名记者，作为一名民间社会领袖。

解决办法是政府监管吗？

我认为透明度虽然可能必须通过监管来强制实施，但将会带来各种潜在的结果。例如，随着透明度的提高，我们可能会发现虚假信息对公共健康的影响被高估了。我们可能会了解到导致不同因果关系的商业模式的不同方面。

政府还可以利用其购买力进行采购。他们可以创建市场，决定将公共资源投入到这些已经富有的科技公司中，而不是更多地投入到公共利益解决方案和更好地服务公众的替代方案中。

我们应该在网络安全方面制定更高的标准，比如当公司疏忽或未能按照他们所说的去做时，实行三击制度。我们通过这些事件的失败了解了很多，并且对它们存在某种盲目的信任。我只是认为它不再起作用了。

我关注的是数据中心，当公司想要建设数据中心并且想要能源合同和水合同时，他们实际上是在欺骗公众。我认为这样说并不过分：“我们将要求这些公司至少告诉我们他们是谁。”�����

真正颠覆这些大公司的是采用新技术的新初创公司。您认为政府应该开始投入更多资金来促进创新吗？

政府在研发生态系统中投入更多资金始终是一个好主意。但在技术方面尤其缺少的是，这些投资是以某些核心公共利益特征为条件的。例如，让公众了解这些技术，建立更好的问责机制，地方、州和联邦政府之间加强协调。

就许多欧洲国家而言，政府可以采取许多更具创意和公共利益服务的支出方式。所以，是的，支出可以有所帮助，但让我们看看如何做到这一点。

您已经在美国硅谷的中心度过了一段时光。您能将这种文化与欧洲的观点进行比较吗？

我在硅谷度过的一段时间的主要见解之一是，其中有多少是关于金钱的，而不是实际的创新。

在欧洲，人们希望获得硅谷那样的成功，而不是社会不平等以及对社会的影响。这个想法是，你需要为社会上最不富裕的人提供一些机会缓冲。英语中没有一个很好的词来形容这一点，但我们有一个很好的词来描述你如何能够拥有丰富的机会。

不幸的是，获得资本仍然是欧盟的一个问题。当我从“价值观”的角度来看时，我认为许多美国人认为欧洲人之所以采用这些法律是因为他们想追赶美国公司。

更常见的是，保护人们免受公司和政府滥用权力的需要的根深蒂固是有历史依据的。数据保护规则真正到位是因为第二次世界大战，当时有关犹太人的信息被用来对付他们。当我在欧洲议会任职时，有很多在苏联长大的人，他们作为活动家、持不同政见者、记者，都受到斯塔西的关注。

我们不幸地看到，在美国，一些不难发现的警示故事在人们认真对待之前必须击中要害。

在最近的播客中，马克·扎克伯格表示，他和 Facebook 承担了一些真正更具政治性且超出他们控制范围的事情的责任。这似乎是一个值得探索的点。

当然，我们不能把一切都归咎于企业。但我要表达的观点是科技政变这些科技公司正在做出极其重要的政治决定。他们是政治参与者。硅谷是政治中心。只是没有这样对待。

如果你看看这么多人工智能应用中持续存在的歧视，就会发现未来会出现各种灾难。您认为谁将为后果买单？

随着新一批人工智能模型的规模变得如此之大，难道不需要真正大、富有的公司来建造它吗？还有谁会做呢？

问题是，这项技术确实存在。我们对此了解得足够多吗？仅仅因为有新发现就说尽快推向市场有意义吗？尽管每个人都承认人工智能存在不可预测性，但这就是现在的动态。所以这只是一个没有太多护栏的现场实验。

你谈论的是科技政变，但政府似乎有机会收回控制权，因为它在大规模人工智能的发展中具有很大的影响力，这确实需要政府的参与。

我建议民主政府重申自己的立场，但也要确保对其进行检查。因为我们已经看到了政府和技术最糟糕的本能。

因此，加强民主控制有很多原因。我个人认为，政府询问企业下一步该做什么是科技政变的一个例证。