加里·马库斯建议发起通用人工智能抵制活动以约束大型科技公司

面试纽约大学荣休教授、连续创业家盖瑞·马库斯是几本书的作者，他的最新著作批评科技行业不负责任地开发生成式人工智能，并将民主置于风险之中。

The Register最近与Marcus通信以了解更多详情他的工作以及他的担忧.

The Register:你的新书的标题是驾驭硅谷：我们如何确保人工智能为我们服务为什么硅谷需要被驯服？

马库斯：因为他们迷失了方向，远离了“不作恶”的原则，并且他们正变得越来越强大，几乎没有约束。

the register：注册表：（由于"The Register"可能是指一个网站或者新闻来源的名字，这里直接翻译可能会导致意义丢失，因此保留原名）The Register硅谷能够被驯服吗？还是它必须通过消耗风险资本而自我耗尽？即使有明显的、持续的有害证据——社交媒体和公共健康，加密货币/人工智能和环境——公众的关注和监管压力似乎几乎无法产生影响。

马克：那就是为什么我写了这本书。我们需要更多的公众压力。正是这种压力最终大大减少了吸烟和因吸烟导致的死亡。如果没有更多的公众压力，在美国几乎不会有行动来保护公民免受日益侵入性和有问题的人工智能的影响。

The Register:你的书提到了关于所谓的人工智能的十几个担忧。你认为最令人忧虑的问题是什么？

马库斯：自动生成的虚假信息和深度伪造对民主的威胁。

注册表：许多关于人工智能的担忧——如假冒、虚假信息、欺诈、偏见等——由于信息可以轻松地在缺乏问责制和透明度的情况下传播，因此非常严重。《纽约客》著名的1993年卡通片“在网上，没人知道你是一条狗”，这句话现在意味着没人知道你是被收买的说客、网络犯罪分子还是一位推动政治议程的AI机器人。自由、全球即时的内容分发是否应该有更强的安全保障来更容易地让不良行为者承担责任？还有没有其他的以分发为重点的选择方案，比如限制个人账号的影响范围不超过X人？

马库斯：我认为这些都是很难的问题。我想补充一点你的分析，这确实很敏锐：我们应该把大规模生产出来的 misinformation 和个人公民的言论区别对待。我的邻居持有我不同意的观点是一回事，而外国政府或股票骗子每天制造数十亿个谎言以改变公众意见或操纵股价则是另一回事。

the register：注册表：（由于"The Register"可能是指一个网站名称或特定栏目名称，此处直接音译更为合适）the register你如何看待将生成式人工智能嵌入每个技术平台产品的趋势？微软有它的举措：副驾产品。苹果即将推出苹果智能Google有其人工智能概览在搜索中。那么大量的摘要和建议会有市场吗？

马库斯:摘要确实有其用途，但（a）生成式AI在这方面的可靠性并不高，经常会遗漏重要信息，有时还会编造内容，（b）它已经变成了一种商品化的东西，许多公司的许多模型都可以做到这一点，因此价格竞争激烈，所以赚取巨额利润的机会不多。

更广泛地说，每个人都推动着生成式人工智能以试图收回他们巨大的投资，但这进展并不顺利。在2023年一切都是炒作；到了2024年我看到了很多失望。

The Register:你认为谷歌使用人工智能提供搜索结果怎么样？

马库斯：我假设你指的是GenAI；他们从一开始就使用了人工智能。到目前为止，他们在搜索中使用GenAI一直存在问题，这可能是由于大型语言模型在可靠性方面存在内在限制。

The Register:人工智能真正有用的地方在哪里？

马克：传统的网页搜索、GPS导航系统、推荐引擎、蛋白质折叠。但这些都不是生成式人工智能（GenAI）（除了蛋白质折叠，它是生成式人工智能和传统人工智能的结合）。生成式人工智能本身在编码方面有些许帮助，但也带来了一些技术债务等问题，并且对于头脑风暴和概念艺术等有帮助。但是被极度夸大了。

• 特斯拉FSD在致命低能见度车祸后再次面临调查
• 命运机器人公司就人工智能驱动的人形机器人虚假宣传与SEC达成和解
• FTC以“一键取消”规则打击未经同意的订阅服务
• 数字河干涸，自7月以来未向开发者支付销售分成

The Register:最近有一个名为约瑟夫·布劳宁的人在Facebook上发帖观察到的：“AI的根本目的是让财富能够获取技能，同时剥夺技能获取财富的能力。”这种表述是否恰当？如果是的话，你认为我们应该如何应对这样一个挑战：即在不补偿原作者的情况下，持续捕获并出售他人的数字劳动，并且将这种劳动商品化？

马克ัส：那只是适用于人工智能的一个领域，并非全部。GPS导航系统并没有替代人类，但它们确实是人工智能。

但确实，我非常担心创意作品实际上正被大规模窃取，如果我们让生成式AI公司逍遥法外，它们最终会寻求对每一个职业做同样的事情。

the register：注册表： 注意："The Register" 是一个新闻网站的名字，在这种情况下通常直接使用其英文名称或找到一个公认的中文译名。由于此处没有具体的文本内容供翻译，且"The Register"本身并无明确对应的中文表述，所以保留原文。如果需要特定语境下的解释，请提供更多信息。人工智能中最被误解的部分是什么？将预测等同于智能？

马库斯:远太多的人认为，因为聊天机器人听起来像人类，它们就思考像人类一样，实际上它们只是在以相当复杂的方式模仿训练数据。正如你所说的，预测下一个词可以说是智能的一个方面，但目前的系统缺乏许多其他方面的智能，例如推理和规划。

The Register:目前提供AI作为API的供应商大多关注大型语言模型（LLM）代理。然而，软件自动化已经存在多年了，例如宏命令、脚本等等。是否有理由相信基于声明式的大规模语言模型自动化以及任务链将会比传统的指令式编程自动化更加广泛地有用？

马库斯:我认为人们会失望。能够基于自然语言请求委托代理去做你想做的事情将会很棒，但目前的技术还不够成熟，无法做到这一点。

The Register:影响公众的AI模型是否应该披露其训练数据？

马库斯：是的。我在《驯服硅谷》一书中详细讨论了透明度问题，这包括训练数据的透明度，因为关于模型的一切（例如偏见）都依赖于这些数据，如果科学界不了解其中的内容，就无法缓解由此带来的危害。

注册表：你期望各种正在进行的关于生成式AI的诉讼会有怎样的结果，这些诉讼涉及图书作者、音乐人、视觉艺术家和软件开发者。你认为什么样的结果是理想的？

马库斯：我预计生成人工智能公司将会被迫像流媒体服务一样授权他们的原材料，而这是一个好的结果。

The Register:有没有理由希望出台有意义的AI监管法规，而不是被游说活动削弱，并且能够切实执行这些法规？尽管美国对在线隐私问题的关注已有几十年之久，但实际上并没有太大改变——我们仍然没有全国性的隐私法律。而且，当大型科技公司在隐私问题上受到罚款时，这些罚款金额微不足道。

马克ัส：我对美国的前景真的不乐观；我们的公民在隐私保护方面远远不如欧洲的同行，而且在人工智能方面的保护也远不及他们。除非我们的公民更加大声地发言，否则情况将保持不变，我们将变得非常脆弱。那将是 exactly我写这本书的原因：鼓励市民采取行动，甚至抵制通用人工智能，直到它整顿好自身。®