我们研究人工智能和民主。我们担心的是 2050 年，而不是 2026 年。
一半的人类生活在去年举行全国选举的国家。专家警告这些竞赛可能会因人工智能生成的大量无法检测的欺骗性内容而脱轨。然而随之而来的是人工智能的浪潮：无处不在，质量低下，有时甚至具有误导性，但在民意调查中几乎没有决定性作用。尽管如此，鉴于美国总统选举的结果，很少有关注民主的观察家感到宽慰。特朗普第二届政府带来的直接、长期的挑战使得除了在危机发生时做出反应之外很难做更多的事情。
但人工智能的进步确实给民主带来了风险。这些风险与特定选举周期中极具说服力的深度造假关系不大——它们存在于较长的时间范围内，但同样阴险。
不幸的是，政策制定者的注意力被资源丰富的群体所吸引，他们对人工智能治理的看法相互竞争但同样不民主。一些人警告说，人工智能是解决气候危机等文明威胁的唯一途径，证明任何支出都是合理的，并主张不受监管的科技行业。其他人则坚持认为，美国绝不能阻碍人工智能的发展，以免在 21 世纪输给北京的竞争对手。这些职位是有利那些坚持他们的人的底线，但这并没有动摇他们对辩论的控制。
其他立场错误地判断了人工智能可能对民主产生影响的时间表。关于立即和的警告 –灾难性风险— 例如，通过对神圣机器的奇妙警告来分散人们对较少投机性危害的注意力。虽然我们对关注偏见和歧视等已经存在的危害的人工智能改革者表示同情，但人工智能对民主的其他方面的影响将需要几十年的时间才能发挥出来。
在一个最近的文章在《民主杂志》中，我们认为与人工智能相关的三个长期趋势可能会对民主造成严重损害。
首先，人工智能可以取代民选官员和选民之间的沟通。政治战略家已经开始尝试使用人工智能工具来增强民意调查、选民服务和竞选宣传等方面。一宾夕法尼亚州国会候选人，例如，使用人工智能机器人呼叫器努力为 2024 年选举收集选票。竞选活动和公职人员可以更进一步，使用人工智能来分析甚至预测选民的意见。此类用途可能会严重损害政治家和选民之间的关系——侵蚀真正的基础协商民主。数字不能很好地替代人，这是美国总统竞选活动每四年都会重新吸取的一个教训，因为选民的某些计算模型不可避免地无法预测或带来胜利。这些方法可能无法捕获或再现个人之间在形成坚定意见之前的交流中产生的政治部分。
其次，那些控制人工智能技术的人将变得更加富有和强大，并将利用这些资源来摧毁民主。20 世纪后半叶与技术相关的进步显着拉大了经济差距。人工智能可能会在未来几十年导致进一步的不平等。几位最富有的科技亿万富翁利用该技术的潜力来主张替换人类工人，并废除民主的、参与性的治理形式。关于人工智能所谓的能力的夸大声明精简对于寡头来说，即使是最复杂的人类进程也是自私的，他们希望驳回对正义、尊严和平等的不便呼吁。
最后，人工智能将转换我们已经以违反民主沟通的方式扰乱了信息格局。新闻媒体已经受到社交媒体平台的商业、参与和信息管理方式的挑战和损害。大型语言模型 (LLM) 只会继续将网络流量从实际从事调查性新闻工作的严格、道德和基于事实的媒体实体中转移出来。什么将取代它们？如果答案依赖于法学硕士，它将把更大的权力让给更少数量的科技公司。我们只需停下来考虑一下科技行业本已令人担忧的对政治压力的敏感性，就会发现这可能会严重损害公民获取信息的机会。
为了避免这些结果，我们必须拒绝这样的论点：任何与人工智能相关的结果都是不可避免的，或者人工智能对于谨慎发展来说在经济和地缘政治上过于重要。就像铁路、灯泡和其他革命性技术一样，人工智能的部署将最终由人类决定它在整个经济中扩散的影响需要数年时间才能评估。问题不在于缺乏政策解决方案；而在于缺乏政策解决方案。有大量建议来应对不平等和公共利益新闻业衰落等挑战。问题在于缺乏政治意愿，而自利团体主张不采取行动。
-
塞缪尔·伍利是制造业共识：理解自动化和匿名时代的宣传和合著者机器人。他是匹兹堡大学的教授。Dean Jackson 是匹兹堡大学 CTRL 实验室的高级研究员、科技政策出版社的特约编辑以及技术和民主问题研究咨询公司 Public Circle LLC 的负责人