只需注册《Life Arts myFT Digest》即可 - 直接发送到您的收件箱。
梅雷迪思·惠特克 (Meredith Whittaker) 不是规范的追随者。经过几次尝试才让她按照她的建议选择一家餐厅见面，包括她在伦敦的酒店大堂和一家不接受预订的咖啡店，这让我很紧张。
最终，她心软了，选择了“你的妈妈厨房”，这是一家家庭经营的小餐馆，位于伦敦北部一条安静的道路上一家韩国超市的地下室里。她说，韩国菜是她的安慰食物，她在洛杉矶韩国城附近长大。即使是现在，韩国火锅和 jjigae（一种辛辣的泡菜炖菜）仍然是她在布鲁克林家里做饭时的首选食谱。
惠特克身材娇小，有一头标志性的黑色卷发，上面夹着灰色条纹，可以说是硅谷最著名的牛虻。在过去的几年里，她逐渐成为了大型科技行业的对立面，大型科技行业主要通过监视资本主义从人们的个人数据中获利，建立了极其成功的经济模式。
与此同时，Whittaker 是流行加密消息应用程序 Signal 背后的基金会主席，该基金会主要由捐款资助，并已被世界各地的人们下载了数亿次。她是一位罕见的科技高管，她谴责企业权力过大，反对她所说的大规模监控商业模式，并游说保护隐私。
试图锁定惠特克就像装瓶闪电一样。她基本上是在世界各地巡回演讲，谈论她最喜欢的隐私、有组织的劳工和权力等主题，并且不断地发表一些往往会朝着意想不到的方向发展的言语和想法。她的日常工作包括运营一家科技公司，但她也发表有关人工智能社会政治学的学术论文，并且是一位直言不讳的反监视活动家。对她来说，不同的线索形成了她所代表的连贯画面。
我认为人工智能诞生于监控商业模式。。。她说，人工智能基本上是一种获得更多权力、更多收入、更大市场影响力的方式。一个拥有更大更好人工智能的世界，需要越来越多的数据。。。更加中心化的基础设施[是]一个与 Signal 所提供的相反的世界。
Whittaker 于 2006 年在 Google 开始了自己的职业生涯，她见证了所谓人工智能新浪潮的兴起，人工智能能够从数据中提取模式以生成预测，并且最近还能够创建文本、图像和代码Google 开始利用从用户那里收集的宝贵数据轨迹。
突然之间，谷歌到处都出现了一些类似学习机器学习、将机器学习应用到你的事情上的课程，她说。当时我们还没有决定将其称为人工智能。该品牌仍然悬而未决。
2014 年，一位来自哈佛大学的访问工程师向 Whittaker 讲述了他必须使用人工智能软件来预测种族灭绝的想法。她记得这是她开始对这项技术产生道德担忧的那一刻。
她知道该软件并不完美，很大程度上受到其训练所依据的人类行为数据的影响，而这些数据往往是有偏见的、不完整的和混乱的。这个想法仍然困扰着她：我想，你怎么知道这实际上是准确的，以及你如何为预测本身可以扭转天平这一事实承担责任？而这样的东西有什么作用呢？
这促使她与微软同事凯特·克劳福德 (Kate Crawford) 在纽约共同创立了 AI Now Institute，以研究人工智能的紧迫社会影响，重点关注当前而不是不确定的未来。从那时起，她一直参与组织全球员工罢工以抗议 Google 的军事合同，并就企业权力集中与人工智能危害之间的联系向美国联邦贸易委员会主席莉娜·汗 (Lina Khan) 提供建议。
Whittaker 于 2022 年成为 Signal 基金会主席。其运行的 Signal 应用程序被军队、政治家和首席执行官以及持不同政见者和举报人用于最敏感的场景，其工程师在过去十年中开发的加密技术其竞争对手 WhatsApp 和 Facebook Messenger 使用。她解释说，目前每月的用户数量在 7000 万到 1 亿之间波动，具体取决于乌克兰和加沙战争等外部触发因素，这些因素会导致注册量激增。
在 Signal 中，我们不断尝试不收集任何数据，她说。当我们依赖于生态系统中制定规范、拥有基础设施的大型参与者时，我们必须实际制造出东西。。。作为一个智力命题真的很有趣。
它为我提供了很多可以应用于人工智能领域的分析工具，并从内部思考政治经济。
Whittaker 显然是我们之间菜单上的专家，她带头点了 Sundubu jjigae（一种软豆腐海鲜炖菜），后来她宣称这是完美的食物，旁边有丰盛的蔬菜饺子和酸辣泡菜。我的拉面碗里堆满了豆腐片，表面浮着一颗煎蛋，宝石般的。这家咖啡馆没有执照（你可以自带酒），但惠特克试图引起我对大麦茶的兴趣。她若有所思地说，大热天冰镇一下效果更好。
你的妈妈厨房
17 Goldhurst Terrace, London NW6 3HX
笋豆腐11.50
拉面5.80
炸豆腐2.30
蔬菜饺子3
泡菜1.50
泡菜3.50
大麦茶x2 4.60
姜蜜茶 x3 5.60
含服务总计 41.58
开放式厨房里的母女二人正在熟练地串联工作，将热气腾腾的碗装盘并舀出，香气弥漫在紧凑的粉彩画房间中。惠特克说，这让她想起十几岁的时候，她和父亲在洛杉矶一家名为豆腐屋的学生聚会上共进晚餐，通常是在争吵之后。她抱怨道，现在它已经变成了一条链条。
惠特克 (Whittaker) 毕业于加州大学伯克利分校，获得英国文学和修辞学学位，直接加入 Google。在此之前，她唯一的工作就是在洛杉矶爵士乐俱乐部帮忙，她的父亲在那里演奏长号。“我没有职业野心，这很偶然，”她说。我现在看到的孩子们的生活是分秒必争的。作为一个正在成长并试图在世界上找到自己的年轻人，这似乎真的很难。
该工作涉及客户支持并涉及解决用户投诉。但由于这是 2000 年代末的谷歌，该团队的成员都是拥有精英大学人文学位的大学毕业生，其中包括一名在本科时编纂过一种以前从未绘制过地图的中美洲语言的女性。他们的表现是根据工程团队解决了多少报告的错误来评分的，但这很难做到，因为团队与工程师位于不同的大楼里。
Whittaker 认为最有效的做法是骑车前往工程大楼（Google 有免费的校园自行车），然后坐在沙发上，这样她就可以直接与工程师协作并实时解决问题。这是她第一次体验大型科技公司的运作方式，如果你想解决某些问题，你就必须绕过官僚机构并自己动手，即使这意味着与你的经理和同事为敌。
正是在 Google，惠特克还了解了建立全球互联网业务的微妙之处。她与内部强大的技术基础设施团队（该团队后来成为 Google Cloud）密切合作，并对网络中立性（开放和民主化互联网的概念）特别感兴趣。这促使她成立了一个名为 M-Lab 的开源研究小组，与谷歌以外的民间社会和隐私研究人员合作，测量互联网的全球速度和性能。谷歌每年为 M-Lab 提供大约 4000 万美元的资助，惠特克称这对这家搜索巨头来说是一个舍入误差。但这让她了解到，在没有大型科技赞助商的情况下，建立一个独立的、社区主导的项目来建设新的互联网基础设施需要花费多少钱。
2010 年，通过在 M-Lab 的工作，Whittaker 涉足了在线安全圈，结识了在斯诺登之前时代被指控对隐私偏执的数字特立独行者。我认为这是切断[谷歌]河流的支流，并将其中一些释放给无政府主义隐私项目，例如.。。她解释说，Tor 指的是运行匿名网络浏览器的非营利组织。我只是想弄清楚我们如何支持正在有效构建我开始理解的商业模式预防措施的社区？
那是她第一次见到 Moxie Marlinspike，一位密码学家和企业家，他创立了 Signal，当时她正在帮助该公司筹集资金。当时人们还不了解构建大规模技术在经济上的实际意义。。。但仍然没有，惠特克说。人们太害怕提出政治和经济问题。
十多年后，作为信号基金会的主席，她仍然是一位隐私绝对主义者，致力于端到端加密的理念，以及在数据货币化推动的行业中对数字匿名的需求，尽管来自世界各国政府的政治阻力。
她还选择发布 Signals 运营成本的详细细目，估计到 2025 年 Signal 每年将需要约 5000 万美元的运营成本。大部分成本用于维护运行实时消费者消息应用程序所需的数字基础设施，例如服务器和存储，但应用程序的端到端加密呼叫功能是其提供的最昂贵的服务之一。
我想谈谈金钱，以及如果你不愿意将监控货币化的话，技术就不是免费的。如果您不知道成本，那么要为此付出什么代价？她说。并不是很多人都能获得这些信息，而我能做的一件事就是通过诚实地谈论经济学来改变叙述。
直到 2017 年，Whittaker 一直认为她可以成功地从机器内部发起变革，与大学和微软等公司的学者合作，在 Google 建立符合道德的人工智能研发项目。但那年秋天，一位同事联系她，询问他们正在进行的一个项目。他们了解到这是国防部试点合同的一部分，代号为“Maven 项目”，该合同使用人工智能来分析视频图像并最终改进无人机攻击。我基本上只是一个。。。她说，持异议的宫廷小丑仍然明显感到失望。
她起草了一封致 Google 首席执行官 Sundar Pichai 的公开信，敦促该公司退出合同，该信收到了 3,000 多名员工的签名。信中说，我们认为谷歌不应该参与战争。
Maven 的信有点像，我无法以道德演员的身份为谷歌带来好处，她说。你说的是谷歌成为军事承包商。尽管它对我们来说已经司空见惯，但它仍然令人震惊，但这是一家集中监控公司，拥有比任何人想象的更多的复杂性，现在他们正在与世界上最致命的军队合作，正如他们自称的那样。
是的，那是我的绳索的尽头。
惠特克随后帮助组织员工抗议和罢工，有超过 20,000 名 Google 员工参加，抗议该公司处理其他道德问题的方式，例如针对知名高管的性骚扰指控。当时，谷歌管理层选择在五角大楼合同到期后不再续约。但惠特克于 2019 年离开了谷歌，此前该公司向她提供了一系列选择，她说这些选择让她别无选择，只能辞职。就像，你可以成为一名管理员，为开源办公室制作电子表格和预算，[并]停止我一直在构建的所有垃圾。
在惠特克最近发表的关于人工智能技术的封闭性和该领域的工业占领的学术论文中，她经常提到工作场所激进主义以及科技公司和大学内部组织的力量，作为检查科技行业的杠杆对民间社会、学术界和政府的主导地位和权力。
这就是我开始从事劳工组织和社会运动的方式。她说，这不是意识形态上的先验激进主义。抛开政治不谈，我尝试过辩论的力量，我尝试过从内部工作，我尝试过在政府工作。看似有能力驾驭资本的地方似乎是劳动力。
Whittaker 一年中有 120 多天在路上。她说，为了保持理智，无论身在何处，她都会坚持一些小习惯。比如用她喜欢的菊苣蘑菇混合物制作法式压滤咖啡，或者通过她老师纽约工作室的视频进行日常瑜伽课。她总是在旅行回家的那天尝试做饭，让自己再次感到踏实，就像一个人生活在这个世界上，而不是一个木棍上的大脑。
她如饥似渴地阅读技术政治史，如今，她通过所学到的经验教训重塑现有技术生态系统，这让她充满活力。
[AI] 市场现在非常疯狂。她表示，A 系列（早期初创企业）投资的 70% 来自超大规模企业，其中大部分又回到了超大规模企业，她指的是云公司微软、谷歌和亚马逊。它就像波将金市场，但不是真正的市场。
惠特克认为，其后果是少数集中的参与者正在决定人工智能的形态，并最终决定谁可以使用能够在健康、战争、金融服务和能源领域做出敏感决定的系统。她说，一个真正有问题的假设是，你必须拥有计算机科学学位才能做出有关医疗保健、教育或公共机构资源分配的决定。我们被引导将这些[人工智能系统]视为一种.。。科学进步的革命性转折点。我不认为他们是那样的。它们是大规模网络垄断的衍生品，也是这些垄断扩大影响力的一种方式。
我问她是否认为我们现在正在构建的人工智能系统有产生积极影响的潜力，但她反驳道。她表示，如果没有彻底的社会变革，这种重组将会扰乱围绕人工智能的经济力量以及目前控制人工智能的少数私营公司，但也会将社会目标置于收入和增长之上。为了做到这一点，她参考了 Maria Farrell 和 Robin Berjon 提出的想法，即重新野化互联网，更新当前的生态系统，使其被其他松树和森林生命、多元化的数字生命所包围。
她认为 Signal 等项目在这方面发挥了作用。她说，[大型科技公司]的独立替代品实际上是远离这些范式的避风港。对我来说，为另一种技术模式而奋斗，作为面对不同意见和诚实的基础设施。。。监视，它是同一个项目。这只是另一个做这件事的地方。
Madhumita Murgia 是英国《金融时报》人工智能编辑
首先在 Instagram 和 X 上关注《金融时报周末》，了解我们的最新故事，然后随时随地订阅我们的播客《Life Art》