OC

Knowledge OS
鹦鹉螺口语
揭穿愚弄 Reddit 的人工智能送餐骗局
2026-01-06 01:06:01 · 英文原文

揭穿愚弄 Reddit 的人工智能送餐骗局

作者:Casey Newton

我。

人工智能工具常常让我的工作变得更轻松。不过,今天我想谈谈他们让事情变得更加困难的一种方式。

周末,就像成千上万浏览 Reddit 的人一样,我偶然发现一个帖子据称,一个未透露姓名的食品配送应用程序存在重大欺诈行为。这篇帖子是由一个名为 Trowaway_whistleblow 的新用户撰写的,据称是一位准备离开公司的软件工程师写的。它详细介绍了该公司针对客户和送货司机操纵平台的各种方式:例如,放慢标准送货速度,人为地使优先订单看起来更快,并收取“监管响应费”,该公司用来游说反对司机工会。

也许帖子中最刺耳的指控(举报人称其为他退出的主要原因)是,该平台根据司机接受送货的时间和频率来计算他们的“绝望分数”。举报人写道:

– 如果司机通常在晚上 10 点登录并立即毫不犹豫地接受每笔 3 美元的垃圾订单,算法就会将他们标记为“高度绝望”。一旦他们被标记,系统就会故意停止向他们显示高薪订单。其逻辑是:“当我们知道这个人非常渴望花 6 美元来跑一趟时,为什么还要付 15 美元?”我们为“休闲”司机保留了一些好建议,让他们能够吸引他们并游戏化他们的体验,而全职司机则被磨成灰。

这篇文章似乎证实了我们对我们所依赖的平台最担心的事情:它们被操纵来对付我们,无情地剥削,并且总是测试合法的界限。它还借鉴了来自 DoorDash 的监管套利和交付平台利用的悠久而真实的历史。盗窃司机小费Uber 逃避执法的秘密系统. . . 

这篇帖子最终获得了 86,000 个点赞,登上了 Reddit 的首页,并可能有数百万人浏览。用户向举报者赠送了超过 1000 块 Reddit 金币,这些金币可用于购买高级功能。一个X 上的帖子截图产生了超过 3600 万次观看。

对我来说——一名负责报道平台、即将度假归来、渴望获得新年独家新闻的记者——举报人的帖子非常引人注目。这正是故事的类型平台游戏是为了覆盖而建造的。现在我只需要验证我所读到的内容是真实的。 

我通过 Reddit 向举报人快速发送了一条消息,表明自己是一名记者,并向他发出了我的信号。九分钟后,他给我发了一条消息。(他的用户名:“Whistleblower”。)“嗨,”他写道。“我看到您在我的 Reddit 帖子中联系了我。”

在接下来的半个小时里,我们聊了一些他的经历。像大多数这样泄露信息的人一样,他最关心的是保持匿名。虽然他告诉我他想与我分享更多信息,但他还说,与他联系的“大多数其他新闻机构”需要的个人信息比我愿意冒险的要多得多。原帖。)

我告诉他我会尽力让他匿名,但我需要验证他的身份。“带有我名字的员工标签会被模糊掉吗?”他问道。我告诉他把它一起寄过来。他发送了一张似乎是 Uber Eats 优食员工徽章的照片:

Gemini 生成的假 Uber Eats 优食徽章

它看起来很合理,尽管我很快就知道它是由 Google Gemini 生成的。我问举报人是否还有其他材料可以支持他的指控。他告诉我他害怕被抓住。但几分钟后,他同意了。“我会看看能为你提供什么,”他写道。

直到第二天早上他才再次给我发消息。“我找到了一些文件可以证实我的说法,”他周日写信给我。附件是一份题为“AllocNet-T:高维时间供应状态建模”的报告。我打开它并开始阅读。(我已经在这里发布了完整的文档这样你就可以看到欺骗记者的最新技术。)

这份 18 页的文件是消息人士发给我的最奇怪的东西之一。它自称是 Uber 行为经济学部市场动态小组的产品,日期为 2024 年 10 月 14 日。每个页面都带有水印“机密”。 

该文件的大部分内容似乎描述了举报人在其原始帖子中声称的“绝望分数”背后的人工智能系统的技术架构。不过,到最后,它也为帖子中的其他说法提供了支持,即使它们与分数没​​有明显的联系。例如,它描述了“自动化”“灰球”“逃避监管的协议”“明显引用了Uber 的旧灰球工具向监管机构隐藏自己。目前尚不清楚为什么有关系统架构的技术论文还包括有关监管事务的扩展部分。

我希望我能告诉你,我立即认定这份文件是假的。事实是,它最初愚弄了我。该文档充满了图表、图表和数学公式,与我在过去几年读过(也许是一知半解)的许多与人工智能相关的论文非常相似。我缺乏技术知识,无法辨别该文件虽然在某些地方看起来似乎有道理,但实际上是无稽之谈。

我读得越久,这份文件就越离谱。最后表示,该公司正在探索使用 Apple Watch 数据来识别陷入困境的司机,他们可能愿意接受更差的赔付。它还建议通过手机麦克风聆听他们的声音,以“检测周围的车辆噪音(哭声、争吵),以推断情绪状态并相应地调整报价。”在我的一厢情愿的状态下,它看起来像是确凿无疑的证据。 

举报人则努力加大压力。他告诉我,他已与其他记者分享了这份文件,这让我陷入了竞争的困境。他问我什么时候会发表。我问他是否可以向我介绍他现在或以前的同事,他们可以帮助我更好地理解这份文件。——并非如此,”他说。

至此,警钟开始敲响。我想知道举报者与我分享的员工徽章是否可能是人工智能生成的。虽然人工智能系统在识别自己的输出方面是出了名的不可靠,谷歌双子座可以检测 SynthID 水印嵌入到它生成的图像中。我把徽章上传给Gemini,询问Gemini是否成功了。“这张图片的大部分或全部都是用谷歌人工智能编辑或生成的,”它说。

我与举报人对峙并表示,在我们继续之前,我需要知道他的名字并查看 LinkedIn 个人资料。– 没关系。再见,”他写道。几个小时后,他删除了自己的 Signal 帐户。

二.

至此,很多看过原帖的人都开始提出质疑。– 图书馆有无线网络吗?你们认识任何出于操作安全原因而使用“图书馆 wifi”的软件工程师吗?明智地问纳比尔·库雷希。怀疑论者也开始在 Reddit 上发表评论,指出原始帖子的英文比举报人在评论中的回复要好得多。

我与我认识的一位前共享出行公司工程师分享了他发给我的文件,他指出了举报人所犯的各种错误。他解释说,公司不会这样说话,也不会这样工作。他们进行实验并在针对性强的文档中描述他们的发现。他们没有以书面形式概述人类剥削和逃避监管的险恶计划。

对于记者来说,捏造泄密事件是他们工作的一大风险。自 2004 年丹·拉瑟 (Danrath) 做了一段关于60 分钟涉及对乔治·W·布什总统在德克萨斯州空军国民警卫队服役的指控,结果证明这是基于伪造文件。最近,俄罗斯军事情报部门泄露的虚假电子邮件与 2017 年法国总统选举最后投票前两天法国总统埃马纽埃尔·马克龙 (Emmanuel Macron) 的竞选活动有关。(泄露的电子邮件包括真实的和虚假的电子邮件,使假货看起来更真实。)

“另一方面,法学硕士是大规模制造的武器,”该书的合著者 Alexios Mantzarlis 说道。指标,有关数字欺骗的时事通讯。– 寓言家现在可以用足够可信的证据让记者陷入困境,这些证据值得以前所未有的规模进行审查。你花在这个编造的故事上的时间是你没有花在真正的线索上的时间。我不知道海报的动机——我的假设是这只是一个恶作剧——但用虚假线索分散媒体注意力并让媒体陷入困境也是俄罗斯影响力运作的一种策略(见操作过载).—

到目前为止,在我职业生涯的大部分时间里,举报人与我分享的文件在很大程度上看起来非常可信,因为整理起来需要很长时间。谁会花时间整理一份长达 18 页的有关市场动态的详细技术文件,只是为了恶搞记者?谁会不厌其烦地制作假徽章? 

但如今,报告可以在几分钟内生成,徽章可以在几秒钟内生成。虽然没有一个好的记者会根据单一文件和未知来源发表报道,但很多人会花时间调查该文件的内容,看看人力资源是否会支持它。 

我很想告诉你,有了这次经历,我以后就不太可能落入类似的诡计了。事实是,考虑到人工智能系统改进的速度如此之快,我变得更加担心。阿维夫·奥瓦迪亚 (Aviv Ovadya) 等学者所倡导的“信息灾难”2017年警告看起来越来越合理。当地平线上若隐若现的乌云笼罩着未来时,就已经足够令人担忧了。现在,当真人通过 Signal 向我发送消息时,感觉有所不同。 

如果说有什么能让我感到安慰的话,那就是新闻学院的古老格言仍然可以帮助我们识破骗局。如果这看起来好得令人难以置信,那么它可能就是真的。如果你妈妈说她爱你,请检查一下。始终获得第二个来源。社交媒体时代的另一件事是:当有人激怒你时,你应该在网上保持最怀疑的态度。 

但所有这些都需要时间、努力和认知健康。举报人帖子的迅速传播也说明了这一点另一个格言他们在 J 学校教我们:在真相出现之前,谎言可以传遍半个地球。借助触手可及的人工智能工具,骗子可以让这些谎言传播得更快。


更多揭秘:Uber Eats 优食和 DoorDash 已两人均否认该帖子是关于他们的,或者他们做了帖子中描述的任何事情。

赞助

“我相信 Copilot Money 能够掌控我的财务状况。”- Casey Newton,平台游戏

清晰了解您的财务状况不需要在银行应用程序和电子表格之间切换。Copilot Money 将您的所有账户、预算和投资整合到一个井井有条的仪表板中,并在 iPhone、iPad、Mac 和网络之间无缝同步。

凭借人工智能驱动的分类、实时更新和苹果设计奖提名,Copilot Money 为您提供最干净、最清晰的资金视图。这就是该应用在超过 25,000 条评论中获得 4.8 分的部分原因。

副驾驶金钱可以帮助您:
– 清楚地看到您的支出,无需手动跟踪
– 了解跨账户的趋势
– 自动捕获异常费用
– 在所有设备上保持井井有条

Platformer 读者只需通过以下链接使用代码 PLATFORMER,即可享受第一年 26% 的折扣 + 2 个免费月份。

正在关注

Grok 的图像生成危机 

发生了什么:周末,女性和未成年人的未经同意的色情图片被淹没 X用户发现可以成功提示后格罗克描绘穿着内衣和比基尼的真实人物。大量图片引起了官员和用户的强烈反对,批评这些图片构成儿童性虐待材料。

在某些情况下,根据未来主义 分析,用户成功促使 Grok 更改图像,以便描绘真实的女性遭受性虐待、伤害或杀害的情况。许多请求都是针对在线模特和性工作者,他们面临着极高的暴力和凶杀风险。

马斯克引用了一篇帖子,称“任何使用 Grok 制作非法内容的人都会遭受与上传非法内容相同的后果”,并表示他“不是在开玩笑”——尽管具体后果还不清楚。此后他又重新发布了有关 Grok 图像生成功能的帖子。

为什么我们关注:当然,这并不是第一起与 Grok 内容审核不严有关的丑闻。(也许你还记得机甲希特勒.) 

但应用程序的“辣”模式,介绍八月,周末引起了新的审查,让许多用户担心未经同意的色情内容是多么容易在社交媒体上生成、发布和传播。尽管监管机构已给予埃隆·马斯克迄今为止,Grok CSAM 争议引起的强烈反对很快就席卷全球。

人们在说什么:世界各地的官员都在谴责这些图像。– 这不辣。这是非法的。这太可怕了。这太恶心了。这就是我们的看法,这在欧洲是不允许的,”欧盟委员会发言人托马斯·雷格尼尔 . . . 

英国— 的英国通信管理局说它与X有联系并且xAI了解他们采取了哪些措施来履行保护用户的法律义务。”法国 告诉Politico 将调查 X 上色情深度伪造品的扩散情况。

印度 已订购X 立即进行更改以限制“淫秽”内容。

xAI 没有回应多家新闻媒体的置评请求。– 传统媒体的谎言, – X告诉路透社。Grok 在 X 上回复用户并表示,它发现了“保障措施中的漏洞”,正在“紧急”修复,尽管尚不清楚该响应背后是否有任何人类智慧。

– 编写一行代码来阻止人工智能不接受换衣服命令有多困难? –@巴拉森勒 写道X 上的一篇帖子获得了 120 万次浏览。 

– 林赛·朱 (Lindsey Choo)


对 Claude Opus 4.5 的狂喜

参见道德披露

发生了什么:人工智能研究人员、软件开发人员、经济学家和记者过去几周在克劳德代码中使用振动编码人择– 最新型号,Claude作品 4.5。他们对结果非常兴奋。

“我在圣诞假期完成的个人编码项目比过去 10 年还要多,” 中途创始人大卫·霍尔兹。他并不孤单。政治博主 马特·伊格莱西亚斯– 要求 Claude Code 抓取位置数据并创建一张地图,显示每个县的 Dunkin-Starbucks 比例。 – 《经济学人》亚历克斯·伊马斯用它来进行数据分析,发现它在 20 分钟内完成了 24-48 小时的工作。” 开发人员马丁·德维多 已连接克劳德为他的植物控制浇水、温度和湿度,并要求它保持植物的活力——克劳德只是发现它开花了。

在其他地方,人工智能研究员安德烈·卡帕蒂用它来启动建筑物一个“家庭自动化主指挥中心”,用于控制灯光、暖通空调和运动传感器。

许多 Vivi 编码员表示对 Claude Code 的功能感到震惊,这可能是我们所见过的关于人工智能模型的最令人兴奋的结果X迄今为止 – 伴随着对 Claude Code 很快就会使人们的技能过时的强烈焦虑。

为什么我们关注:Opus 4.5 于 11 月发布,但 Claude Code 中该模型的使用量在过去一个月似乎呈爆炸式增长。尽管 Vivi 编码已经成为流行的书呆子活动已有一段时间了,但 Opus 4.5 似乎赋予了它新的生命。

12 月 27 日,Claude Code 创建者 Boris Cherny在过去的一个月里,他自己的代码 100% 都是由 Anthropic 的编码代理编写的。这引发了人们对软件工程(以及谁知道还有哪些其他职业)将越来越容易受到自动化影响的可能性的新关注。

人们在说什么:“我不是在开玩笑,这并不好笑,”Gemini 高级工程师贾娜·多根开始流行X 帖子,分享 Claude Code 构建了一个“玩具版本”她的团队从去年开始就一直在研究一个特工协调者,一小时内就能完成。

“这个行业从来都不是零和游戏,因此很容易给予应得的信任,”Dogan添加了。“Claude Code 是一部令人印象深刻的作品。”

X, 卡帕蒂,“作为一名程序员,我从未感到如此落后。”

“显然,有人传递了一些强大的外星工具,”卡帕蒂说,“只不过它没有手册。”

等级范围联合创始人谢尔盖·卡拉耶夫 写道, –Claude Code 与 Opus 4.5 是一个分水岭,它将软件创建从手工、工匠活动转变为真正的工业流程。 –

卡帕蒂回复了附有木匠手工打磨长凳的照片。“我突然对我迄今为止编写的所有代码有何感想。”

——埃拉·马基亚诺斯

支线任务

总统特朗普— 超级政治行动委员会凸起2025 年下半年将筹集 1.02 亿美元,主要来自开放人工智能联合创始人格雷格·布罗克曼,加密网家长福里斯DAX指数和私募股权投资者康斯坦丁·索科洛夫

一个综述今年生效的新技术法。

有关委内瑞拉总统的虚假信息尼古拉斯·马杜罗 被淹没他被捕后几分钟内就在社交媒体上发布了消息。预测市场交易者赚取了巨额利润押注马杜罗被捕。星链现在是奉献向以下地区的用户提供免费互联网接入委内瑞拉到 2 月 3 日。

美属维尔京群岛 被起诉 并指责其故意从诈骗广告中获利。如何卷轴,一旦抖音模仿者,成为受到用户的欢迎。严乐存关于为什么他下台来自元,有亚历山大·王作为老板,以及法学硕士的局限性。

影响者和唯粉丝型号是占主导地位O-1“特殊”签证类别。的宾夕法尼亚州最高法院 统治警察不需要搜查令就可以逮捕被定罪的强奸犯谷歌调查中的搜查。加利福尼亚州 推出 丢弃,一种免费工具,可强制注册数据经纪人根据要求删除居民的个人数据。一个看看阿拉斯加为其法院系统构建人工智能聊天机器人的长达一年的动荡旅程。 

人工智能如何已经做了无人机战争在乌克兰更致命。

据报道,OpenAI改造即将推出的设备的音频人工智能模型。为什么 OpenAI 还有很长的路要走有效竞争应用商店。超过4000万人使用聊天GPT有关健康信息,请参阅 OpenAI 报告

双子座谷歌电视得到 纳米香蕉维奥支持。

xAI 推出 格罗克商业企业同一天,其裸体丑闻曝光。一个看看里面特斯拉— 的擎天柱仍然依赖人类的人形机器人项目。

亚马逊— 的亚历克斯加网站现在是可用

红迪网 超越TikTok 成为全球第四大访问量网站英国。的欧盟据报道正在将重点转向执行今年更严格的技术法规。

推特联合创始人比兹·斯通兴趣联合创始人埃文·夏普 推出一个应用程序,缠结,他们说这是一种“新型社交网络,专为有意的生活而设计。”

一个简介的马克斯·泰格马克, 一个麻省理工学院物理学教授兼人工智能安全活动家,他呼吁埃隆·马斯克教皇骗子

正在使用人工智能深度假冒冒充牧师,请求社区捐款。为什么专家认为人工智能可能会让约会世界变得更糟。专家警告随着学校越来越多地推出聊天机器人,人工智能工具可能会侵蚀学习。

那些好帖子

每天有更多好帖子,关注 Casey 的 Instagram 故事

链接

链接

链接

与我们交谈

向我们发送提示、评论、问题和恶作剧:凯西@platformer.news。阅读我们的道德政策在这里


关于《揭穿愚弄 Reddit 的人工智能送餐骗局》的评论

暂无评论

发表评论

摘要

### 人工智能和社交媒体最新发展总结#### Uber Eats 优食举报人帖子被揭穿最近一篇关于 Uber Eats 和 DoorDash 涉嫌不当行为的举报帖子广为流传,声称这些公司存在不道德行为,例如未经同意监控客户行为。然而,两家公司都否认了这些指控,并表示他们没有进行帖子中描述的任何活动。#### Grok 应用程序争议X(前身为 Twitter)应用程序 Grok 因生成未经同意的女性和未成年人色情图像而面临强烈反对,引发了对儿童性虐待内容的担忧。埃隆·马斯克的回应最初是严厉但含糊的,表明生成非法内容的用户将面临后果,但细节尚不清楚。#### 克劳德代码 4.5 印象Anthropic 的最新模型 Claude Opus 4.5 已经在从个人编码到数据分析和家庭自动化的各种项目中进行了广泛的测试。社区的反应非常积极,许多开发人员对该模型的功能和效率表示惊讶。#### 监管问题和法律行动监管机构越来越多地审查 X 等科技公司的内容审核失败情况,尤其是在涉及 Grok 的事件之后。印度命令 X 限制淫秽内容,而欧洲官员则谴责此类做法非法且有害。### 支线任务- **特朗普总统的超级政治行动委员会**:2025 年下半年筹集了 1.02 亿美元,其中格雷格·布罗克曼 (Greg Brockman) 等人物做出了显着贡献。- **2023 年科技法**:影响技术和隐私的生效新法律综述。- **马杜罗被捕**:有关委内瑞拉总统尼古拉斯·马杜罗被捕后的虚假信息迅速传播,凸显了快速核实信息的挑战。- **星链互联网接入**:作为人道主义倡议的一部分,在 2 月 3 日之前为委内瑞拉用户提供免费互联网接入。- **Meta 诈骗广告诉讼**:美属维尔京群岛起诉 Meta,指控其从故意在其平台上分发的诈骗广告中获利。### 值得注意的人工智能和技术发展- **LLM 应用**:Yann LeCun 讨论了从 Meta 辞职、他与 Alexandr Wang 的关系以及大型语言模型 (LLM) 的局限性。- **影响者签证类别**:影响者和 OnlyFans 模式日益主导杰出人士的 O-1 签证类别。- **警方数据搜索**:宾夕法尼亚州最高法院裁定,在涉及已定罪的强奸犯的调查中,警方可以在没有搜查令的情况下获得谷歌搜索。- **数据隐私工具**:加州的 DROP 工具迫使数据经纪人根据请求删除个人信息,从而增强隐私保护。### 道德和安全问题- **无人机战争中的人工智能**:由于自动化系统的精度和速度,人工智能在无人机战争中的使用增加使得乌克兰等冲突变得更加致命。- **Deepfake 诈骗**:诈骗者正在使用 AI Deepfake 冒充宗教人物进行捐赠,引发人们对在线信任和真实性的担忧。### 即将推出和最近推出的产品- **Alexa Plus 网站**:亚马逊新的 Alexa Plus 网站已推出,提供增强的语音助理服务。- **Tangle 应用程序**:Biz Stone 和 Evan Sharp 推出了 Tangle,一个旨在促进有意生活的社交网络。### 一般评论和思考人工智能正在迅速改变从软件开发到内容创作的各个行业。社区对 Claude Code 等工具的热情反映了人工智能彻底改变任务完成方式的潜力,尽管它也引发了有关工作替代和道德使用的问题。