科技工作者分享 40 个公众很少了解的关于人工智能的黑暗真相
过去几年，公众的讨论主要集中在人工智能上。尽管这项技术被大肆宣传并拥有大量支持者，但也有很多怀疑者。人们担心它的（不）道德使用、环境影响、对人类的影响就业市场，等等。
在 AskReddit 上的一条富有启发性的帖子中，科技工作者和精通人工智能的互联网用户透露关于人工智能的一些秘密工业公众可能不知道的事情。向下滚动以阅读他们的见解。
我们正在迅速达到人工智能正在对人工智能生成的内容进行训练的阶段。由于互联网上充斥着人工智能文本，新模型正在从旧模型的“错误”中学习。这是一个导致“模型崩溃”的反馈循环，人工智能最终会变成一个扭曲的、荒谬的版本，因为它已经好几个月没有看到新的、人类创建的数据了。
好的-浴室273 报告
人工智能产业规模非常庞大。根据 Statista 的数据，人工智能技术的市场规模约为2440亿美元到 2025 年，预计到 2030 年将增至 8000 亿美元。 自然，这让很多人想知道这些投资是否值得其实际价值。有些人担心我们对人工智能公司和工具的（过度）投资类似于某种经济泡沫。 他们认为，公众现在可以使用的人工智能工具存在缺陷、不可靠且有限，往往会导致工作量增加而不是减少。简而言之，他们认为这项技术是过度炒作而且并不像大型科技公司让你相信的那么好。 与此同时，支持者认为这项技术是如此基础和普遍，因此不会消失。从他们的角度来看，重要的是不仅要尽快投资该技术，而且还要将其采用并集成到您的业务中。工作流程，无论你做什么。
这完全是一场赌博。这些公司正在利用大量借来的资金，看看是否可以将现在的情况变成一座金矿，使他们能够在下一个世纪或更长时间内利用它。 如果泡沫破裂呢？他们申请破产，银行规模太大而不能倒闭。这意味着我们人民可以买单。
我不是技术工作者，但我确实认识这次推动中更高级别的人：
人工智能是一个非常广泛的类别。每个人都会自然而然地认为这是疯狂的 LLM 风格的人工智能，然而人工智能学习模型已经存在很长时间并且可以做各种各样的事情。诸如垃圾邮件过滤器、预测文本或导航系统的流量避免等，这些都是机器学习类别中人工智能的变体。这些工具不会占用工作岗位，而是让我们的生活更轻松。 还有一些人工智能机器学习模型确实可以取代工作，但实际上比人类做得更好。就像检查组件是否存在缺陷一样。他们可以更快地识别人们可能错过的事情。这使得产品质量更好、更安全。
大多数人不明白人工智能是什么，甚至是“科技”人士。
然而，麻省理工学院媒体实验室/NANDA 项目最近的一份报告发现，生成式 AI 的投资中有 95% 的回报率为零，令人瞠目结舌。 正如哈佛商业评论报告尽管个人正在采用生成式人工智能工具，但结果仍然无法以企业的损益水平来衡量。
一个肮脏的秘密是，许多“人工智能”并不像人们想象的那样自主或智能。
许多系统严重依赖幕后的大量人力：数据标记、审核、清理、边缘情况和持续的人工干预。公众看到的是一个完美的模型，但其背后却有成千上万的低薪工人实时纠正错误、过滤输出和修补故障。
另一个令人不安的事实是，大多数人工智能产品并未针对事实或长期利益进行优化。它们针对参与度、保留率和收入进行了优化。如果一个模型让用户着迷，即使它巧妙地强化了坏习惯、错误信息或依赖性，它也被认为是成功的。
人工智能不会对人类“撒谎”，但塑造它的激励措施很少与人类福祉保持一致。这个差距比大多数营销人员承认的要大得多。
亲爱的熊猫，我们想听听您的想法。您可以在下面的评论中分享它们。 您对人工智能技术和整个行业有何看法？您认为它被夸大了，还是您认为它是未来？到目前为止，您个人注意到的人工智能工具最大的优点和缺点是什么？让我们知道！
如果人工智能是力量倍增器，那么企业有两种选择： 1) 减少劳动力以抵消这种绩效提升，并以更少的人员实现与以前相同的效果 这说明几乎每家公司都选择了选项 1。如果这真如人们所声称的那样，那么他们都会涌入选项 2，并试图赢得更多市场。相反，它是一种方便的掩护，可以减少劳动力，同时保持良好的公关故事。
2）利用现有的劳动力以及人工智能提供的力量倍增器，留住现有的人员并获得更多的市场份额。
灰岩 报告
由于人工智能能够处理他们通常会做的大部分繁重工作，人们不再雇佣初级员工，其后果在十到十五年后绝对是毁灭性的。 老守卫将会退休，我们会突然拥有很多高级开发人员，而需要管理的人却很少。轮到他们离开的时候……嗯……
查拉兰波斯 报告
这有点像“信心陷阱”。如果你要求一个不存在的具体统计数据或来源，它通常会发明一个听起来合理的引文只是为了提供帮助。除非明确被迫承认，否则“我不知道”的概念为零。这是有可能的。克服这种“取悦他人”的趋势需要明确的“不确定性提示”，以迫使模型标记不确定的内容，而不是猜测。”我在出版物中展示了此类问题的解决方案以及处理这些问题的方法。
肮脏的秘密是这些模型并未针对真实情况进行优化；它们针对合理性进行了优化。它们旨在预测下一个让用户满意的单词，而不是实际上正确的单词。
- 整个互联网（网页浏览）将从根本上转变为基于人工智能 - 公司正在摆脱对人工智能的依赖。是的，多年来每个人都在说人工智能将会取代每个人的工作和祖母，但阻力是真实存在的 - 作为从事人工智能（教育和癌症研究）工作的人，我面临的强烈反对是真实的。
AI工程师来了
更改默认搜索参数以获得更准确的信息（取决于您想要的信息。）如果您想要合法信息，则必须提供 AI 搜索参数，否则它往往会使用 Reddit、FB、维基百科等来获取大量结果。例如，如果您正在研究蘑菇，您想要指定并表示您不需要来自 Reddit、FB、维基百科等的任何信息，而您只需要来自真菌学家、真菌生物学家、植物病理学家、类似领域的专家、博士、已发表的研究论文和书籍等的信息。当您指定不同的搜索参数时，您将得到完全不同的答案。
但编写代码通常是最简单的部分。最困难的部分是弄清楚事情应该如何运作。 人工智能也可以在这方面提供帮助，但如果你给人工智能一个模棱两可的问题并让它选择，那么人工智能就会做出一些疯狂的东西。 所以它作为一种工具很好，但目前还很难取代人类。
它非常擅长编码。几乎不可能再回到手工编写所有代码的情况了。
开放 AI 需要收回 1.5 万亿美元（1.5 万亿美元）才能实现硬件投资成本平衡。 他们目前的“收入”仅为每年 130 亿美元。
Google 通过控制几乎所有在线广告市场每年赚取约 2500 亿美元。
我们拥有的更类似于自适应算法。这令人印象深刻，但它不是人工智能。
它不是真正的人工智能。还是需要提示。它没有真正的自主权或自我启发的独立运营。它完全依赖于预编程和外部支持。
对于每一个过度炒作的承诺人工智能革命的初创公司来说，都有 1000 名白领每天悄悄地使用法学硕士来完成基本任务。无需多想，他们就不需要雇用初级开发人员或扩大管理人员或补充退休人员，因为他们可以做得更多、做得更快。 肮脏的秘密是入门级白领工作正在消失。这意味着大学正在出售一张正在拆除的火车票，而填补未来高级职位的渠道却是空的。
机甲 报告
人工智能无法完全取代软件工程师……甚至连初级@.@都不能，为了让任何公司有机会取代开发人员，他们需要一个强大的开发流程，该流程有据可查/全面，但很少有公司拥有。
内存0 报告
许多公司认为有必要整合人工智能来“保持竞争力”，但他们不知道如何利用人工智能，但这并不能阻止他们。
行动卡尔霍恩 报告
大多数公司所推崇的人工智能并不是人工智能。这只是自动化。它只是让系统相互对话并启动流程，而无需人工干预。 Agentic AI 机器人本质上只是连接到常见问题解答文档，查找关键词，然后给出答案并在后端自动创建 zendesk 票证（由真人处理）。然后，当它认识到除了提示之外还需要更多帮助时，它会联系真人来解决问题。 是的，人工智能和自动化正在改变劳动力。但他们所做的并没有科技公司声称的那么好。
冈兹1224 报告
Reddit 去年与谷歌合作。这部分并不是什么秘密，但大多数人没有意识到的是，你在这里发布的所有内容，我的意思是绝对所有内容，都被用来训练谷歌的人工智能模型。然后，该模型被用于通过机器人帐户在 Reddit 上回发以用于许多不同的目的。然后，所有信息都会反馈到人工智能中，再次发布、反馈等等。因此，你们不仅在这里与机器人争论，而且还与脑白质切除的脑死亡机器人争论，这些机器人正在用您自己反刍的话语来反击您。这有点像在墙上打网球，墙上贴着一张制作粗糙的你的图画。
我是施工方，许多建设这些人工智能数据中心的承包商并不知道他们在做什么。需求是尽快建成这些数据中心。但市场上根本没有足够的有能力的总承包商能够做到这一点。因此，这导致了一群没有数据中心工作经验的总承包商和分包商构建这些项目。 这意味着现场会出现很多错误并需要返工。使这些项目的建设成本比最初预算高出两倍或三倍。
乔纳森·斯塔特 报告
人工智能并不新鲜。人们的行为就像 LLM（为 ChatGPT 等提供动力的东西）是人工智能的全部和最终目标，但它实际上只是第一个“病毒式”人工智能工具。过去 15 年来，人工智能对于您使用过的几乎所有产品和服务都至关重要；一切都使用推荐系统、计算机视觉和语音识别。法学硕士在文本生成（现在是图像生成）方面取得了令人难以置信的飞跃，但这些可能是人工智能最不实用的两个应用。 自 2016 年以来，人工智能工程一直是我的全职工作，自新冠疫情以来最大的区别不是我们能做什么，而是管理层希望我们如何做。
现在的孩子 报告
AI公司不赚钱，大多数初创公司都是为了获得VC和反弹而进行的骗局。同样，仅仅因为人工智能实际上无法完成你的工作并不意味着你的老板不会解雇你并试图用人工智能取代你。说服他们的不是人工智能，而是推销员。
800伏 报告
在大多数组织中衡量其影响和投资回报率的能力基本上不存在，并且需要大量的事后思考。 每当 Copilot 在 excel、outlooks 或 powerpoint 中弹出时，它就会被视为员工实际使用过它，他们将其等同于节省了时间，从而节省了效率。工具计数器 (Viva) 报告的数字显示，大型组织节省了数百万美元，而实际上，这一数字还远未达到...... 那些花钱让组织拥有“人工智能”的高管只是这样做，这样他们就可以告诉老板他们正在适应和使用人工智能，他们也可以对老板说同样的话，等等。这是一个解决方案，寻找问题。 此外，我们构建的 90% 的代理花费了公司 30 万美元的团队来实施，而我们只是将查询连接到知识源以获取他们可能会自己更快找到的信息......
弗拉尼根·瓦克曼 报告
许多公司浪费大量资金使用人工智能来解决那些没有人工智能就更容易解决的问题，只是为了让他们的高管可以向市场说“我们也使用人工智能”。 在真正的组织用例中，人工智能是所有可用解决方案中最好的，并能提供真正的投资回报率，但这种情况微乎其微。当前的市场存在巨大泡沫，但每个人都投入太多，无法泄露秘密。 这相当于企业的补间趋势，背后有数万亿美元的资金支持。
魔铃 报告
看起来我们已经想出了一种比麦当劳使用比特币更快地浪费更多能源（现在还有水）的方法。
短小精悍的网络-3863 报告
这不是私人的。虽然一些公司试图将您的数据保密，但大多数公司都将其用于训练。当有些人将其用于数据极其敏感的治疗等用途时，这一点尤其可怕。
安卡利梅9 报告
人工智能不是一场烟雾表演，也不是一个泡沫，而且就其对社会的影响而言，它很可能被低估了。 人工智能很可能是硅谷历史上最强大、最独特的技术。我们观察到，随着我们扩展模型大小和用于训练模型的数据，性能会提高到现在在我们能想到的几乎所有智能基准上都可以超越人类的程度。 结果，每家公司都陷入了构建最强大的人工智能模型的囚徒困境，因为潜在的回报是如此之高。
我在硅谷的一家大型科技公司工作，您肯定听说过这家公司。
推动人工智能发展的人很少有人知道如何使用它。就我个人而言，我认为它会像虚拟世界一样，但不仅仅是 Facebook 在全世界进行购买。
作为一个局外人，我认为人工智能/通用人工智能的最大秘密是它是一个失控的混乱，没有人真正知道如何处理。
鲍布瓦加邦德 报告
您放入 ChatGPT 和大多数大型人工智能机器人中的所有内容都可以被任何人搜索到，并且几乎没有立法限制公司将其提供给后端的执法部门。
刚刚好 报告
由于法学硕士的存在，AGI 的进展已经非常稳定。三年前，大型机器学习会议将提出数十个新想法和基础研究，现在都是对现有基于注意力的架构的微小修改和微观优化。可悲的是，基准测试反映了这一点。
我认为他们谈论想要更多的数据中心是非常低效的，但我们有气候变化等等。没有人想要核电，他们不断占领农田用于太阳能发电似乎很疯狂。我有预感，这将成为一种时尚，然后像 .com 的泡沫一样爆发。
网络王19 报告