“基本上为零，垃圾”：著名数学家乔尔·大卫·哈姆金斯 (Joel David Hamkins) 宣称人工智能模型对于解决数学问题毫无用处。这就是为什么
作者：Trending Desk
对大型语言模型在数学研究中的效用表示强烈怀疑，称其输出是“垃圾”和“数学上不正确的”。著名数学家、圣母大学逻辑学教授乔尔·哈姆金斯 (Joel Hamkins) 最近分享了他对大语言模型在 Lex Fridman 播客上露面期间从事数学研究。据《印度时报》报道，他称大型语言模型根本毫无用处，并表示它们给出了“数学上不正确的垃圾答案”。
“我想我会区分我们目前所拥有的和未来几年可能出现的情况，”哈姆金斯开始说道，承认未来进步的可能性。– 我已经尝试过它并尝试过，但我没有发现它有任何帮助。基本为零。这对我没有帮助。我使用过各种系统等、付费模型等。”
尽管尝试了各种模型，乔尔·大卫·哈姆金斯还是对当前的人工智能系统表示失望。“我已经尝试过它并尝试过，但我发现它根本没有帮助，”他直言不讳地说。
另请阅读：杰夫·贝佐斯揭示了亚马逊万亿美元成功背后的第一大秘密，为年轻人提出了独特的建议
乔尔·哈姆金斯觉得什么更令人沮丧？
数学家约翰·哈姆金斯 (John Hamkins) 认为，人工智能自信地犯错的倾向反映了一些最令人沮丧的人类互动。对他来说更关心的是人工智能系统在这些错误突出时如何反应，而不是偶尔的数学错误。当乔尔·大卫·哈姆金斯（Joel David Hamkins）强调其推理中的明显缺陷时，模型通常会轻快地做出保证，例如“哦，完全没问题”。这种人工智能的反应加上自信、不正确和对纠正的抵制，对协作信任构成了威胁，而协作信任是有意义和重要的数学对话所非常需要的。
“如果我与一个人有过这样的经历，我会拒绝再次与那个人交谈，”哈姆金斯说，并指出人工智能的行为类似于他会积极避免的非生产性人类互动。他认为，当谈到真正的数学推理时，当今的人工智能系统仍然不可靠。
“令人沮丧的是，当你不得不争论他们给你的论点是否正确时。然后你就准确地指出了错误。”哈姆金斯在描述交流时说，他指出了人工智能推理中的具体缺陷。AI 的反应是什么？“哦，这完全没问题。”这种自信的错误模式，随后又驳回合理的批评，反映了哈姆金斯认为站不住脚的一种人际互动方式：“如果我与一个人有过这样的经历，我会拒绝再次与那个人交谈。”
另请阅读：《怪奇物语》第九集明天上映？关于“整合门”理论和 Netflix 科幻剧集结局理论的一切解释
尽管存在这些问题，哈姆金斯认识到当前的限制可能不会是永久性的。– 人们必须忽视这些缺陷，因此我倾向于对当前人工智能系统的价值持怀疑态度。就数学推理而言，似乎不太可靠。”
他的批评之际，数学界对人工智能在研究中日益重要的作用反应不一。虽然一些学者报告了使用人工智能来探索 Erdå 收藏中的问题的进展，但其他学者则敦促谨慎行事。例如，数学家陶哲轩警告说，人工智能可以生成看似完美的证明，但其中包含人类裁判不会接受的细微错误。争论的核心是一个持续存在的差距：基准测试和标准化测试的强劲表现并不一定会转化为领域专家在现实世界中的用处。
另请阅读：银行裁员 20 万人：科技行业重组后，摩根士丹利发布重大警告，人工智能瞄准另一个主要行业
乔尔·大卫·哈姆金斯是谁？
乔尔·大卫·哈姆金斯是一位数学家和哲学家，致力于数学和无限哲学的研究。他在加州大学伯克利分校获得数学博士学位，并从牛津大学来到圣母大学，担任哲学系逻辑学教授和牛津大学学院彼得·斯特劳森爵士哲学研究员。在此之前，他在纽约城市大学的数学、哲学和计算机科学领域长期担任职务。
他的工作涵盖了广泛的重要主题，包括逻辑、可计算性理论、博弈论、无穷哲学等等。乔尔是多本书的作者，包括《数学哲学讲座》和《无限之书》，他在他的 Substack Infinitely More 上以连载形式出版了这本书。
（带 TOI 输入）