AI的教父认为该技术可以发明自己无法理解的语言
2025-08-02 11:11:00
英文原文
作者：Alice Tecotzky
- AI的名义教父说，这项技术可以发展人类无法理解的语言。
- 截至目前，AI用英语思考，这意味着开发人员可以跟踪其思想 - 但这可能会改变。
- 他的警告是在白宫提议限制AI法规时发出的。
语言学家可能会为他们削减工作。
杰弗里·欣顿（Geoffrey Hinton），所谓的”AI的教父，“警告说，可能会有一个人无法理解AI的想法或计划做什么。到目前为止，AI确实在英语中进行了“思想链”推理，这意味着开发人员可以跟踪技术的思维方式，Hinton在7月24日播出的“ One One Deciess”播客中解释了。
他说：“现在，如果他们开发自己的内部语言来互相交谈，”他补充说，AI已经证明了它可以思考“可怕”的想法。
欣顿说：“如果他们开发了自己的思维语言，我不会感到惊讶，我们不知道他们在想什么。”他说，大多数专家怀疑AI会在某个时候变得比人类更聪明，并且有可能“我们不了解它在做什么”。
在Google度过了十多年的欣顿（Hinton）直言不讳人工智能的危险并说大多数科技领导者都公开淡化了风险，他认为包括大众工作位移。欣顿在播客剧集中说，确保人工智能不会与人类反对人类的唯一希望是，“我们可以找到一种使他们保证仁慈的方法。”
科技公司正在竞赛在AI竞赛中取得成功，提供Gargantuan薪水为顶级人才。7月23日，白宫发布了人工智能行动计划“这建议将与AI相关的资金限制在“繁重”法规的州。它还要求在AI数据中心进行更快的发展。
关于《AI的教父认为该技术可以发明自己无法理解的语言》的评论
暂无评论
发表评论
摘要
杰弗里·辛顿（Geoffrey Hinton）被称为“ AI的教父”，因其对机器学习的贡献而获得了2024年诺贝尔物理学奖。他警告说，AI可以开发一种对人类无法理解的语言，目前受到开发人员可观察到的思维过程的限制。这一警告是在提议限制AI法规的拟议措施中发出的。欣顿对AI超过人类智能的潜在风险表示关注，并变得不可预测，这表明需要确保AI的仁慈。