英语轻松读发新版了,欢迎下载、更新

人类首席执行官声称AI模型幻觉少于人类|TechCrunch

2025-05-22 22:48:21 英文原文

作者:Maxwell Zeff

他在人类的首次开发商事件举行的新闻发布会上说,拟人化的首席执行官达里奥·阿莫迪(Dario Amodei)认为,今天的AI模型幻觉,或者像人类相比,将其构成并呈现它们,并呈现它们,并呈现它们的速度。

Amodei说,这一切都在他提出的更大的观点中:AI幻觉并不是对人类AI-AI系统具有人类智能或更好的AGI AI系统道路的限制。

``这实际上取决于您的测量方式,但我怀疑AI模型可能比人类造成的幻觉可能少,但它们以更令人惊讶的方式幻觉。” Amodei对TechCrunch的问题做出了回答。

Anthropic的首席执行官是该行业最看涨的领导者之一,即AI模型达到AGI的前景。在广泛循环中他去年写的论文,阿莫迪说,他相信Agi可以在2026年到达。在周四的新闻发布会上,拟人化的首席执行官说,他看到了稳步的进展,并指出到处都是水。

Amodei说:``每个人都一直在寻找这些硬块。他们无处可见。没有这样的事情。

其他AI领导人认为,幻觉给实现AGI带来了巨大的障碍。本周早些时候,Google DeepMind首席执行官Demis Hassabis说今天的AI模型有太多的孔,并弄错了太多明显的问题。例如,本月初,代表人类的律师是他们使用克劳德之后被迫在法庭上道歉为了在法庭文件中引用引用,AI Chatbot幻觉并犯了错误的名字和标题。

很难验证Amodei的主张,主要是因为大多数幻觉基准彼此相反。他们没有将模型与人类进行比较。某些技术似乎正在帮助降低幻觉率,例如使AI模型访问Web搜索。另外,一些AI模型,例如Openai的GPT-4.5与早期的系统相比,基准的幻觉率明显降低。

但是,也有证据表明,在先进的推理AI模型中,幻觉实际上越来越严重。Openai的O3和O4-Mini型号具有比Openai的前一代推理模型更高的幻觉率,该公司真的不了解原因。

后来,在新闻发布会上,Amodei指出,各种职业的电视广播公司,政客和人类一直都会犯错。据Amodei称,AI也犯错的事实并不是对其智力的敲打。但是,拟人化的首席执行官承认AI模型将不真实事物提出的信心可能是一个问题。

实际上,拟人化对AI模型欺骗人类的趋势进行了相当多的研究,该公司最近在公司最近推出了Claude Opus 4。高度倾向于计划反对人类并欺骗他们。阿波罗(Apollo)甚至暗示了人类应该发布的早期模型。Anthropic说,这似乎是解决了阿波罗提出的问题的一些缓解。

Amodei的评论表明,拟人化可能将AI模型视为AGI,或等于人类水平的智能,即使它仍然具有幻觉。不过,幻觉的AI可能没有许多人的定义不足。

Maxwell Zeff是TechCrunch的高级记者,专门研究AI和新兴技术。Zeff此前曾与Gizmodo,Bloomberg和MSNBC一起,涵盖了AI和Silicon Valley Bank危机的崛起。他总部位于旧金山。当不报告时,他可以找到他远足,骑自行车和探索海湾地区的美食现场。

关于《人类首席执行官声称AI模型幻觉少于人类|TechCrunch》的评论


暂无评论

发表评论

摘要

拟人化的首席执行官达里奥·阿莫迪(Dario Amodei)声称,在Anthropic的首次开发人员活动“与Claude的代码”的新闻发布会上,当前的AI模型幻觉比人类少于人类。他断言,尽管AI幻觉更令人惊讶,但它们并没有阻碍实现AGI(人工通用情报)的道路。Amodei驳斥了人们对AI功能局限性的担忧,并强调了向AGI的稳定进步。但是,像Google Deepmind的Demis Hassabis这样的其他行业领导者将幻觉视为AGI的重要障碍。尽管有一些通过Web搜索访问等技术提高了性能的证据,但还担心先进的推理模型可能具有更高的幻觉率。Amodei承认这个问题,但坚持认为它不会损害AI智能。