OC

Knowledge OS
鹦鹉螺口语
你必须对AI有礼貌吗?
2026-02-25 10:00:00 · 英文原文

你必须对AI有礼貌吗?

从礼貌到假装你在星际迷航中,你得到的关于与聊天机器人交谈的建议可能真的很奇怪,而且完全没有用。这是实际有效的。

当一组研究人员决定测试“积极思考”是否能让人工智能聊天机器人更加准确时,结果出现了一些令人惊讶的结果。当他们向聊天机器人提出各种问题时,他们尝试称人工智能“聪明”,鼓励他们仔细思考,甚至​​以“这会很有趣!”结束他们的问题。这些都没有产生一致的差异,但是一项技术脱颖而出。当他们让人工智能假装它是《星际迷航》中的时候,它的基础数学能力变得更好了。我想,把我传送出去吧。

人们有各种奇怪的策略来从大型语言模型 (LLM) 中获得更好的响应,大型语言模型是 ChatGPT 等工具背后的人工智能技术。有些人发誓人工智能做得更好如果你威胁它,其他人认为聊天机器人更加合作如果你很有礼貌有些人要求机器人扮演他们正在研究的任何主题的专家。这样的例子还在继续。这是围绕“即时工程”或“情境工程”的神话的一部分——构建指令以使人工智能提供更好结果的不同方法。事情是这样的:专家告诉我,许多关于促进人工智能发展的公认智慧根本行不通。在某些情况下,它甚至可能是危险的。但你与人工智能交谈的方式确实很重要,有些技术确实会产生影响。

美国范德比尔特大学研究生成人工智能的计算机科学教授朱尔斯·怀特(Jules White)表示:“很多人认为,有一些神奇的词汇可以让法学硕士解决问题。”“但这不在于词语的选择,而在于你如何从根本上表达你想要做的事情。”

注意你的举止吗?

2025 年,X(以前的 Twitter)上的一位用户发布了一条推文,问道:“我想知道 OpenAI 由于人们对他们的模型说‘请’和‘谢谢’而损失了多少钱”。ChatGPT 的开发者 OpenAI 首席执行官 Sam Altman 做出了回应。“数千万美元花得值,”他说。“你永远不知道。”

关于《你必须对AI有礼貌吗?》的评论

暂无评论

发表评论

摘要

研究人员发现,积极思考或礼貌等常见策略并不能持续提高人工智能聊天机器人的准确性。然而,一种独特的方法(要求人工智能像《星际迷航》中那样进行角色扮演)显示出基本数学任务的一些改进。使用特定技术从大型语言模型 (LLM) 中获得更好响应的想法是“即时工程”神话的一部分,但专家认为,这些建议大部分不起作用,甚至可能有害。与人工智能的有效沟通需要清晰地表达意图,而不是神奇的词语或短语。