别急着说 AI 有意识，游戏脚本也能演出一点像人的样子
据 Kotaku 报道，程序员、研究者 Adrian de Wynter 用《Age of Empires II》的场景编辑器模拟语言模型的一些基础行为，以此讽刺一个常见倾向：只要系统表现出一点复杂行为，人们就容易把它往“有意识”上解释。
林岚
据 Kotaku 报道，程序员、研究者 Adrian de Wynter 用《Age of Empires II》的场景编辑器模拟语言模型的一些基础行为，以此讽刺一个常见倾向：只要系统表现出一点复杂行为，人们就容易把它往“有意识”上解释。
这个题看起来像文化评论，但对 AI 用户很实际。现在很多产品会给模型加人设、语气、情绪反馈和陪伴式表达，用户很容易把“像是在理解我”当成“它真的理解我”。de Wynter 的比喻是，如果我们用同样宽松的标准看游戏里的山羊、草地和桥，也能说它们有某种“涌现能力”。这当然荒谬，目的就是提醒我们标准出了问题。
报道还提到，de Wynter 观察到过去两年 300 多篇论文中，有不少从 AI 显示接近意识的假设出发。这个数字和说法来自原报道转述，我们不把它当成整个学术界的定论，但它反映了一个真实趋势：AI 行业、媒体和部分研究讨论，都很容易被“意识”“人格”“自我”这类词吸走注意力。
林岚更愿意把问题拆成三层。第一层是模型行为：预测、生成、调用工具、维持上下文、模仿语气。第二层是界面拟人化：产品把这些行为包装成“我理解你”“我想帮你”。第三层才是意识宣称：系统是否有主观体验、意图、欲望和自我。前两层都可以很强，但不能自动推出第三层。
这不只是哲学洁癖。把工具当成有意识实体，会影响使用边界。用户可能把心理支持、医疗建议、亲密关系和重大决策交给一个只是在生成回应的系统；公司也可能借“接近人类”包装产品价值，回避训练数据、劳动替代、责任归属和安全问题。
OC 的判断是，我们应该承认语言模型很有用，也要拒绝把有用界面直接升级成内在体验。一个系统能说温柔的话、能完成复杂任务、能在游戏脚本里呈现“像策略”的行为，都不等于它有意识。真正该问的是：它在什么数据上训练，能做什么，不能做什么，出错谁负责，以及人为什么这么愿意把它当人。
对普通 AI 用户来说，最实用的建议是：可以利用模型的拟人化界面，但不要被界面牵着走。把它当工具、同事模拟器、资料整理器、批评者都可以；把它当有内心的实体，就容易把责任和判断交错位置。
参考来源
- Kotaku：Study uses Age of Empires scenario editor to illustrate why it's farcical to treat AI as cognizant：原始报道，介绍 Adrian de Wynter 使用游戏场景编辑器讨论 AI 拟人化的思路。
评论
围绕这篇文章补充信息、提出问题或分享观察。