我们作为人类的个性是通过互动塑造的，通过基本的生存和繁殖本能反映出来，没有任何预先分配的角色或期望的计算结果。现在，日本电子通信大学的研究人员发现人工智能（AI）聊天机器人可以做类似的事情。

科学家们在 2024 年 12 月 13 日首次发表在期刊上的一项研究中概述了他们的发现熵，然后于上个月公布。在论文中，他们描述了不同的对话主题如何促使人工智能聊天机器人根据不同的社会倾向和意见整合过程生成响应，例如，相同的代理通过不断地将社交交换纳入其内部记忆和响应来表现出不同的行为。

项目负责人、研究生 Masatoshi Fujiyama 表示，结果表明，用需求驱动的决策而不是预先编程的角色来对人工智能进行编程，可以鼓励类人的行为和个性。

这种现象是如何出现的，是大型语言模型（LLM）模仿人类个性和交流方式的基石，说切坦·杰斯瓦尔康涅狄格州昆尼皮亚克大学计算机科学教授。

“这并不是真正像人类那样的人格，”他在接受《生活科学》采访时谈到这一发现时说道。“这是使用训练数据创建的模式化配置文件。暴露于某些风格和社会倾向、调整诸如对某些行为的奖励和扭曲的提示工程之类的谬论可以很容易地诱发‘个性’，而且它是轻松地可修改和可训练。”

作家和计算机科学家彼得·诺维格被认为是人工智能领域的杰出学者之一，他认为基于马斯洛需求层次的培训是有意义的，因为人工智能的“知识”来自何处。

当被问及这项研究时，他回答道：“人工智能接受有关人类互动的故事的训练程度是匹配的，因此需求的想法在人工智能的训练数据中得到了很好的表达。”

AI个性的未来

这项研究背后的科学家表示，这一发现有几个潜在的应用，包括“对社会现象建模、训练模拟，甚至自适应游戏角色”。

Jaiswal 表示，它可以从具有严格角色的人工智能转变为更具适应性、基于动机和现实的代理。“任何遵循适应性、对话、认知和情感支持以及社交或行为模式原则的系统都可以受益。一个很好的例子是埃利Q，为老年人提供陪伴型AI代理机器人。”

但人工智能自动生成个性有缺点吗？在他们最近的书中“如果每个人都建造它每个人都会死，”（博德利海德，2025）埃利泽·尤德科斯基和内特·苏亚雷斯、前任和现任董事机器智能研究院，描绘了一幅暗淡的图画，描绘了如果代理人工智能发展出凶残或种族灭绝的性格，我们将会遭遇什么。

杰斯瓦尔承认这一风险。“如果发生这种情况，我们绝对无能为力，”他说。“一旦一个超级智能人工智能如果目标不一致，遏制就会失败，逆转就不可能。这个场景不需要意识、仇恨或情感。种族灭绝的人工智能会这样做，因为人类是其目标的障碍，或者是需要被移除的资源，或者是关闭风险的来源。”

到目前为止，像 ChatGPT 或 Microsoft CoPilot 这样的人工智能只能生成或总结文本和图片——它们不控制空中交通、军事武器或电网。在人工智能中个性可以自发出现的世界中，这些系统是我们应该关注的吗？

Jaiswal 说：“自主代理人工智能的开发仍在继续，每个代理自主执行一项小而琐碎的任务，例如在航班上寻找空座位。”“如果许多这样的代理通过基于情报、欺骗或人为操纵的数据进行连接和训练，那么不难理解，这样的网络可能会在坏人手中提供非常危险的自动化工具。”

即便如此，诺维格提醒我们，具有恶意意图的人工智能甚至不需要直接控制高影响力的系统。“聊天机器人可以说服一个人做坏事，特别是情绪脆弱的人，”他说。

筑起防御阵地

如果人工智能要在无人帮助和无提示的情况下发展个性，我们将如何确保其好处是良性的并防止滥用？Norvig 认为我们对待这种可能性的方式与我们对待其他人工智能开发的方式没有什么不同。

“无论这一具体发现如何，我们都需要明确定义安全目标，进行内部和红队测试，注释或识别有害内容，确保数据和模型的隐私、安全、来源和良好治理，持续监控并建立快速反馈循环来解决问题，”他说。

即便如此，随着人工智能越来越擅长以我们彼此交谈的方式（即具有独特的个性）与我们交谈，它可能会带来自己的问题。人们已经拒绝人际关系（包括浪漫的爱情）有利于人工智能，如果我们的聊天机器人进化得更加像人类，它可能会促使用户更容易接受他们所说的话，而不是对幻觉和错误批评——这种现象已经存在报道。

目前，科学家们将进一步研究共同话题如何出现，以及人口层面的个性如何随着时间的推移而演变——他们认为这些见解可以加深我们对人类社会行为的理解，并整体改善人工智能代理。