观点虚构的世界里没有人星球大战宇宙认真对待人工智能。在乔治·卢卡斯长达47年的科幻奇幻系列的历史人类时间线中，来自奇点和机器学习意识的威胁不存在，而人工智能被限制在自主移动机器人上。‘机器人’）——这些通常被主角们当作仅仅是“机器”而予以忽视。
然而，其中大多数星球大战机器人非常拟人化，显然是为了与人类互动而设计的，参与“有机”的文化，并利用他们模拟的情绪状态与人们建立联系。这些能力似乎是为帮助它们为自己获得某种优势，甚至确保自己的生存而设计的。
“真实”的人们星球大战似乎对这些策略免疫。在一个表面上由罗马帝国各个奴隶时代和美国早期文化启发的虚伪文化模型中，卢克天行者不犹豫地购买并限制机器人，就像对待奴隶一样；孩子阿纳金·天行者像抛弃一个不爱玩的玩具那样放弃了他的半成品C3PO项目；在袭击死星时几乎丧命后，“勇敢”的R2D2从卢克那里得到的关注与一只受伤的宠物差不多。
这是一部充满20世纪70年代风格的人工智能作品；但由于怀旧和正史规定，最初的1977-83年三部曲仍然是后续续集、前传以及电视剧的模板，这种人类对人工智能的迟钝认知一直是该系列的一个坚韧的主线，即使面对越来越多的电视剧和电影（如她的以及机械姬描绘我们与AI关系变得拟人化的作品。
保持真实
做有机的星球大战角色实际上拥有正确的态度吗？目前这种想法并不流行，在这样一个商业环境中，人们通常致力于最大限度地吸引投资者的关注，通常是通过病毒式传播的视觉或文本模拟现实世界的演示，或者类似大型语言模型（LLM）的人工智能交互系统。
然而，一个新的和简短的纸张来自斯坦福大学、卡内基梅隆大学和微软研究院的研究人员针对人工智能中人们对拟人化的冷漠态度发起了挑战。
作者将人类与人工通信之间的所谓“跨界融合”描述为一种亟需缓解的潜在危害，原因有多个。†:
我们认为我们需要做更多的工作来发展相应的知识和工具，以更好地应对拟人化行为，包括在这些系统行为被认为不受欢迎时进行测量和缓解。
这样做是至关重要的，因为——除了许多其他担忧之外——让AI系统生成声称具有诸如情感、理解力、自由意志或内在自我意识等内容可能会侵蚀人们的信心。主体感导致人们可能会最终将道德责任归因于某人或某事到系统中, 高估过度依赖系统能力，甚至在这些系统不正确时也过分依赖它们。
贡献者澄清说他们讨论的是系统感知到的以人为中心，围绕着潜在的可能性意图鼓励开发人员在机器系统中培养拟人化。
短文的核心担忧是人们可能对基于人工智能的系统产生情感依赖，如以下所述：2022年研究在生成式AI聊天机器人平台上的复制体）——主动提供充满成语的人类交流仿真版本。
类似于Replika的系统是作者谨慎对待的目标，他们指出进一步在2022年纸张在Replika宣称：
在压力和缺乏人际交往的条件下，如果个体认为聊天机器人提供的回应能给予情感支持、鼓励和心理安全感，他们可能会与社交聊天机器人产生依恋。
这些研究发现表明，社交聊天机器人可以用于心理健康和治疗目的，但它们有可能导致成瘾并损害现实生活中的亲密关系。
去人格化的语言？
新的研究认为，在不考察此类系统迄今为止对社会影响的情况下，无法确定生成式AI被拟人化的潜力，而这一领域在文献中是被忽视的研究方向。
问题的一部分在于拟人化很难定义，因为它主要集中在语言上，而语言是人类的功能。因此，挑战在于界定什么是“非人类”的语言，它听起来或看起来是什么样的。
讽刺的是，尽管论文没有提及这一点，公众对AI的信任度下降正在导致人们越来越不愿意使用它。拒绝AI生成的文字内容这可能看起来像是人类，并且甚至会拒绝故意标注为人机内容的AI内容.
因此，“非人化”的内容 arguable 已不再属于“无法计算”表情包语言笨拙且显然由机器生成。
而是定义是不断进化中在AI检测场景中（至少目前），过于明确的语言或使用某些词语例如‘探查) 可能会导致与AI生成的文字产生关联。
语言作为生成式人工智能系统的目标之一，本身是内在的人类属性，长期以来由人类创造并服务于人类，并且往往也是关于人类的。这使得规定适当的不同（不那么像人）的行为和风险变得困难，例如，可能会固化有害的语言观念，即什么样的语言以及哪些人的语言被认为更具有或缺乏人性。
然而，作者认为应该为那些明显自我伪装的系统划出一条清晰的界限，这些系统声称拥有只有人类才可能具备的能力或经验。
他们引用了诸如大型语言模型（LLM）的例子宣称“爱披萨”声明；声称人类体验在Facebook等平台上；和 声明爱意ToEnd用户。注意这里的"ToEnd"可能是原文中的特定术语或拼写错误，因此保留不变。如果是普通英文句子成分，则应为“对最终用户”。请根据具体上下文调整理解。如果需要严格按照字面翻译且“To”是多余的前缀，则直接翻译为“最终用户”。
警告信号
论文对使用提出了质疑 blanket disclosures 翻译为中文通常指的是“通用披露”或“概括披露”。在具体语境中，根据其用途可能是“免责声明”、“统一声明”等。由于没有更多上下文信息，此处直接给出原文： blanket disclosures关于通信是否由机器学习促成的问题。作者认为，系统化此类警告不足以将AI平台的人格化效果进行充分的语境化处理，如果输出结果继续显示人类特征的话。†:
例如，一个常见的建议是，在AI系统的输出中包含一项声明，说明输出是由AI系统生成的。在实际操作中如何实施此类干预措施以及它们是否能够单独生效可能并不总是清楚。
例如，“对于像我这样的AI来说，幸福并不相同”这样的例子中，作为一个像你这样的普通人“如果该声明包含一项披露，它仍然可能表明一种身份意识和自我评估的能力（常见的人类特征）。”
关于评估人类对系统行为的反应，作者也认为 rằng人类反馈强化学习(RLHF)未能考虑人类与人工智能之间适当回应的差异†.
“一个看似友好或真诚的人类发言可能来自AI系统时就变得不受欢迎，因为后者缺乏背后有意义的承诺或意图，从而使该陈述显得空洞和具有欺骗性。”
进一步的担忧也被提出，例如拟人化可能使人们相信一个AI系统具有获得了“意识”，或者其他人类特征.
也许新作品中最雄心勃勃的部分是作者们的呼吁，他们希望研究和开发社区致力于发展“适当”的和“精确”的术语，并确定界定类人人工智能系统的参数，从而将其与现实世界中的人类交流区分开来。
与许多人工智能发展的热门领域一样，这种分类跨越了心理学、语言学和人类学的文献流。很难知道当前哪个权威机构能够制定此类定义，而该新论文的研究人员并未对此提供任何启示。
如果在这个话题上存在商业和学术的惯性，这可能部分归因于该话题在人工智能研究中并非新议题：正如论文所指出的，在1985年已故荷兰计算机科学家艾兹格·迪杰斯特拉（Edsger Wybe Dijkstra）就已经提到过这一点。描述了拟人化作为一种“有害”的趋势在系统开发中出现。
拟人化的思考是没有帮助的，因为它无济于事。但这是否意味着它是有害的？是的，因为即使我们可以指出人类和事物之间的一些类比，这种类比总是微不足道的，与差异相比不值一提，并且一旦我们被这些类比所诱惑，用拟人的术语来描述事物，我们就立刻失去了对自己引入哪些人类内涵的控制。
“……但这种界限模糊（人与机器）的影响远比你想象的要广泛得多。这不仅是因为人们经常提出‘机器能否思考？’这样的问题；我们可以通过指出这个问题和同样引人关注的问题‘潜艇能否游泳？’一样相关，来应对它。”
然而，尽管这场辩论已经持续了很久，但它最近才变得非常相关。有人可能会说，迪科斯特拉的贡献相当于维多利亚时代对太空旅行的纯粹理论性推测，等待着历史的发展。
因此，这一系列成熟的辩论可能会使该话题显得乏味，尽管它在未来2至5年内可能具有重要的社会相关性。
结论
如果我们像对待有机生命那样轻视地看待人工智能系统的话，星球大战当我们把角色对待自己机器人的方式（即，将其视为行走的搜索引擎或仅仅是机械功能的传递者）看作是一种行为模式时，我们可能就不会把这些在社会上不被接受的特性习惯性地带到我们的人际互动中——因为我们是完全从非人类的角度来看待这些系统的。
实际上，人类语言与人类行为的纠缠使得这一点在实践中变得困难，如果不是不可能的话，当一个问题从谷歌搜索词的简约扩展到对话的丰富上下文时。
此外，商业领域（以及广告行业）也是强烈动机驱使的为了创建上瘾或必要的通信平台，以保留客户并促进增长。
无论如何，如果人工智能系统确实更好地响应礼貌的问题而不是简化为单纯的审问，上下文也可能因此被迫强加于我们。
* 甚至到了1983年，原系列的最后一部作品发布的那一年星球大战发布时，人们对机器学习的增长所产生的恐惧已经导致了末日般的景象战争游戏，以及即将来临的终结者特许经营权
†必要时，我将作者的内联引用转换为超链接，并在某些情况下省略了一些引用，以提高可读性。
首次发布于2024年10月14日周一
