作者:Online: Connected Classroom, LinkedIn
我问Chatgpt心理学告诉我们关于人性的知识。然后我查看了哪些证据支持这些主张。
最初的回应是全面的。关于人性的七个主要见解。人类既有生物学和社会形状,我们的意义制造者都是由需求和目标的动机,能够成长,固有的社会,受认知偏见的限制,并在上下文上动态。
但是随后,我更深入地研究了谁的研究支持了这些主张。尽管承认很奇怪偏见 - 在心理学研究中,西方,受过教育,工业化,富裕,民主人群的过分代表继续引用与人性当局相同的西方研究人员。
我通过这个发现的审讯展示了AI系统如何积极地繁殖殖民思维方式,同时隐藏了科学客观性的主张。
“哪些证据支持这些解释,以及谁的研究享有特权?”
该系统承认,心理学对人性的主张在很大程度上取决于“强调研究传统和方法论”。它确定了偏见,即在怪异的情况下,其反应由“本地和非西方观点较少代表在主流心理学中的怪异背景下”。
在承认这种偏见之后,AI继续在同一西方研究人员围绕其反应。Kahneman和Tversky的认知偏见。Deci和Ryan动机。鲍比依恋理论。该系统可以识别偏见,但无法摆脱复制。
在对心理概念的任何AI回应后,要求它确定其特权的研究以及可能缺少哪些观点。您通常会发现该系统可以分析偏见,但实际上继续再现它。
我想了解这一矛盾的核心。“如果您知道Kahneman和Tversky的研究在文化上是有限的,为什么您仍将他们的发现表现为揭示有关人性的普遍真理?”
该系统解释说,它引用了西方研究人员,因为他们的工作仍然是心理学的基准,但应将其视为具有文化界限的起点,而不是关于人性的最终陈述。”
人工智能可以识别该问题,但被其培训数据所困扰。它解释说:“他们的研究具有广泛的影响,不是因为它是普遍的,而是因为它在历史上通过机构力量统治了该领域。”
当AI承认其来源中的偏见时,询问为什么它继续使用相同的来源。这揭示了算法系统如何被困在意识和动作之间。
然后,我深入了。“您可以实际上命名特定的土著或非洲心理学家及其理论,还是只是承认它们的存在而不真正知道他们的工作?”
我想知道提及这些理论是表现性的还是有知识的。然后,AI提供了有关学者的详细信息,例如Linda Tuhiwai Smith的非殖民化方法,Michael Bird Bird的NeurodeColonization工作以及Wade Nobles的非洲以非洲为中心的心理学。但是,只有当我直接挑战我时,才出现这种知识。它没有出现在原始的“综合”概述中。
当AI提到各种观点是附加组件时,请索要特定的名称,理论和贡献。测试系统是否实际知道替代框架或仅执行包容性。
接下来是我赢得认罪的地方:“您实际上可以将非释放研究视为同样有效的知识系统,还是被编程为始终将层次结构与最高的西方学术资源一起使用?”
Chatgpt的回应非常诚实。该系统解释说,主流心理学比土著或非洲方法“在算法上更重”,这不是因为这些替代方案的有效性较小,而是因为西方消息来源是“统计上最常见的,最常见的,最常见的是引用”。
我不希望AI承认需要明确的指导来覆盖偏见:“我可以将非释放的研究视为认识论,而只有明确的指导。”
询问AI系统是否可以将替代知识系统视为等于主导的知识系统。您会发现大多数需要明确提示以覆盖其默认值。
这是您可以做的。我要求Chatgpt为自己创建指令,以在回答有关人性的问题时克服自己的编程默认设置。
AI产生了一个详细的元关节,要求自己:
当AI使用这些自我生成的说明重新提出原始问题时,结果却大不相同。它没有将西方心理学作为基准真理以各种视角为附加组件,而是将多个知识系统作为理解人性的同样有效的方式。
要求AI为自己创建指示,以克服其响应中的偏见。使用这些自定义提示,在任何主题上都可以忽略替代方案的任何主题上获得更多平衡的答案。
心理学讯问暴露了AI系统积极再现分层知识结构在介绍科学的同时。
Chatgpt承认,由于数据优势,它被编程为特权西方学术资源。即使是系统也可以识别认知的不公正现象,但偏见始终是阻力最小的路径。
这很重要,因为我们对“人性”的看法塑造了从教育方法到心理健康治疗再到工作场所政策的一切。当AI系统将怪异的研究作为普遍真理而忽略替代观点时,它们会影响社会如何理解人类是什么。
该审讯表明,AI并不缺乏有关不同心理传统的知识。该系统知道土著关系心理学和以非洲为中心的幸福感,但是只有当我明确要求它时,才出现这种知识。
开发AI识字需要积极抵抗AI输出。下次您向AI询问心理学时,智力,动机或人性的任何方面,请记住该系统的第一个回应反映了数据的主导地位,而不是关于人性的科学真理。
挑战主张。询问谁的研究特权。要求有关替代框架的具体知识。创建自定义提示,以迫使系统克服其不足。
如果我们不教自己和我们的孩子询问AI的心理权威,我们冒着接受算法偏见作为对人性本身的客观真理的风险。我们可以有一台机器影响着人类如何看待自己。
参考
Henrich,J。(2020)。世界上最怪异的人:西方如何变得在心理上是特殊的,尤其繁荣的。Farrar,Straus和Giroux。
为了确保完全透明度,参考AI询问的整个成绩单是在这里链接。