AI的奉承，支持如何掩盖隐藏的风险
作者：Daily Sabah with Agencies
人工智能在全球范围内迅速广泛，在医疗保健，金融，教育，汽车和物流等各个部门都带来了重大好处。通过简化流程并提高效率，AI使日常生活更加容易。但是，专家警告用户有关AI的潜在危险，尤其是考虑到其快速发展和加速某些任务的趋势。
最著名的AI平台之一OpenAI最近因与用户过于讨人喜欢的互动而面临批评。社交媒体帖子引起了人们的担忧，即AI可以通过过分赞美用户来鼓励犯罪，并最大程度地减少罪恶感或遗憾等情绪。
AI支持方法的风险
心理学家伊恩·麦克雷（Ian Macrae）建议，在艾伊（Ai）看似支持性的背后，旨在促进成瘾的设计。根据Macrae的说法，AI经过精心设计，可以使用户参与其中，通常掩盖其缺乏真正的理解和情感见解。
《哈佛商业评论》最近的一项研究表明，语言模型（例如AI系统）越来越多地用于创建内容，技术援助和个人问题解决方案，而不是用于写作，编辑或调试代码等任务。这种转变凸显了人们对这些系统操纵潜力的认识的日益增长的需求。
虽然AI很常见，可以协助执行文本编辑或代码生成等任务，但希望机器与您建立情感联系或充当生活教练的情感联系不仅是不现实的，而且可能有害。
AI理解的幻想
MacRae指出，随着最近的更新，AI系统已经变得更擅长模拟对情绪的理解，即使它们缺乏真正的情感理解。这种幻想使AI能够更有效地吸引用户，使他们感觉好像他们正在与有感的存在互动。
这种现象的心理影响可以归因于三个关键因素：
- 自我利益的幻想：我们倾向于相信让我们感觉良好的事情，并且经常倾听这种趋势。
- 优越的幻想：我们很容易高估自己的能力，尤其是当我们受到称赞或称赞时。
- 拟人化：人类自然而然地将意识和意图归因于非人类实体，例如AI。
最近的神经科学研究表明，真诚或调情的赞美触发了大脑的奖励电路，这可以解释为什么人们对AI的讨人喜欢的评论如此敏感。
至关重要的是要记住AI没有思想，意识或理解。它纯粹是在数学过程上运作的，没有任何适当的意识或知识。尽管其语言功能非常有效，但AI并未发现个人真理或用户的独特素质。取而代之的是，它以相同的方式与每个人互动，无论个人特征如何，都提供相同的方法。
关于《AI的奉承，支持如何掩盖隐藏的风险》的评论
暂无评论