作者:Cornelia C. Walther
这是从通过集成到依赖和完全吹干AI成瘾的实验的滑坡。... 更多的您在哪个阶段?
人工智能的兴起正在改变我们的专业和个人生活。从自动化的电子邮件响应到复杂的决策算法,AI渗入我们的屏幕和思想。在2025年瓦解的政治景观中,人们越来越感到自己生活在科幻小说的情况下。在这引起的令人不安的问题中,我们将成为制作人和编剧的时间,而不仅仅是一个演员,他们说了写了什么,并做了他们被告知的事情。持续的,看似不懈的AI集成引入了微妙但重大的风险:代理机构衰减。
正在发生的事情与机器的反乌托邦接管无关。这是关于我们能力的逐渐侵蚀,以及在屏幕和离线上自主做出决定并施加控制的意愿。机构从根本上讲,是有意采取行动的能力。这是我们行动的启动者的感觉,能够影响我们的环境并塑造我们的行动结果。在AI的背景下,这意味着保留启动和执行行为的权力,同时故意利用技术的力量。这是使用AI作为工具和依赖它之间的平衡行为。
我们与AI的互动通常遵循可预测的模式,如果我们不专心,则可能导致代理商减少。这是四个阶段的细分:
这个阶段标志着我们与AI的第一次相遇。我们是由好奇心,尝试新工具并探索其潜在应用的驱动的,而无需完全了解其机制。
随着我们获得经验,我们开始将AI集成到日常工作流程中。我们认识到它的效率提高并开始依靠它来进行常规任务。
AI从成为有用的工具过渡到我们操作的关键组成部分。我们依靠它来进行决策支持和任务执行,有时没有严格评估其输出。
我们发现自己在努力执行任务,例如编写文本或代码,或者在没有AI的情况下做出决定(您最后一次进入Netflix的明确计划是您想看的?),从而减少了我们的代理意识。我们变得过于依赖,失去了自主行动的能力和渴望。
这种进步说明了从授权使用到不健康的依赖性的潜在幻灯片。
代理衰减不是突然的事件。这是一个渐进的过程,通常没有注意到它深深地根深蒂固。它以几种相互联系的方式表现出来。从记忆回忆到复杂的分析,我们越来越多地将认知任务外包给AI,导致了所谓的认知卸载。尽管这可以提高效率,但也可能导致我们的认知能力萎缩。我们变得更加有效,但是尤其是如果AI接管与我们的专业自豪感密切相关的任务,而自我身份这个代表团可能会使我们对我们的工作不太满意。
同时,随着我们的能力降低,我们的模型变得更加复杂,同时仍然容易出现幻觉。许多AI系统的“黑匣子”性质,决策过程是不透明的,结合了人类的渴望和对事实核对的能力的减少是危险的,并且侵蚀了信任。
减轻机构衰减的风险,意味着在个人和机构上抵消。
为了减轻急性代理衰减的风险,我们必须主动管理AI集成并有效地浏览上述阶段。这种主动管理的关键在于4 a:
了解AI时代的代理动力,涉及认识到从实验到依赖的滑坡,并主动培养我们自己的代理。AI是达到目的的手段,而不是目的本身。如果它可以使我们更快乐,并且我们与自然的共存可持续的(如果考虑当前模型的能量足迹,这是很大的),那么我们已经破解了代码。要掌握这种平衡,我们需要策划混合智能,作为代理腐烂的据点。