gartner：2025年将出现AI代理（及其他主要趋势）

人工智能的发展步伐持续加速，以前认为不可能的能力现在正逐渐成为现实。这尤其适用于AI代理或者虚拟同事，它们将与我们并肩工作，并最终实现自主运作。

事实上，Gartner预测到2028年，至少会有日常工作中15%的决策将通过自主的代理人工智能自动完成（从2024年的0%上升）。进一步强调该技术的潜力，该公司将其列为2025年顶级战略科技趋势。

“事情发展得非常快，”Gartner 的杰出副总裁分析师 Gene Alvarez 告诉 VentureBeat，“没有人能在一夜之间把所有事情都做完。组织花费大量时间进行监控。能够创建代理不仅用于监控，还能采取行动的能力将不仅从提高生产力的角度，而且从时机把握的角度来看都是有帮助的。”

gartner对来年还有哪些预测？以下是该公司将在其会议上探讨的一些趋势：Gartner IT Symposium/Xpo 2024这周。

AI代理既“酷”又“吓人”

阿尔瓦雷斯解释说，AI代理的基本用例是那些耗费人类时间和精力的日常任务。

下一个级别是代理式AI这种自主监控和管理系统的能力。“具身代理AI具有规划、感知并采取行动的能力，”阿尔瓦雷斯说。“与仅仅监视系统不同，具身代理AI可以进行分析，作出修复，并报告已发生的情况。”

展望更为复杂的场景，代理有一天可以帮助扩大劳动力规模。例如，一个通常需要跟随人类员工的新员工可以由一个AI同事来指导。

“你可以让一个代理担任导师的角色，帮助他们更快地度过学习曲线。”阿尔瓦雷斯说。

他承认这一切同时是“酷炫又令人害怕”的，并且存在失去工作的恐惧。“但如果代理能够真正教会我一整套新的技能，我可以从一个即将消失的工作转向一个需要的工作，”他指出。

系统性地建立对人工智能的信任

转向下一个主要趋势，阿尔瓦雷斯指出：“外面有一个全新的劳动力群体，我们该如何管理它？”

这将催生人工智能治理平台，使组织能够管理其人工智能系统的法律、伦理和运营表现。新工具将创建、管理和强制执行政策，以确保人工智能是透明的并负责任地使用。这些平台可以检查偏见，并提供有关模型如何构建以及其提示背后的推理的信息。

最终，阿尔瓦雷斯预测，这样的工具将成为AI创作过程本身的一部分，以确保从一开始就将伦理和治理融入模型中。

“我们可以通过透明度建立信任，”他说。“如果人们失去对人工智能的信任，他们就不会使用它。”

不仅是一种计算模型

有七个计算范式“就在我们门口，”阿尔瓦雷斯指出。这包括CPU、GPU、边缘计算、专用集成电路、神经形态系统、经典量子计算和光学计算。

“我们总是有一种从一个阶段过渡到另一个阶段的思维，”阿尔瓦雷斯说。“但我们在完成这一过渡方面做得不够好。”

但未来的混合计算模型将结合不同的计算、存储和网络机制，他指出。编排软件将根据任务和最适合的方法在不同机制之间移动计算资源。

阿尔瓦雷斯说：“这将关于如何让他们一起合作。”

同时，新的、更具体的计算技术将使用显著较少的能量，他指出。这很重要，因为减少消耗和碳足迹的压力越来越大。但“与此同时，对IT计算能力的需求以惊人的速度增长。”

增量改进是不够的；企业需要长期解决方案，他说。新的技术——例如绿色云服务提供商或更高效的算法——可以将效率提高千倍甚至万倍乃至十万倍。

主动应对 misinformation 安全（注意：这里的“misinformation”在特定上下文中可能有专门含义，直译为“误导信息”，但根据网络安全的语境，“disinformation”更倾向于指故意传播的虚假信息或错误信息，因此可以翻译为“虚假信息安全”或者“错误信息安全”。若无特殊说明，默认保留“misinformation”一词以保持原意。）

人工智能正允许威胁行为者比以往任何时候都更快、更容易地传播虚假信息。他们可以推送深度伪造内容并制作令人信服的网络钓鱼邮件；利用劳动力协作工具中的漏洞；使用恶意软件来盗取凭据并发起账号接管（以及其他策略）。

这使得反虚假信息安全变得至关重要；新兴类别旨在评估真实性，追踪有害信息的传播并防止冒充行为。要素包括品牌冒充扫描、第三方内容评估、声明和身份验证、网络钓鱼缓解、账户接管预防、社交媒体/大众媒体和暗网监控以及情感操控。阿尔瓦雷斯解释说，深度伪造检测还将能够识别合成媒体，并且水印工具将有助于确保用户与真实的人互动。

到2028年，Gartner预测 rằng所有企业的半数将开始采用专门针对虚假信息安全设计的产品、服务或功能，这一比例将从目前的不到5%提升。

“误导信息的安全不会仅仅是一项单一的技术，”阿尔瓦雷斯说，“它将是一系列技术的集合。”

为后量子世界准备安全措施

目前，互联网运行在公钥加密技术，也称为非对称加密技术上，这种技术可以保护两点之间的通信安全。阿尔瓦雷茨解释说，破解这种加密技术非常困难，因为需要的时间太长了。

然而，量子技术正在迅速发展。“将会有这么一个时刻，量子计算将会奏效，并且我们能够破解加密，因为它具有实时进行这种运算的数学能力，”阿尔瓦雷斯说道。

红队已经开始准备并等待时机：许多人正在收集加密数据，并保留这些数据直到量子计算机实现为止。这不会太久：Gartner预测到2029年量子计算的进步将使大多数传统的非对称加密变得不安全。

“我们相信它将会比Y2K更严重，如果不是更加严重的话，”阿尔瓦雷斯说。

组织必须做好准备应对后量子密码学现在他说，为了确保他们的数据能够抵抗解密。阿尔瓦雷斯指出，切换加密方法并不容易，并且“这不是一个简单的补丁。”

一个开始的好地方是已建立的地方标准阿尔瓦雷斯指出，该机构将于2025年春季发布其后量子密码学指南的第二个版本。来自国家标准与技术研究院（NIST）。

“当所有的锁都坏了怎么办？你需要新的锁，”阿尔瓦雷斯说。“我们希望确保在量子计算成为现实之前更新我们的安全措施。”

人工智能增强我们的大脑

深入到科幻领域，Gartner预计双向脑机接口（BBMI）的使用将会增加，这些接口可以读取和解码大脑活动并增强人类的认知能力。这些接口可以直接整合进我们的大脑中，或者通过可穿戴设备如眼镜或头带等方式实现，Alvarez解释道。

Gartner预计，到2030年，30%的知识工作者将使用包括BBMI在内的技术以在人工智能驱动的工作场所保持竞争力（而这一比例在2024年还不到1%）。Alvarez认为，在人类技能提升和下一代营销方面存在潜力——例如，品牌能够了解消费者的想法和感受来评估情感倾向。

阿尔瓦雷斯最终将其与2011年的电影《全面启动》或Apple TV的《分离》进行了比较（虽然公平地说，这两部作品都没有以最积极的角度描绘这项技术）。“它可以进入你的大脑并增强功能，”他说。