2025 年值得关注的 5 个生成人工智能趋势

生成式人工智能一如既往地流行。

今年，人工智能研究获得了诺贝尔奖，世界上最大的科技公司将人工智能融入到尽可能多的产品中。美国政府推广人工智能作为创建清洁能源经济的驱动力和联邦支出的战略支柱。但 2025 年接下来会发生什么？

2024 年最后几个月生成式人工智能的趋势表明科技公司将加大推动其采用的力度。与此同时，关于人工智能产品和流程是否能为企业软件买家带来投资回报，结果好坏参半。虽然很难预见人工智能将如何继续塑造科技行业，但专家们根据当前趋势做出了预测。

受访者IEEE研究9 月，在 58% 的案例中，人工智能被评为 2025 年最关键的三大技术领域之一。相反，几乎所有受访者 (91%) 都同意，到 2025 年，关于该技术可以或应该做什么，将会出现“生成式人工智能计算”。人们对生成式人工智能的期望很高，但利用它的项目能否成功仍然不确定。

1.人工智能代理将成为下一个流行词

根据我的研究和观察，人工智能代理的使用将在 2025 年激增。

AI代理是半自主的生成式人工智能它可以链接在一起或与应用程序交互以在非结构化环境中执行指令。例如，Salesforce 使用人工智能代理来致电销售线索。与生成式人工智能一样，代理能力的定义尚不清楚。IBM 定义了它作为一个可以推理复杂问题的人工智能，例如OpenAI o1。然而，并非所有标榜为人工智能代理的产品都能以这种方式进行推理。

无论其能力如何，人工智能代理及其用例都可能在 2025 年成为生成式人工智能营销的前沿。人工智能“代理”可能是进化的下一阶段今年的人工智能“副驾驶”。人工智能代理可以花时间独立完成多阶段工作，而人类对应人员则处理另一项任务。

2.人工智能既会帮助安全团队，也会伤害安全团队

到 2025 年，网络安全攻击者和防御者都将继续利用人工智能。2024 年，生成式人工智能安全产品已经激增。这些产品可以编写代码、检测威胁、回答棘手的问题或充当集思广益的“橡皮鸭”。

但生成式人工智能可能会提供不准确的信息。安全专业人员可能会花费与自己执行工作一样多的时间来仔细检查输出。未能审查此类信息可能会导致损坏的代码甚至更多的安全问题。

“随着 ChatGPT 和 Google Gemini 等人工智能工具深入融入业务运营，新的数据隐私挑战导致意外数据泄露的风险急剧上升。”Check Point Software Technologies 的网络安全布道师 Jeremy Fuchs 在一封电子邮件中表示到科技共和国。– 到 2025 年，组织必须迅速采取行动，对人工智能的使用实施严格的控制和治理，确保这些技术的好处不会以数据隐私和安全为代价。 –

与任何其他软件一样，生成式人工智能模型很容易受到恶意行为者的攻击，特别是通过越狱攻击。

“人工智能在网络犯罪中日益重要的作用是不可否认的，”福克斯解释道。– 到 2025 年，人工智能不仅会增强攻击的规模，还会提高攻击的复杂性。网络钓鱼攻击随着人工智能不断学习和适应，检测将变得更加困难。”

生成式人工智能可以使识别网络钓鱼电子邮件的传统方法——糟糕的语法或突然的消息——变得过时。随着人工智能生成的视频、音频和文本的激增，虚假信息安全将变得更加重要。因此，安全团队必须适应使用和防御生成人工智能— 正如他们已经适应了业务技术的其他重大变化，例如大规模迁移到云。

3. 企业将评估人工智能是否带来投资回报

数字采用平台公司 WalkMe 的全球首席信息官 Uzi Dvir 在一封电子邮件。“同样，员工也会问自己是否值得花时间和精力来弄清楚如何将这些新技术用于他们的特定角色。”

组织努力确定生成式人工智能是否能增加价值以及它可以在哪些用例中发挥最大作用。采用人工智能的组织经常面临成本高、目标不明确。量化生成式人工智能使用的好处、这些好处体现在哪里以及将它们与什么进行比较可能很困难。

这一挑战是将生成式人工智能集成到许多其他应用程序中的副作用。这让一些决策者怀疑生成式人工智能附加组件是否真正提升了这些应用程序的价值。人工智能层的成本可能很高，预计明年会有更多公司严格测试（有时会放弃）那些无法带来结果的功能。

许多大规模整合生成人工智能的公司都取得了成功。在其第三季度财报电话会议，谷歌将这一结果归因于其人工智能基础设施以及人工智能概述等产品。然而，Meta 报道称，人工智能可能会显着增加资本支出，即使用户数量下降。

SEE：Google Cloud 正在预览其第六代人工智能加速器延龄草。

4.人工智能将对科学研究产生重大影响

除了影响企业生产力之外，当代人工智能在科学领域也发生了重大变化。

2024 年诺贝尔奖获得者中有四人使用了人工智能：

• 谷歌 DeepMind 的 Demis Hassabis 和 John Jumper 赢得了诺贝尔化学奖用于使用 AlphaFold2 预测蛋白质的结构。
• 约翰·J·霍普菲尔德 (John J. Hopfield) 和杰弗里·辛顿 (Geoffrey Hinton) 荣获诺贝尔物理学奖以表彰他们数十年来在开发神经网络方面所做的工作。

白宫于10月31日和11月1日举行峰会，讨论人工智能在生命科学中的应用，强调人工智能如何以影响世界的方式为复杂的挑战提供解决方案。随着生成式人工智能模型的发展和成熟，这种趋势可能会持续到明年。

5.人工智能制造的环境工具无法抵消其能源损失

能源效率是人工智能的另一个流行词。

但对于人工智能可以帮助预测天气模式或优化能源使用的每一个用例，还有另一个关于建造人工智能的环境成本的故事数据中心需要运行生成式人工智能。这种建设需要大量的电力和水，而全球气温上升只会使问题更加复杂。在这个大规模问题上不太可能达到平衡。

然而，对于企业来说，预计会看到公司围绕人工智能宣扬可疑和真实的节能和环境友好声明。考虑与您的组织的 AI 战略相关的资源使用情况。

最流行的生成式人工智能产品有哪些？

最知名的生成式人工智能产品有：

• 聊天GPT，OpenAI 聊天机器人
• 谷歌双子座
• 微软副驾驶
• GPT-4，ChatGPT 背后的大语言模型
• DALL-E 3，图像生成器

最先进的生成式人工智能是什么？

人们提出了各种测试作为确定最先进的生成人工智能的潜在标准。一些组织根据人类教育基准对他们的模型进行评分，例如国际数学奥林匹克竞赛或 Codeforce 竞赛。

其他评估，例如测量大规模多任务语言理解，是专门为生成人工智能而创建的。谷歌的Gemini Ultra、中国移动的九天和OpenAI的GPT-4o位居榜首。MMLU排行榜今天。