让大语言模型扎根于现实:一家公司如何利用 gen AI 将生产力提升 70% - VentureBeat

2024-09-18 23:17:02 英文原文

加入我们的每日和每周时事通讯,了解有关行业领先人工智能报道的最新更新和独家内容。了解更多

Drip Capital 是一家总部位于硅谷的金融科技初创公司,它正在利用生成式人工智能将跨境贸易融资业务的生产力显着提高 70%。该公司已筹集了超过 5 亿美元的债务和股权融资,正在采用大型语言模型 (LLM) 来自动化文档处理、增强风险评估并大幅提高运营效率。这种人工智能驱动的方法使滴滴资本每天能够处理数千份复杂的贸易文件,大大超过了传统的手动方法。

滴滴资本成立于 2016 年,已迅速成为贸易融资领域的重要参与者,业务遍及美国、印度和墨西哥。该公司对人工智能的创新运用将复杂的即时工程与战略性人类监督相结合,以克服幻觉等常见挑战。这种混合系统正在重塑数字时代的贸易融资业务,为传统的纸张密集型行业设定了新的效率基准。

该公司首席商务官卡尔·布格(Karl Boog)强调了其效率提升的规模:到目前为止,我们已经将产能提高了 30 倍。这一巨大的进步展示了生成式人工智能在金融科技领域的变革潜力,提供了一个令人信服的案例研究,说明初创企业如何利用人工智能和大语言模型在价值数万亿美元的全球贸易融资市场中获得竞争优势。

在Drip Capitals 人工智能战略的核心是使用先进的文档处理技术。该公司产品开发主管 Tej Mulgaonkar 解释了他们的方法:我们每天处理大约几千份文档。我们在这个问题上挣扎了一段时间,显然一开始我们就设置了手动操作。

充分利用当今的大语言模型

公司的人工智能之旅始于结合光学特性的实验识别(OCR)和大语言模型对各种贸易文件中的信息进行数字化和解释。Mulgaonkar 说,我们开始尝试将 OCR 和大语言模型结合起来,对信息进行数字化,然后理解信息。

然而,成功的人工智能集成之路并非没有挑战。与许多努力解决生成式人工智能问题的公司一样,Drip Capital 最初也面临着人工智能会生成看似合理但不正确的信息的幻觉问题。Mulgaonkar 承认这些早期的障碍:实际上,我们有一段时间挣扎过。有很多幻觉,很多不可靠的输出。

为了克服这些挑战,滴滴资本采用了系统化的方法来促进工程。该公司利用其广泛的已处理文档数据库来完善和优化用于指导人工智能的提示。Mulgaonkar 解释说,我们在七年的运营过程中处理了数十万份文档,我们的数据库中基本上拥有准确的输出数据。我们构建了一个非常简单的脚本,允许我们挑选输入数据的样本,通过我们正在编写的提示,从一组代理获取一些输出,然后将这些输出与数据库中作为准确来源的内容进行比较

这种快速细化的迭代过程显着提高了人工智能系统的准确性。Mulgaonkar 指出,工程提示实际上确实帮助我们从大语言模型那里获得了更高的准确性。

Drip Capitals 的人工智能实施方法以其实用主义而著称。该公司并没有尝试建立自己的大语言模型、复杂的检索增强生成 (RAG) 或进行复杂的微调,而是专注于通过仔细的提示工程来优化现有模型的使用。

提示工程凯旋归来

2023 年初,《华盛顿邮报》宣布即时工程技术是最热门的新工作,强调公司如何争相聘请能够通过精心设计的文本提示从人工智能系统中获得最佳结果的专家。这篇文章将即时工程师描绘成现代奇才,能够通过掌握散文编程来解锁大语言模型的隐藏能力。

这种热情得到了其他主要出版物和组织的响应。例如,世界经济论坛在其《明天的工作》报告中将即时工程列为新兴人工智能工作之一。兴趣的突然激增引发了一系列专为即时工程职位量身定制的在线课程、认证和职位发布。

然而,这种炒作很快就遭到了质疑。批评者认为,即时工程只是一时的时尚,随着人工智能模型的改进和使用变得更加直观,注定会被淘汰。IEEE Spectrum 2024 年 3 月的一篇文章大胆宣称 AI 提示工程已死,表明自动提示优化很快就会使人类提示工程师变得不必要。该文章引用的研究表明,人工智能生成的提示通常优于人类专家制作的提示,这导致一些人质疑该领域的长期可行性。

尽管有这些批评,但最近的发展表明提示工程还远未实现。它死而复生,不断发展并变得更加复杂。Drip Capital 提供了一个引人注目的案例研究,说明即时工程如何在利用人工智能进行业务运营方面继续发挥关键作用。

Drip Capital 创建了一个将技术专业知识与领域知识相结合的复杂流程。该公司的成功表明,有效的提示工程不仅仅是简单地制作完美的字符串。它涉及:

  • 了解具体的业务环境和要求
  • 制定策略以维护人工智能系统的准确性和可靠性
  • 创建复杂的多步骤提示策略用于文档处理等高级任务
  • 与财务和风险评估领域的专家合作,将专业知识融入人工智能交互

公司的人工智能系统并不是孤立运行的。认识到其财务运营的关键性质,Drip Capital 实施了一种将人工智能处理与人工监督相结合的混合方法。Mulgaonkar 解释说,我们保留了一个非常名义上的异步工作手动层。这些文件将由大语言模型数字化,该模块将临时批准交易。然后,我们让代理同时查看文档的三个最关键部分。

这个人机交互系统提供了额外的验证层,确保关键数据点的准确性同时仍然可以显着提高效率。随着人们对人工智能系统的信心不断增强,滴滴资本的目标是逐步减少人类的参与。Mulgaonkar 表示,我们的想法是慢慢地逐步淘汰这种做法。随着我们继续收集准确性数据,希望我们能够获得足够的安慰和信心,以便我们能够一起消除这一切。

从大语言模型中获得最大收益

除了文档处理之外,滴滴资本还在探索人工智能在风险评估中的应用。该公司正在试验人工智能模型,该模型可以根据其广泛的历史绩效数据来预测流动性预测和信贷行为。然而,他们在这一领域谨慎行事,并注意金融领域的合规要求。

Boog 解释了他们的风险评估方法:理想的情况是真正进行全面的风险评估,拥有决策引擎这使您更有可能确定该帐户是否风险较高以及风险敞口是什么。

但是,Boog 和 Mulgaonkar 都强调,人类判断在其风险评估过程中仍然至关重要,尤其是对于异常或较大的风险。Boog 指出,技术肯定会有所帮助,但仍然需要人为因素来监督它,尤其是风险方面。

Drip Capitals 在人工智能实施方面的成功部分归功于其数据优势。作为贸易融资领域的老牌企业,他们积累了丰富的历史数据,为其人工智能模型奠定了坚实的基础。Boog 强调了这一优势:因为在人工智能出现之前我们已经完成了数十万笔交易,因此在这个过程中需要学习很多东西。然后利用我们已经拥有的数据不断优化事物,这肯定会对我们有所帮助。

展望未来,滴滴资本对人工智能的进一步整合持谨慎乐观的态度。他们正在探索对话式人工智能用于客户沟通的可能性,尽管 Mulgaonkar 指出当前的技术仍然达不到他们的要求:我认为你还不能与人工智能进行对话。它已经达到了非常智能的 IVR 的程度,但它并不是真正可以完全处理的东西。

Drip Capitals 的人工智能之旅为金融领域及其他领域的其他公司提供了宝贵的见解。他们的成功证明了生成式人工智能在经过深思熟虑实施后具有改变运营的潜力,重点关注实际应用并致力于保持高标准的准确性和合规性。

随着人工智能的不断发展,Drip Capitals 的经验表明公司不需要从头开始构建复杂的人工智能系统即可获得显着的收益。相反,利用现有模型、专注于快速工程并保持人工监督的务实方法仍然可以显着提高效率和生产力。

关于《让大语言模型扎根于现实:一家公司如何利用 gen AI 将生产力提升 70% - VentureBeat》的评论


暂无评论

发表评论

摘要

加入我们的每日和每周时事通讯,了解有关行业领先人工智能报道的最新更新和独家内容。这一巨大的进步证明了生成式人工智能在金融科技领域的变革潜力,为初创企业如何利用人工智能和大语言模型在价值数万亿美元的全球贸易融资市场中获得竞争优势提供了令人信服的案例研究。充分利用当今的大语言模型该公司的人工智能之旅始于将光学字符识别 (OCR) 和大语言模型相结合的实验,以数字化和解释各种贸易文件中的信息。Mulgaonkar 解释说,我们保留了一个非常名义上的异步工作手动层。Mulgaonkar 表示,我们的想法是慢慢地逐步淘汰这种做法。