加入我们的每日和每周的新闻通讯，获取有关行业领先的AI覆盖范围的最新更新和独家内容。了解更多
对于企业而言，找出正确的提示以从生成AI模型中获得最佳结果并不总是一件容易的事。在某些组织中，这已经属于迅速工程师的新发现，但这还不是LinkedIn。
专业网络平台归微软所有，目前拥有超过10亿个用户帐户。尽管LinkedIn是一个大型组织，但它面临着同样的基本挑战。对于LinkedIn，Gen AI用例既是最终用户，又是内部用户。
尽管某些组织可能会选择仅与电子表格共享提示，甚至仅在松弛和消息渠道中共享提示，但LinkedIn采取了一种新颖的方法。该公司构建了所谓的协作及时工程游乐场，使技术和非技术用户能够共同努力。该系统采用了非常有趣的技术组合，包括大语言模型（LLMS），Langchain和Jupyter Notebooks。
LinkedIn已经使用了该方法来帮助通过AI功能改善其销售导航器产品，特别关注Accountiq的工具，该工具将公司的研究时间从2小时减少到5分钟。
与地球上的所有其他组织一样，LinkedIn的最初AI旅程首先只是试图弄清楚什么有效。
``当我们开始使用AI代工作时，产品经理总是有太多想法，例如，为什么我们可以尝试一下？LinkedIn员工软件工程师Ajay Prakash告诉VentureBeat，为什么我们可以尝试一下。整个想法是使他们有可能进行及时的工程并尝试不同的事情，而不是让工程师成为一切的瓶颈。
在技术企业中部署AI的组织挑战
可以肯定的是，LinkedIn对机器学习（ML）和AI的世界并不陌生。
在Chatgpt进入现场之前，LinkedIn已经建立了一个工具包测量AI模型公平。在VB变换在2022年，该公司概述了其AI策略（当时）。AI代，但是有些不同。它不专门要求工程师使用，并且更广泛地访问。这就是Chatgpt引发的革命。建筑AI驱动的应用程序与构建传统应用程序并不完全相同。
Prakash解释说，在AI代之前，工程师通常会从产品管理人员那里获得一套产品要求。然后，他们会出去制造产品。
相比之下，使用AI代，产品经理正在尝试不同的事情，以了解可能和有效的方法。与非技术人员无法访问的传统ML相反，对于所有类型的用户来说，AI都更容易。
传统的及时工程通常会产生瓶颈，工程师可以作为任何更改或实验的守门人。LinkedIn的方法通过自定义的Jupyter笔记本提供了一个用户友好的接口来改变这种动态，这些笔记本传统上用于数据科学和ML任务。
LinkedIn提示工程游乐场内的东西
LinkedIn使用的默认LLM供应商是Openai。毕竟，LinkedIn是Microsoft的一部分，该Microsoft主持了Azure OpenAI平台。
LinkedIn的高级工程经理Lukasz Karolewski解释说，使用OpenAi更方便，因为他的团队在LinkedIn/Microsoft环境中更容易访问。他指出，使用其他型号将需要额外的安全性和法律审查流程，这将需要更长的时间才能使其可用。该团队最初优先考虑获得产品和想法的验证，而不是为最佳模型进行优化。
LLM只是系统的一部分，其中还包括：
- 界面层的Jupyter笔记本；
- Langchain及时编排；
- 测试期间用于数据湖查询的trino；
- 基于容器的部署，可轻松访问；
- 针对非技术用户的自定义UI元素。
LinkedIn的协作及时工程游乐场如何工作
Jupyter笔记本电脑在ML社区中已被广泛使用了近十年，作为一种使用交互式Python语言接口来定义模型和数据的一种方式。
Karolewski解释说，LinkedIn预编程的Jupyter笔记本电脑使它们对于非技术用户更容易访问。笔记本包含UI元素，例如文本框和按钮，使任何类型的用户更容易启动。笔记本的包装方式使用户可以通过最小的说明轻松启动环境，而不必设置复杂的开发环境。主要目的是让技术和非技术用户对使用AI代的不同提示和想法进行实验。
为了进行这项工作，团队还集成了对LinkedIn内部数据湖数据的访问权限。这使用户可以安全地使用提示和实验中的数据。
Langchain是精心策划AI应用程序的图书馆。该框架可以帮助团队轻松将不同的提示和步骤链在一起，例如从外部来源获取数据，过滤和合成最终输出。
Karolewski表示，尽管LinkedIn目前尚未专注于建立完全自主的，基于代理的应用程序，但他认为Langchain是将来可能朝着该方向发展的基础。
LinkedIn的方法还包括多层评估机制：
- 基于嵌入的相关性检查输出验证；
- 通过预先建造的评估者自动危害检测；
- 使用较大模型评估较小模型的基于LLM的评估；
- 人类综合专家审查过程。
从小时到几分钟：及时工程游乐场的现实世界影响
通过LinkedIn的Counteriq功能来证明这种方法的有效性，该功能将公司的研究时间从两个小时减少到五分钟。
这种改进并不是更快的处理 - 它代表了如何通过域专家的直接输入来开发和完善AI功能的基本转变。
Karolewski说，我们不是销售领域的专家。``该平台允许销售专家直接验证和完善AI功能，从而创造出以前不可能的紧密反馈循环。
尽管LinkedIn Is Is Is t in to开源AI Gen AI及时工程游乐场由于其与内部系统的深入集成，但该方法为其他希望扩展AI开发的企业提供了课程。尽管可能无法提供完整的实施，但是相同的基本构建块即LLM，Langchain和Jupyter笔记本电脑可供其他组织构建类似的方法。”
Karolewski和Prakash都强调，对于AI代，关注可访问性至关重要。从一开始就可以启用跨职能合作也很重要。
卢卡斯说：“我们从社区那里得到了很多想法，我们从社区中学到了很多东西。”我们主要好奇别人的想法以及他们如何将主题专家的专业知识带入工程团队。
