正常运行时间的AI-In-a-box提供交钥匙企业级AI - 无云

柠檬设备旨在使用公司自己的数据而无需互联网连接提供私人，安全的AI，从而使组织能够以较小的风险获得Genai的好处。

为了向业务团队提供安全，合规的AI（genai），而无需云服务，上周的正常运行时间行业揭幕 柠檬。这是一个可堆叠的设备，预装了多个 大型语言模型（LLMS），每个节点最多可供五个用户，直接连接到PC或没有Internet连接的LAN。随着业务需求的扩展，可以通过自动故障转移将多个节点连接到集群中。莱特说，一个四节点群集最多可支持50个用户，并配备了六个预载的Genai型号。

IBM正在与该公司合作，将其花岗岩AI模型在柠檬味节点上部署。其他可用的LLM包括Llama-3.1，Llama-3.2和Mistral。此外，Jetbrains正在将其编码模型和工具集成到柠檬味中，以允许软件开发人员利用其智能开发功能。（为了获得最大的性能，每个节点都包含A字 神经加工单元（NPU），AI加速器群和一个CPU。）

其他预加载功能包括 检索一代（RAG），以及创建AI助手来帮助分析文件等任务的能力。 

正常运行时间首席执行官兼联合创始人Sascha Buehrle说，数据以三种方式将数据加载到柠檬节点上，仅保留了知识图。他说，我们正在上传，分析，索引和删除数据。” 

用户还可以通过API连接到其数据，该API索引数据或与业务应用程序直接集成的连接器。

一个早期的客户AlexanderGã¶Bel，法律技术官员 Niederer Kraft Frey AG在瑞士的苏黎世，被称为“设置”快速简便。``您可以在几分钟之内而不是在几天之内使用本地解决方案，而不是在几天之内通过电子邮件说。将文档转移到设备，在该设备中通过loney浏览器上传来完成索引以供通过抹布使用。

Gâbel表示，我们目前正在使用SharePoint连接器进行更简单的上传过程，因为该节点的最新版本提供了有限的API。

由于节点未连接到互联网，因此通过单独键入的加密USB键提供柠檬味的更新。每个密钥仅与指定节点一起使用。该更新还重置一个安全的计时器，以确保用户的订阅仍然有效；如果不是，则节点锁，并具有完全加密的数据。

柠檬味提供了A 两周的免费试用期而且，正常运行时间表示，它已经在瑞士，德国，英国和美国拥有300多个客户。每月访问五个用户访问的单个节点的订阅每月为499美元，每年收费；该设置包括节点，软件，Windows和Mac的应用程序以及技术支持。 

谨慎的乐观

分析师发现了这一概念很有吸引力，并且对设备本身持谨慎乐观的态度。

在Moor Insights＆Strategy的DataCenter Compertute＆Starterials副总裁兼首席分析师Matt Kimball表示，正常运行时间正在满足任何受监管的行业的真正需求。在欧洲，这是大多数公司。我们实际上拥有的是Genai设备。 

Kimball说，如果我是一家小型律师事务所的CIO或IT专业人士，我立即看到了这个柠檬境平台的价值。我可以看到柠檬在（在更大的公司中）或值得/需要数据隐私的SMB上具有吸引力。而无需使用AI的能力非常有趣。 

Gartner副总裁Chirag Dekate说，本地AI边缘是一个服务不足的细分市场。今天的大多数Genai Instra [结构]首先是云端。本地化解决方案有机会，尤其是在关注潜伏期，成本或合规性的情况下。如果正常运行时间为开源模型提供自动化的[机器学习]操作，能源优化和支持，则可能会降低足够的复杂性障碍，以吸引中型企业和公共部门客户。AI法规的全球扩展将使您的AI本地在未来两到三年内更具吸引力。”

西北AI咨询公司的AI顾问Wyatt Mayham表示同意。他说，即使它的Azure+ Openai从未触及公共网络或训练模型，我们也与拒绝将敏感数据放入云中的客户合作。”客户经常认为他们想要真正的本地，但实际上是使用GPU，模型托管，编排和抹布基础设施建立本地设置的昂贵，维护高，并且通常是对他们实际需求的过度杀伤。” 

Mayham说，这实际上看起来像是坚实的中间立场。它不是全面的企业，但它为小型团队提供了当地运行LLM，保持合规性并避免云的途径。

我们不认为Leyne.AI是所有基于云的AI系统的替代品。对于具有较低机密性要求的商品数据，交钥匙云解决方案仍然对我们有意义（在这种情况下，也可能需要访问互联网信息）。但是，我们正在处理许多非常敏感和机密的信息，这些信息是云解决方案不是选项的。结果，根据特定用例，Leyone.AI和基于云的解决方案在同时效果很好。”

Dekate说，柠檬的成功将受到如何在市场上的位置的影响。但是，如果正常运行时间集中在狭窄的垂直行业上，例如零售，能源或工业监控，则可能会引起关注。”

但是，在盒子体验中包装的AI（独立于供应商）中存在着根本的挑战：包装没有解决人才差距。仅仅因为它在盒子里并不意味着每个人都可以插入插件。AI模型管理，更新和故障排除仍然很难。如果没有模型敏捷性，客户可能会将其视为封闭系统，限制实验和可扩展性。[而且]如果正常运行时间不控制其硬件供应链或依赖商品委员会，则可能很难区分长期。”