该AI初创公司可帮助开发人员安全,便宜地建立在OpenAI和人类的LLM上。阅读其音高甲板。
作者:Lara O'Reilly
- 该初创公司表示,其技术可以收紧安全性,并降低了访问大型语言模型的成本。
- Requesty筹集了300万美元的种子回合,由风险投资公司20VC领导。
- 跨行业的领导者鼓励员工增加他们的
AI的用法但是,它变得昂贵,而且人们有风险上传敏感信息陷入一系列大型语言模型。请求希望帮助公司降低费用并减轻任何AI危险。
总部位于伦敦的Requesty最初是作为数据分析初创公司创立的,今年枢纽着眼于基础架构。
它的技术是像AI提供商之间的网关Openai,人类和Grok,以及正在为编码,预订旅行,扫描发票和翻译等任务构建AI驱动应用程序的开发人员。
Requesty的联合创始人Thibault Jaigu将公司描述为一种互联网基础架构和安全公司AI时代。请求想充当连接不同的中央支柱AI服务器。
对于公司来说,典型的痛苦点是工程师对他们想要使用的AI有不同的偏好。他们经常配置几种不同的模型,而没有集中治理或围绕其使用量进行控制。
Jaigu说:“ Admins是安全性或Devops的管理人员 - 不了解工程师在使用什么,为什么使用这种方式以及潜在的风险是什么。”
风险可能包括将客户和其他专有数据发送到AI或不撤销开发人员离开公司后的访问密钥。
请求旨在集中这些控件 - 跨多个AIS的支出限制和API访问。
请求说,拥有统一系统的另一个好处是,它可以帮助开发人员团队更好地优化不同的提供商之间的优化。例如,如果Openai有一天会下降,则可以通过拟人化路由请求。
Requesty还表示,它可以使用称为“提示缓存”的技术来节省公司,该技术经常使用提示并重新使用它们。
自从枢纽以来的四个月中,请求说,其平台正在AI应用程序建设公司(包括Mozart AI和Blue Morpho)的25,000多个开发人员使用。该公司表示,已通过150万美元的年度经常性收入。
AI网关平台是启动空间中新兴的类别,在AI提供商和建立在其基础上的开发人员之间创建基础架构层。该空间中其他类似的初创公司包括Humanloop,他的联合创始人和高级团队是通过人类收购上个月。
Requesty周五宣布,它已经筹集了300万美元的种子投资回合,由20VC领导,并从风险投资公司的Tapestry VC,Insers Ventures和Tiny Supercuputer参与。
Jaigu说,请求打算使用这些资金来工作。它有五人的头部数量,计划在明年的15到20个左右,主要是在其工程和成长团队中雇用。
查看用于确保其300万美元种子投资的俯仰甲板请求,专门与业务内部人士共享。一些幻灯片已被省略或编辑。
Requesty的标语:“开发人员通往安全AI的门户”请求
该幻灯片展示了公司AI设置中当前的一些挑战
幻灯片说,这些幻灯片包括缺乏统一的治理,安全性和合规性差距,有限的可见性和成本控制,开发人员的经验差,以及使公司遇到诸如中断之类的漏洞。
节省来自及时缓存,自动化审核,提高生产率和减轻风险的技术。
Requesty描述了其四步过程请求
然后,他们添加了支出或模型限制之类的控件。
第三个是建立可观察性和成本优化的,例如使用廉价的AI模型执行任务。
此幻灯片展示了典型的请求工作流程
请求
在将请求发送给AI提供商之前,请求者将分析请求是从有效的用户提供正确权限的有效用户,还是可以通过其他区域中的更快的服务器路由。
请求概述了三个主要增长领域:控制和治理,可见性和问责制以及灵活性与优化请求
The final slide takes an in-depth look at Requesty's features and their benefits