作者:Lara O'Reilly
AI的用法但是,它变得昂贵,而且人们有风险上传敏感信息陷入一系列大型语言模型。请求希望帮助公司降低费用并减轻任何AI危险。
总部位于伦敦的Requesty最初是作为数据分析初创公司创立的,今年枢纽着眼于基础架构。
它的技术是像AI提供商之间的网关Openai,人类和Grok,以及正在为编码,预订旅行,扫描发票和翻译等任务构建AI驱动应用程序的开发人员。
Requesty的联合创始人Thibault Jaigu将公司描述为一种互联网基础架构和安全公司AI时代。请求想充当连接不同的中央支柱AI服务器。
对于公司来说,典型的痛苦点是工程师对他们想要使用的AI有不同的偏好。他们经常配置几种不同的模型,而没有集中治理或围绕其使用量进行控制。
Jaigu说:“ Admins是安全性或Devops的管理人员 - 不了解工程师在使用什么,为什么使用这种方式以及潜在的风险是什么。”
风险可能包括将客户和其他专有数据发送到AI或不撤销开发人员离开公司后的访问密钥。
请求旨在集中这些控件 - 跨多个AIS的支出限制和API访问。
请求说,拥有统一系统的另一个好处是,它可以帮助开发人员团队更好地优化不同的提供商之间的优化。例如,如果Openai有一天会下降,则可以通过拟人化路由请求。
Requesty还表示,它可以使用称为“提示缓存”的技术来节省公司,该技术经常使用提示并重新使用它们。
自从枢纽以来的四个月中,请求说,其平台正在AI应用程序建设公司(包括Mozart AI和Blue Morpho)的25,000多个开发人员使用。该公司表示,已通过150万美元的年度经常性收入。
AI网关平台是启动空间中新兴的类别,在AI提供商和建立在其基础上的开发人员之间创建基础架构层。该空间中其他类似的初创公司包括Humanloop,他的联合创始人和高级团队是通过人类收购上个月。
Requesty周五宣布,它已经筹集了300万美元的种子投资回合,由20VC领导,并从风险投资公司的Tapestry VC,Insers Ventures和Tiny Supercuputer参与。
Jaigu说,请求打算使用这些资金来工作。它有五人的头部数量,计划在明年的15到20个左右,主要是在其工程和成长团队中雇用。
查看用于确保其300万美元种子投资的俯仰甲板请求,专门与业务内部人士共享。一些幻灯片已被省略或编辑。
节省来自及时缓存,自动化审核,提高生产率和减轻风险的技术。
然后,他们添加了支出或模型限制之类的控件。
此幻灯片展示了典型的请求工作流程
在将请求发送给AI提供商之前,请求者将分析请求是从有效的用户提供正确权限的有效用户,还是可以通过其他区域中的更快的服务器路由。