作者:David Prosser
时间宝贵。甚至缩短某些日常任务的毫秒也能为一家企业带来显著的竞争优势,有人认为简化智能,该公司今天宣布成功完成了700万美元的融资轮。这家位于班加罗尔的初创公司表示,其技术可以对使用生成式人工智能(GenAI)的公司产生关键性的影响。
成立于2022年的Simplismart由Amritanshu Jain和Devansh Ghatak联合创立。Amritanshu Jain之前在Oracle Cloud从事云基础设施挑战工作,而Devansh Ghatak曾是Google Search的员工。Simplismart开发了一种新的“推理引擎”。该产品是一种标准化的语言,软件工程师可以使用它来构建GenAI产品,以减少底层模型响应查询所需的时间。
“它是一种简单易用的语言,任何与生成式人工智能(GenAI)合作的公司都可以在构建应用程序和应用场景时部署使用,”Jain解释说。“我们开发了目前可用的最快的推理引擎,”他补充道,并提到了由独立的人工智能分析平台 artificialanalysis.ai 进行的测试。Simplismart 表示,在其引擎现在正在使用的所有客户中,他们已经将生成式人工智能模型的响应时间至少减少了80%,通常可以将其降低到几百毫秒内。
在生成式AI中,速度很重要有很多原因。首先,你的应用程序从为其提供动力的模型获取答案所需的时间越长——无论是书面内容、语音还是图像——你的技术基础设施累积的能量成本就越高,这可能会非常昂贵。因此,较短的响应时间意味着减少了开销。
此外,更快的速度能为最终用户提供更好的体验。例如,在语音应用中,如果聊天机器人能够实时响应,而不是每次回答都延迟几秒钟,用户甚至可能意识不到自己正在与一个由人工智能驱动的聊天机器人交互。在内容生成方面,如果用户能够以更快的速度生成新的文本或图像,他们可以更高效地工作。
“对单个用户来说,半秒可能感觉不多,但考虑到大规模时,这就会有影响,” Jain 说。“实际上,这意味着你的客户可能会放弃并去别的地方。”
Simplismart的引擎主要针对那些采用GenAI优先方法开发产品和服务的公司,尽管任何使用该技术的企业都有可能是目标。“我们试图采取一种全面的观点,”Jain说。“我们知道企业希望保持对其基础设施的控制权,以确保数据隐私并实现编排,因此我们为他们提供了一种语言,使他们在构建新的GenAI应用程序时能够自行使用。”
到目前为止,该公司已有大约30家客户为其推理引擎注册,最近其年化收入已突破100万美元。Jain有信心在明年第一季度末达到500万美元的收入。
新的投资将提供帮助,该公司迄今已通过不到100万美元的资金发展起来,其中包括Jain和Ghatak在一次黑客马拉松比赛中赢得的1万美元奖金。今天的700万美元A轮融资由Accel领投,并有Shastra VC、Titan Capital以及包括Notion联合创始人Akshay Kothari在内的多位知名天使投资者参与。这笔资金将用于进一步的产品开发、招聘,以及销售和市场营销的投资。
安德鲁·丹尼尔(Anand Daniel),Accel的合伙人,将生成型人工智能描述为正处于类似“寒武纪爆炸”的时刻,因为世界各地的组织都在争相利用这项技术实现商业目标。
“开发人员开始意识到,在其基础设施上自定义和部署开源模型具有重要意义;这可以解锁对性能、成本、专有数据的可定制性以及后端堆栈的灵活性的控制,并提供高水平的隐私和安全保护。”Daniel说。“我们很高兴看到Simplismart团队很早就发现了这一机会,但真正让我们惊讶的是,其小团队已经开始为一些增长最快的GenAI公司提供生产服务。”
该公司确实很有雄心。Jain指出,通过互联网和数据工作的标准化模式为之前的科技革命带来了巨大的增长。“我们把这些技术周期视为新技术获得大规模快速接受的关键,”他说。“生成式人工智能需要另一个阶段的标准化,我们认为我们的引擎可以提供这一点。”