Noma 正在构建工具来发现人工智能应用程序的安全问题TechCrunch
作者：Kyle Wiggers
公司担心他们对人工智能的渴望使他们更容易受到网络威胁。根据最近的轮询在超过 350 名 IT 领导者中，超过一半的受访高管表示，人工智能应用的复杂性削弱了他们组织的网络安全态势。另一项调查显示，超过五分之二的高管认为他们的安全团队缺乏保护人工智能应用程序和工作负载所需的技能。
对保护人工智能应用程序安全的解决方案的需求催生了一大批初创公司。隐藏层和保护人工智能例如，专注于保护人工智能系统免受对抗性攻击，同时颅骨提供应用程序级别的人工智能系统可见性。
今天悄然兴起的新企业，诺玛安全联合创始人兼首席执行官尼夫·布劳恩 (Niv Braun) 声称，它做到了这一切，甚至更多。该初创公司正在开发工具来识别数据科学环境中易受攻击的数据管道和代码，以及诸如此类的威胁即时注入攻击。
Braun 在离开客户体验自动化公司 Verint 后与 Alon Tron 联合推出了 Noma，他注意到安全团队在数据和人工智能生命周期中存在“重大盲点”。
“现有工具是为传统软件生命周期设计的，”Braun 说。– 然而，数据和人工智能生命周期本质上是不同的。它涉及不同的研发流程，依赖不同的技术，并面临人工智能模型中独特的技术漏洞。”
Noma 旨在帮助发现并修复用于开发和运行人工智能应用程序的组件中的错误配置。例如，该平台扫描模型训练数据集中的“敏感”数据，例如包含个人身份信息的文本。
布劳恩认为，如果公司能够将人工智能应用程序安全功能整合到一个可以部署在基于云的自托管环境中的仪表板中，那么公司就可以更好地应对威胁。
“许多单一功能的安全解决方案涌入市场，试图利用人工智能的炒作，”他说。– 通过帮助公司了解他们的人工智能应用足迹并给予他们治理控制，Noma 不仅帮助组织最大限度地减少和减轻风险，而且还让他们有信心更快地扩展人工智能的使用并扩展到更有价值的部分业务。 –
Braun 表示，Noma 成立于 2023 年，已经拥有付费客户，其中包括 B2B 软件、金融服务和零售领域的财富 500 强客户。该初创公司最近完成了 2500 万美元的 A 轮融资，布劳恩称该轮融资已被投资者抢占；诺玛有闲钱。
“我们决定接受 [2500 万美元]，即使银行仍有大量资金，以加速我们的发展，特别是我们的市场营销团队和努力，”他说，并补充说 Noma 计划将资金翻倍来年 20 人团队的规模。
Ballistic Ventures 领投了 Noma 的 A 轮融资，该轮融资使该公司的融资总额达到 3200 万美元。Noma 在此前未公开的种子轮融资中筹集了 700 万美元，该轮融资由 Glilot Capital Partners 领投，Cyber Club London 参与。
TechCrunch 有一份以人工智能为中心的时事通讯！ 在这里注册每周三将其发送到您的收件箱。
关于《Noma 正在构建工具来发现人工智能应用程序的安全问题TechCrunch》的评论
暂无评论