Calvin Risk 希望如何帮助公司应对人工智能风险

然而，随着组织加大对人工智能的使用，出现了一个问题——许多人工智能解决方案的不透明性使它们面临运营和监管风险。

卡尔文·风险一家总部位于瑞士的初创公司今天宣布成功完成了 400 万美元的种子轮融资，并将自己定位为解决这一困境的解决方案。“随着人工智能模型数量的增加及其复杂性的增加，危险也在增加，”该公司首席执行官兼联合创始人 Julian Riebartsch 与 Syang Zhou 博士警告说。– 现在存在重大的财务和声誉损害风险，而且自从大规模采用生成式人工智能 (GenAI) 以来，这种风险有所增加。 –

问题在于 GenAI 模型通常作为“黑匣子”运行。许多企业使用这些模型作为基础技术，根据自己的需求和要求在模型上进行构建，但这使他们面临着他们无法看到的风险和漏洞。

“没有标准化的方法来测试这些模型，”Riebartsch 警告说。“很难知道如何测试任何给定模型的性能或监管合规性。”

Calvin Risk 的软件最初由苏黎世联邦理工学院学术机构开发，该公司于 2022 年作为分拆公司成立，旨在填补这一空白。它提供了一种数字化治理方法，使企业能够通过模块化框架审查技术，确保正确识别和评估风险。它还可以在人工智能项目从开发到部署的过程中对其进行自动测试。

Riebartsch 认为，随着世界各地当局加强对人工智能的监管，对该软件的需求迅速增长。例如，在欧盟，即将出台的人工智能法案对人工智能系统提出了一系列严格要求，要求公司评估并记录其人工智能模型的风险；不遵守规定的公司将受到严厉处罚。

Calvin Risk 最初专注于金融服务行业的客户，该行业对监管以及失误成本的担忧特别高。该公司一直与英国两家大型金融服务机构——保险公司英杰华集团（Aviva）和劳埃德银行集团（Lloyds Banking Group）合作开发其软件。

然而，其他行业也越来越多地关注如何在监管审查日益严格的情况下更安全地实施人工智能。例如，Calvin Risk 已与汉莎航空工业解决方案公司签署了合作伙伴关系，并开始与制药和电信等行业的客户合作。

该公司的解决方案赢得了令人印象深刻的评价。该平台被专注于负责任地使用人工智能的非营利组织 Hub France IA 评为银行业顶级人工智能风险管理工具，并在 Risk.net 的 2024 年市场技术奖中荣获年度模型风险管理产品奖。

投资者也对该公司的潜力充满热情。本轮融资由Join Capital 和 Seed + Speed Ventures 领投，自 2022 年以来该公司筹集的资金总额超过 500 万美元。

“Calvin Risk 的创新方法与强大的团队和清晰的愿景相结合，使他们成为组织应对人工智能合规性和风险管理复杂性的重要资源。”加入资本。“我们相信 Calvin Risk 将在塑造人工智能治理的未来方面发挥关键作用，并很高兴能够支持他们的旅程。”

Seed + Speed Ventures 的投资者兼执行合伙人 Alexander Kölpin 补充道：“学术界的卓越技术与深入的行业专业知识相结合，使这家初创公司为所有使用和构建相关人工智能的公司提供了真正的帮助”基于业务流程。

Calvin Risk 打算利用这笔资金投资于业务开发和上市活动，特别是当它希望提高其在金融服务行业的渗透率并进入其他行业时。“现在的重点是扩大公司规模，”Riebartsch 补充道。