作者:Ben Bergman
EvenUp 的估值突破 10 亿美元人工智能可以帮忙自动化法律业务中利润丰厚的一部分。前员工告诉《商业内幕》,这家初创公司依靠人类来完成大部分工作。
EvenUp 旨在简化人身伤害索赔要求,并表示其估值从年初的 8500 万美元跃升至历史上增长最快的公司之一。独角兽十月融资轮的状态。
客户上传医疗记录和病例文件,EvenUp 的人工智能应该会筛选大量数据数据,找出关键细节来确定事故受害者应该赔偿多少。
EvenUp 的一位投资者将其“基于人工智能的方法”描述为“量子飞跃。”
八名前 EvenUp 员工在夏末秋初接受 Business Insider 采访时表示,至少到目前为止,现实情况是,大部分工作都是由人类员工完成的,而 EvenUp 的人工智能在填补这一空缺方面进展缓慢。
这些前员工表示,他们目睹了 EvenUp 人工智能的许多问题,包括漏诊伤病、幻觉医疗状况以及错误记录的就诊情况。为了保留未来的就业前景,这些前雇员要求不透露姓名。
一位今年早些时候离职的 EvenUp 前员工表示:“他们在面试过程和培训中声称,人工智能是一种可以帮助工作更快进行的工具,并且因为人工智能,你可以完成更多工作。”“实际上,一旦你开始在公司工作,我的经验是,我的经理告诉我甚至不要使用人工智能。他们说它不可靠并且会产生太多错误。”
另外两名前员工也表示,今年主管多次告诉他们不要使用 EvenUp 的人工智能。另一位今年离职的前员工表示,他们从未被告知不要使用人工智能,只是他们必须保持警惕并纠正它。
“我 100% 被告知这不是超级可靠,我需要密切关注它,”这位前员工说。
EvenUp 告诉 BI,它结合了人类和人工智能,这应该被视为一个功能,而不是一个错误。
EvenUp 联合创始人兼首席执行官 Rami Karabibar 在一份声明中表示:“这种组合方法可确保最大的准确性和最高的质量。”“一些需求主要是通过人工智能生成和最终确定的,需要少量的人工输入,而其他更复杂的需求需要大量的人工输入,但使用人工智能仍然可以节省时间。”
早期依靠人类来完成任务和完善方法是人工智能公司的常见策略。随着时间的推移,这些人类输入会被输入到人工智能模型和相关系统中,而该技术的目的就是学习和改进。前员工表示,在 EvenUp,这种人工智能良性循环的迹象还很薄弱。
“在我看来,人工智能并没有得到改善,”一位前员工表示。
“我们的人工智能每天都在进步,”卡拉比巴尔说。“今天比一周前节省了更多时间,一周前比一个月前节省了更多时间,一个月前比去年节省了更多时间。”
随着人工智能席卷市场和董事会,进入工作场所和消费者的生活,EvenUp 的情况凸显了更广泛的担忧。生成式人工智能的成功需要复杂的新技术不断改进。有时,初创公司创始人和投资者的梦想与员工和客户使用该技术的实际情况之间存在差距。甚至微软一直在苦苦挣扎及其主要人工智能产品 Copilot 的一些实际实现。
法学助理教授阿卜迪·艾迪德 (Abdi Aidid) 表示,虽然人工智能擅长对大量数据进行排序和解释,但迄今为止,它很难准确破译医疗记录等内容,这些内容的格式不同,而且通常在页边空白处潦草地写着医生的笔迹。在多伦多大学工作,他开发了机器学习工具。
“当你扫描数据时,它会被打乱很多,让人工智能读取打乱的数据没有帮助,”艾迪德说。
今年早些时候,BI 向 EvenUp 询问了人类在制作需求信(其主要产品之一)方面的作用。外展结束后,这家初创公司以书面答复进行了回应,并发布了一份博客文章澄清了员工扮演的角色。
该公司写道:“虽然经过通用数据训练的人工智能模型可以处理一些任务,但起草高质量需求函的复杂性需要的不仅仅是自动化。”“在 EvenUp,我们将人工智能与专家人工审核相结合,以提供无与伦比的精确度和护理。”
该初创公司的发言人拒绝透露其人工智能节省了多少时间,但告诉 BI,员工撰写求职信的时间比年初减少了 20%。该发言人还表示,72% 的需求信内容是从人工智能草稿开始的,高于 2023 年 6 月的 63%。
EvenUp 成立于 2019 年,比 OpenAI 的 ChatGPT 掀起生成式 AI 热潮早了两年多。
Karabibar、Raymond Mieszaniec 和 Saam Mashhad 创立了 EvenUp,旨在为人身伤害受害者提供“公平”的竞争环境。创始人和投资者经常引用 Mieszaniec 父亲 Ray 的故事来解释为什么他们的使命如此重要。EvenUp 的投资者之一光速创投合伙人 (Lightspeed Venture Partners) 在一份声明中表示,他被车撞后致残,但他的律师不知道适当的赔偿,而且由此产生的和解“不够”。写关于公司的文章。
“我们训练了一台机器,使其能够阅读医疗记录、解释其扫描的信息并提取关键信息,”米斯扎涅茨去年在接受采访时说道。“我们是第一个能够使整个过程基本实现自动化并保持高质量的技术,同时确保这些公司以具有成本效益的方式完成所有这些工作。”
今年早些时候,EvenUp 的八名前员工告诉 BI,这个过程远未实现自动化,而且很容易出错。
一位前员工表示:“你必须仔细检查人工智能提供给你的所有内容,或者完全从头开始。”
例如,根据一些前雇员的说法,该软件错过了医疗记录中的关键伤害,同时产生了不存在的幻觉。BI 没有发现最终产品中存在这些错误。三名员工表示,如果人类员工没有发现此类错误,可能会减少支出。
EvenUp 的系统有时会将几天内的多次医院就诊记录为一次就诊。一名前员工表示,如果员工没有发现这些错误,索赔金额可能会更低。
前员工回忆起 EvenUp 的人工智能系统曾产生去看医生的幻觉,但实际上并没有发生。它还报告称,一名受害者的肩部受伤,而事实上,他们的腿受伤了。前员工表示,该系统还混淆了汽车行驶的方向——这是人身伤害诉讼中的重要信息。
“它会提取不存在的信息,”一位前员工回忆道。
该软件有时还会遗漏一些关键细节,例如医生是否确定患者的受伤是由特定事故造成的,据一些员工称,这是分配损失的关键信息。
一位前雇员表示:“这对律师来说是一大笔钱,而人工智能却一直会错过这一点。”
EvenUp 的发言人承认,前员工提到的这些问题“可能会发生”,尤其是在其人工智能的早期版本中,但他表示,这就是它雇用人类作为后盾的原因。
EvenUp 没有安排高管接受采访,但发言人让 BI 与一位客户和一位投资者取得了联系。
Simon Law Group 联合创始人罗伯特·西蒙 (Robert Simon) 表示,EvenUp 的人工智能使他的人身伤害公司变得更加高效,并且使用人工减少了错误。
“我很感激,因为我希望在产品回到我手中之前有更多的人关注它,”西蒙说。“EvenUp 非常非常准确。”
贝恩资本风险投资公司 (Bain Capital Ventures) 合伙人 Sarah Hinkfuss 表示,她很欣赏 EvenUp 的人类工作人员,因为他们帮助训练人工智能模型,而 OpenAI 及其 ChatGPT 产品等竞争对手无法轻易复制这些模型。
“他们正在构建以前不存在的新颖数据集,并且正在自动化流程,从而显着提高毛利率,”辛克弗斯在今年早些时候的一篇博客文章中写道。
大多数 EvenUp 前员工表示,他们被这家初创公司吸引的一个主要原因是,他们认为人工智能将完成大部分工作。
“我认为这份工作会非常容易,”一位前员工说。“我认为这就像你检查人工智能已经为你完成的工作一样。”
这些人表示,现实情况是,他们必须长时间工作才能发现、纠正和完成人工智能系统无法完全准确处理的任务。
另一位前员工回忆道:“我的很多同事都会工作到凌晨 3 点,周末也会工作到凌晨 3 点,以尽量满足预期的要求。”
EvenUp 的人工智能对于简单的案例很有帮助,只需两小时即可完成。但四名前雇员表示,更复杂的案件有时需要 8 小时,因此工作日可能会延长至 16 小时。
其中一位人士说:“圣诞节和感恩节我必须工作。”“他们(经理们)表现得好像一切都应该很快,因为人工智能做了所有事情。但事实并非如此。”
EvenUp 的发言人表示,求职者会被告知这份工作很有挑战性,需要大量的写作。他表示,保留率“与其他高速增长的初创公司一致”,今年第三季度有 40% 的法律运营助理获得晋升。
这位发言人表示:“我们认识到,在一家规模如此迅速扩大的公司工作并不适合所有人。”“此外,随着我们的人工智能不断改进,利用我们的技术将变得越来越容易。”
该发言人强调,EvenUp 于 10 月底聘请了一位人力副总裁,强调了人力的持续重要性。