如何检测人工智能生成的文本?这家初创公司有一些引人注目的想法 - Inc.

2024-09-18 14:45:38 英文原文

<正文>

GPTZero 是一家旨在识别人工智能编写的文本的软件初创公司,周三宣布,该公司正在更深入地研究人工智能检测领域,推出一款新工具,用于跟踪人工智能是否对特定文档做出了贡献。

联合创始人兼首席执行官爱德华·田 (Edward Tian) 在接受 Inc. 独家采访时表示,我们的目标是从人工智能写作的“全有或全无”范式转向更细致的范式。GPTZero 旨在“弥合差距”他补充说,无论是员工和老板还是老师和学生之间,都是“作家和读者”之间的关系。

随着 ChatGPT、Claude、Llama 和 Gemini 等文本编写人工智能程序充斥办公室、学校和互联网,机器生成的文本充斥在办公室、学校和互联网上,区分人工智能单词和真正的人类单词的任务变得更加紧迫。

文章在视频之后继续。

有多种不同的方法可以完成该过程。最近的一项研究试图深入研究人工智能最喜欢的词语,其中可能包括“深入”和“至关重要”等术语,而人工智能开发人员还创建了(但尚未广泛发布)工具,可以通过巧妙地调整其文本来为人工智能文本“添加水印”。措辞。

GPTZero 已经提供了一个人工智能分类模型,该模型在预先存在的人类和人工智能文本的语料库上进行训练,旨在检测野外的人工智能文本。这就是帮助这家初创公司在夏季获得 1000 万美元 A 轮融资的原因。但该公司的最新产品具有不同类型的人工智能检测软件:这些工具旨在通过监控书写过程本身来识别聊天机器人的使用情况。

摘要

GPTZero 是一家旨在识别人工智能编写的文本的软件初创公司,该公司周三宣布,该公司正在更深入地研究人工智能检测领域,推出一款新工具,用于跟踪人工智能是否对特定文档做出了贡献。有多种不同的方法可以完成该过程。最近的一项研究试图深入研究人工智能最喜欢的词语,其中可能包括“深入”和“至关重要”等术语,而人工智能开发人员还创建了(但尚未广泛发布)工具,可以通过巧妙地调整其文本来为人工智能文本“添加水印”。措辞。GPTZero 已经提供了一个人工智能分类模型,该模型在预先存在的人类和人工智能文本的语料库上进行训练,旨在检测野外的人工智能文本。这就是帮助这家初创公司在夏季获得 1000 万美元 A 轮融资的原因。