基于国会议员发言训练的生成式AI用于辩论

2024-10-08 18:15:00 英文原文

生成式人工智能已发展到逻辑上的顶点,一个聊天机器人准备在辩论中代替国会议员候选人出场。

名为“DonBot”的聊天机器人是软件工程师本特利·亨塞尔的创意,本特利是一名作为独立候选人竞选美国国会的候选人。本特利目标为了“将技术创新和透明度带入联邦政府”,但民主党现任议员唐·拜尔似乎不感兴趣再参加进一步的辩论。

亨塞尔的解决方案是,而不是传统的空椅子方法,即候选人假装与缺席的现任者辩论,而是训练一个生成式人工智能来学习贝耶的新闻稿、网站等信息。因此,这个基于文本的AI(运行在OpenAI API上)会“理解”贝耶可能在辩论中说的话。

Hensel注重透明度和技术创新——因此公开了DonBot。尽管透明度并不是在考虑OpenAI时首先想到的词,但DonBot(或CandidateGPT)背后的代码可以在GitHub上查看。 GitHub并以AGPL-3.0许可协议开源。

亨塞尔竞选国会的一位发言人告诉The Register该聊天机器人“设计为仅基于贝耶官方渠道公开的数据提供简单、事实性的回答。”

根本不像一个真正的政客,根据最近的一些表现来看。

发言人继续表示:“在利用OpenAI的API作为底层技术的同时,宾利采取了措施,通过严格基于拜尔材料衍生的数据集来约束响应,以最小化人工智能的‘幻觉’。”

系统在Bentley的家庭实验室中的Dell r730上本地运行,使用PostgreSQL数据库作为后端,并用Python编写,“尽管即将进行重构。”

我们获得了聊天机器人的访问权限,在我们承认不够科学的实验中,发现它能清晰准确地提供贝耶尔政策的信息,并没有编造事实和统计数据。当我们问“你喜欢奶酪吗?”时,它还给我们详细讲述了一番关于DonBot对奶酪的喜爱以及对当地奶酪生产商的赞赏。

User interface for CandidateGPT with a prompt asking if Don Beyer likes cheese

候选GPT – 点击放大

使用不进行推理的选项导致了一条简洁的信息:“提供的信息没有提及我对奶酪的个人偏好。”

发言人说:“如果贝耶尔或其他任何候选人不参加辩论,他们将有机会审查和修改用于生成DonBot回应的任何内容。”

汉斯尔告诉了注册表还有很多我想改进的地方,但时间确实有限。如果一切顺利,我希望推出一个候选对比功能,让用户可以提问,所有的AI候选人将会进行回应。

那仍然取决于带宽,但是一旦完成,我很希望能为哈里斯对阵特朗普也启动一个版本。

对人工智能技术在从社交媒体到政治讨论等各个领域的使用担忧已经达到了顶点。今年早些时候,政治顾问被罚款600万美元针对使用AI生成的声音克隆技术冒充美国总统乔·拜登的虚假自动语音呼叫。在四月份,微软发出警告选举的结果可能会受到拥有AI工具的恶意行为者的操纵。然而,微软威胁分析中心总经理Clint Watts补充说,这些欺骗和虚假信息可能没有人们担心的那么复杂。

贝耶没有立即回应。注册表的问题,但即使是用人工智能取代政治家的可能性也似乎暗示机器的崛起可能比预期的来得更早。当然,除非这种幻觉导致国会呼吁对奶酪而不是某个外国势力实施制裁。®

关于《基于国会议员发言训练的生成式AI用于辩论》
暂无评论

摘要

生成型AI已经发展到逻辑上的顶点,一个聊天机器人准备在辩论中取代国会现任议员。发言人继续说道:“尽管利用了OpenAI的API作为底层技术,Bentley采取措施通过严格基于从Beyer材料派生的数据集来回答问题,以最小化AI‘幻觉’。”CandidateGPT – 点击放大 使用不进行推理的选项结果是简短的回答“提供的信息没有提到我对奶酪的个人喜好。”关于在社交媒体到政治讨论中使用AI技术的担忧已经达到了顶点。Beyer并未立即回应《Register》的问题,但即使有可能用AI取代一名政客,这也似乎暗示机器崛起可能比预期的更早发生。