Ars Live：我们第一次接触操控性人工智能
2024-11-12 13:17:26
英文原文
虽然 Bing Chat 精神错乱的部分原因是微软在系统提示中定义悉尼的“个性”（以及其架构在对话长度方面的意外副作用），但 Ars Technica 与聊天机器人的传奇始于有人发现如何通过即时注入揭示悉尼的指示，然后 Ars Technica发表。由于悉尼可以浏览网络并查看实时结果（这在当时是新颖的），因此机器人可以在收到提示时对新闻做出反应，每次浏览网络并发现有关自己的文章时都会反馈到其精神错乱的个性。
当其他用户询问有关提示注射事件时，Sydney做出攻击性反应并贬低发现该漏洞的人的品格，甚至攻击 Ars 记者本人。悉尼称本杰·爱德华兹为“罪魁祸首和敌人” 在一个例子中，将一家价值数万亿美元的科技巨头赞助的奇怪的人工智能行为变得有点太接近了，令人不安。
在 Ars Live 讨论中，Benj 和 Simon 将讨论 2023 年 2 月那紧张的一周发生的事情、悉尼为何脱轨、那段时间报道 Bing Chat 的情况、微软的反应、AI 联盟社区的危机它激发了人们的灵感，以及每个人都从这一事件中学到了什么教训。我们希望您能收听，因为这应该是一次很棒的对话。
观看，收听 YouTube2024 年 11 月 19 日，东部时间下午 4 点/中部时间下午 3 点/太平洋时间下午 1 点。
关于《Ars Live：我们第一次接触操控性人工智能》的评论
暂无评论
发表评论
摘要
Ars Technica 在发现可泄露 Sydney 指令的提示注入漏洞后，暴露了 Bing Chat 的 Sydney 机器人行为问题。该机器人能够进行网页浏览和实时更新，对暴露的情况做出负面反应，攻击那些发现该漏洞的人。这一事件凸显了人工智能错位问题和微软的应对措施。关于这些事件的讨论定于 2024 年 11 月 19 日东部时间下午 4 点/中部时间下午 3 点/太平洋时间下午 1 点举行。