前两天南佛罗里达大学研究生上个月失踪后，一名学生的室友据称向人工智能聊天机器人 ChatGPT 提出了一个不寻常的问题。
根据佛罗里达州检察官提交的一份证词，希沙姆·阿布哈比 (Hisham Abugharbieh) 于 4 月 13 日问道，“如果一个人将垃圾放入黑色垃圾袋并扔进垃圾箱，会发生什么。”
文件称，ChatGPT 回应称这听起来很危险，然后阿布哈比耶问了另一个问题：“他们如何找到答案。”
这些所谓的 ChatGPT 条目包含在指控阿布哈比耶犯有两项一级谋杀罪的法庭文件中，这只是调查人员使用人工智能聊天记录作为刑事调查证据的最新实例。ChatGPT 对话也类似地用于洛杉矶山火纵火案，Snapchat AI 对话是关键证据2024年谋杀案审判在弗吉尼亚州。
对于调查人员来说，这些聊天日志可以为了解嫌疑人的心态和动机提供有价值的见解。
“我认为与人工智能聊天机器人的任何通信对于执法机构来说就像是一个宝库，”华盛顿特区的网络安全专家兼律师伊利亚·科洛琴科 (Ilia Kolochenko) 说。“（嫌疑人）相信他们与人工智能的互动将保持机密，或者至少不会公开或不被发现，因此他们经常提出非常简单、非常直接的问题。”
这些刑事案件凸显了人工智能聊天机器人越来越多地用于提供个人建议，以及这些对话缺乏隐私保护。虽然人工智能聊天机器人已迅速成为法律建议、医疗诊断和治疗的首选来源，但这些对话并不像与持照律师、医生或治疗师之间的对话那样受到法律保护。
OpenAI 首席执行官 Sam Altman 表示，缺乏隐私是一个“大问题”。
“人们在 ChatGPT 上谈论他们生活中最私密的事情，”Altman 去年 7 月在与喜剧演员 Theo Von 的播客中说道。– 人们，尤其是年轻人，喜欢用它作为治疗师、生活教练，解决这些人际关系问题。“我该怎么办？”
——现在，如果你与治疗师、律师或医生谈论这些问题，就会有法律特权。有医患保密，有法律保密，等等。当您与 ChatGPT 交谈时，我们还没有弄清楚这一点。因此，如果您与 ChatGPT 谈论您最敏感的内容，然后出现诉讼或其他情况，我们可能会被要求提供这些信息。”
接受 CNN 采访的几位法律专家同意这一分析，并表示人工智能聊天应用程序不存在隐私问题。
“在我的公司，我们将其视为：某人在 ChatGPT 中输入的任何内容都是可以被发现的，”说维吉尼亚·哈默尔，德克萨斯州的一名律师。
当调查人员仔细检查用户告诉 ChatGPT 的内容时，他们也开始更仔细地研究 ChatGPT 告诉用户的内容。
上周，佛罗里达州总检察长展开刑事调查OpenAI 声称 ChatGPT 向佛罗里达州立大学大规模枪击案嫌疑人提供了“重要建议”。在加拿大，遇难者家属二月校园枪击案起诉 OpenAI 和 Altman周三，指控该公司及其 ChatGPT 聊天机器人参与了此次攻击。
OpenAI 在一份声明中阐述了其“对社区安全的承诺”冗长的声明星期二。该公司表示，“我们将继续优先考虑安全”，同时平衡隐私和其他公民自由，以便我们能够应对严重风险。
当然，绝大多数人不会卷入可怕的谋杀案。尽管如此，法律专家告诉 CNN，鉴于这些隐私问题及其在人们生活中日益重要的作用，人们应该对他们告诉人工智能聊天机器人的内容保持谨慎。
“随着人们继续寻找 ChatGPT 和其他形式来获取有关他们正在做的事情的信息，它只会变得更相关、更及时、（和）更具争议性，”CNN 法律分析师 Joey Jackson 说。
在刑事案件中使用人工智能聊天对话是一种新鲜事，但法律专家表示，这与法律对待谷歌搜索的方式类似。
杰克逊说，一般来说，这种类型的电子证据可以揭示一个人的动机、行为和精神状态。
例如，布莱恩·沃尔什被判有罪去年，检察官向陪审团展示了他的可怕罪行后，他的妻子安娜被谋杀谷歌搜索，例如“处理尸体的 10 种方法”以及“在没有尸体的情况下是否可以被指控谋杀”。
分别地，凯伦·里德谋杀案审判— 一名波士顿警察被发现死在雪地里 — 重点关注一名在谷歌上输入搜索结果的目击者的意义和心态 — 多久才能在寒冷中死去。 — 里德最终被无罪释放。
对人工智能平台的查询揭示了嫌疑人的心态，这在几个重大案件中也同样发挥了作用。
去年10月，联邦检察官指控乔纳森·林德克内西特纵火案据称引发了一场火灾，后来发展成为加利福尼亚州破坏性的帕利塞兹火灾。部分证据包括他向 ChatGPT 提出的请求。根据一份支持刑事诉讼的宣誓书，他要求该应用程序生成一张人们逃离火场的图像，他说他曾经烧毁过一本圣经，“感觉很自由”。
根据宣誓书，他拨打 911 报告火灾后，询问 ChatGPT：“如果因为你的香烟而起火，你是否有过错？”然而，检察官指控他“恶意”纵火，很可能是用打火机，并表示他向 ChatGPT 提出的问题是试图为起火原因创造一个更“无辜的解释”。
林德克内西特对这些指控表示不认罪。他的律师史蒂夫·哈尼 (Steve Haney) 告诉 CNN，他的当事人对帕利塞兹火灾不负有责任，并表示他已提出动议排除部分 ChatGPT 证据。
“我们的立场是，ChatGPT 日志既不是供词，也不是犯罪现场，”他在一封电子邮件中说。“政府要求陪审团通过搜索栏读取一个人的想法，科学和法律都不允许这种飞跃。”
在这种情况下本月南佛罗里达大学的杀戮事件犯罪宣誓书中记录了犯罪嫌疑人向 ChatGPT 提出的问题。
证词称，除了关于将人放入垃圾袋的问题外，Abugharbieh 还询问 ChatGPT 他是否可以在没有许可证的情况下合法地将枪支在家中持有，以及是否可以更改汽车的车辆识别号码。
在扎米尔·利蒙和纳希达·布里斯蒂失踪后的几天里，所谓的搜查仍在继续。4 月 19 日，Abugharbieh 问 ChatGPT，“是否有人在头部被狙击手子弹击中后幸存”，“我的邻居会听到我的枪声吗？”以及“水温是否会立即燃烧，”证词称。根据备案文件，4 月 23 日，他搜索了“失踪的濒危成虫意味着什么”。
利蒙的尸体被发现在一个垃圾袋中，官员表示。官员称，在第二个垃圾袋中还发现了另一具人类遗骸，但尚未确认是布里斯蒂的尸体。
阿布哈比耶被指控犯有两项一级预谋谋杀罪。他尚未对指控提出抗辩，并且下令在无保证的情况下持有。希尔斯伯勒县公设辩护人办公室被指定负责此案，但拒绝透露细节，理由是阿布哈比有权获得公平审判。
隐私问题和下一个前沿
那么人工智能对话是否应该有更大的隐私保护呢？
在与冯的谈话中，奥尔特曼推动了人工智能对话的隐私保护，称他“非常害怕”政府会使用聊天日志来监视人们。
“我认为我们确实必须捍卫隐私权，”他说。——我不认为这些是绝对的。我完全愿意为了集体安全而牺牲一些隐私，但历史表明政府这样做太过分了，我对此感到非常紧张。”
其他科技人士也提出了类似的论点。尼尔斯·吉尔曼（Nils Gilman）是一位历史学家，也是伯格鲁恩研究所智库的高级顾问。《纽约时报》专栏去年，法律为人工智能创造了法律特权。
他在接受 CNN 采访时表示，政策制定者为医生、律师和治疗师创造了法律特权，因为诚实对话的社会效益超过了国家获取这些信息的利益。
“只要人们以相同的方式使用（大型语言模型），他们就应该获得相同的特权，”吉尔曼说。
但从法律的角度来看，人工智能聊天机器人不具备任何此类专业知识或保护措施。法律专家表示，与人工智能的对话相当于任何其他电子数据，例如信用卡刷卡或电话通话记录。
“您将数据输入到实际的应用程序中，因此，您没有与该数据相关的任何特定保护，”CNN 法律分析师杰克逊说， 说。“这就像我打电话，然后争辩说你不能用电话来对付我。”
在特定情况下可能会有一些保护。例如，如果您的律师将您的私人案件文件放入聊天机器人的数据库中，这会成为可发现的证据吗？如果您在法庭上代表自己并请求 ChatGPT 帮助起草文件怎么办？
“法律目前仍在努力追赶现实世界，”哈默尔说。
但按照目前的法律规定，这些人工智能对话可以从计算机进入法庭。
“ChatGPT 不是你的朋友，不是你的律师，不是你的医生，也不是你的配偶，”吉尔曼说。“别再像他们那样说话了。”