2024-11-20 15:58:42
AllHere 为学校开发 AI 聊天机器人，该公司面临破产，联邦检察官以证券和电汇欺诈罪起诉 AllHere 创始人兼前首席执行官乔安娜·史密斯-格里芬 (Joanna Smith-Griffin)，涉嫌诈骗投资者近 1000 万美元。史密斯-格里芬被指控歪曲财务数据以获取资金并将公司资金用于个人开支。起诉书还涉及身份盗窃的指控。AllHere 与洛杉矶联合学区签订了合同，负责构建人工智能聊天机器人，但该项目因财务问题和对公司交易的调查而停止。

2024-11-20 15:40:33
本文讨论了生成式人工智能系统生成儿童性虐待材料 (CSAM) 的复杂问题及其带来的法律挑战。以下是要点总结：1. **虚构场景介绍：**- 8 岁女孩阿德里安娜 (Adrianna) 的故事实际上因人工智能生成的图像而受到虐待，这说明了生成人工智能系统在现实世界中带来的危险。2. **当前的法律框架和挑战：**- 现有法律，例如 18 U.S.C.§§ 2256 和 1466A 将制作或传播 CSAM 定为刑事犯罪，但基于实际受害者。- 最高法院在纽约诉费伯案中的裁决将儿童色情制品排除在第一修正案保护之外，因为其危害严重且缺乏价值。3. **生成式人工智能作为一种新威胁：**- 生成式人工智能系统生成不涉及真实儿童的内容，这使得根据现行法律很难进行法律起诉。- 没有真正的儿童参与人工智能生成的 CSAM 的创建，这引发了关于如何合法起诉涉及不存在受害者的犯罪的问题。4. **所需的法律类比和解释：**- 与言论自由联盟的类比，其中虚拟描述（没有真正的犯罪参与）被认为是有害言论。5. **第230条人工智能系统的豁免漏洞：**- 法院裁定，当平台的算法创建有害内容时，第 230 条平台不受保护。- 根据 Ferber 的裁决，平台策划 FYP 内容纯粹是第三方行为，在安德森诉 Tiktok 案中，算法内容被裁定为非法。6. **提议利用人工智能操纵真实儿童图像并添加虚假色情内容：**- 这说明，根据 230 和言论自由挑战，即使使用没有真实未成年人的合法图像也是非法的。7. **人工智能生成的 CSAM 的法律挑战：**- 对平台开发商进行起诉和辩论，最终被定罪。8. **结论和号召性用语：**- 政府、科技公司和个人必须合作解决这一问题上的法律漏洞。- 随着技术的快速发展，优先考虑儿童福利需要更严格的法规和问责制。### 要点：1. **虚构的虐待故事反映了生成式人工智能系统带来的现实世界危险：**2. 现有法律对非真实受害者生成的内容缺乏适用性。3. 法院必须平衡 230 的意图与让平台对合法生成的有害内容负责，满足更严格监管和加强执法的需要。4. 在技术快速进步的挑战中优先考虑儿童福利。这个问题凸显了随着技术的发展而调整法律框架的迫切需要，以确保根据费伯裁决的第一修正案遏制此类滥用行为。### 建议：- **全球合作：**- 立法措施和更严格执法方面的国际合作。- **技术责任：**- 科技公司必须让人工智能系统对有害内容和严格监管负责。- **法律框架调整：**- 测试证明淫秽案件，法院会认定该作品诉诸淫欲；(2) 根据州法律描述明显具有攻击性的性行为；(3)缺乏严肃的价值。通过解决这些差距和调整法律框架，我们可以更好地保护儿童免受生成人工智能带来的新威胁，同时维护言论自由原则。