司法部正在修改其政策，旨在遏制第三方网络安全研究人员的法律风险，以解决人工智能系统的漏洞报告问题。
司法部刑事部门首席副助理总检察长 Nicole Argentieri 表示，她的部门正在努力更新 2017 年漏洞披露计划框架。
Argentieri 在战略与国际研究中心周三主办的一次活动中表示，这些更新将解决人工智能系统漏洞的报告问题，并考虑知识产权法下可能出现的问题。
在我们努力更新本文件时，刑事部门以及其他部门组成部分将与外部利益相关者（包括研究人员和公司）合作，征求反馈意见，以便他们可以分享他们的任何担忧，包括潜在的担忧她说，刑事法规对善意的人工智能红队工作的适用性。
Argentieri 指出，第三方安全研究有助于保护计算机系统和网络免受先前已知的网络错误的影响。包括国防部和国土安全部在内的联邦机构已实施漏洞披露计划，以发现其系统甚至承包商系统中的网络安全问题。
但 Argentieri 指出，对人工智能系统的独立研究可以超越纯粹的安全问题。
她说，它还可以帮助防止歧视、偏见和其他有害结果。随着人工智能在我们的生活中变得越来越普遍，我们不能让它破坏我们共同的公平和公正的国家原则，这一点至关重要。
司法部的努力符合白宫 2023 年 9 月的自愿人工智能承诺，该承诺鼓励公司激励第三方漏洞发现。
虽然领先的人工智能公司已承诺遵守白宫的承诺，但人工智能研究人员对他们在保护善意研究方面的后续行动表示担忧。今年早些时候，超过 350 名领先的人工智能研究人员呼吁公司为人工智能评估建立一个安全港，他们认为当前的政策阻碍了独立评估。
Argentieri 指出，司法部还支持推动美国版权局澄清，允许对人工智能系统进行善意安全研究的豁免也包括对此类系统的偏见和其他有害和非法输出的研究。
尽管我们相信善意研究可以与我们在刑事部门执行的法规共存，但我们知道我们才刚刚处于这场人工智能革命的开端，人工智能世界中还有很多尚未解决的问题Argentieri 表示，从一些核心技术到人工智能系统的技术细节，以及如何最有效地进行研究。
司法部计划修订其漏洞披露框架之际，刑事部门制定了新的打击网络犯罪战略方法。
目标包括加大力度打击勒索软件团伙、僵尸网络和其他网络犯罪活动；加强司法部打击网络犯罪的工具；促进更多有关滥用新兴技术的能力建设、公众教育和信息共享。
犯罪分子一直在寻求利用新技术，但虽然他们的工具可能会改变，但我们的使命不会改变，”Argentieri 说。刑事部门将继续与执法伙伴密切合作，积极追捕利用人工智能和其他新兴技术的犯罪分子，包括网络犯罪分子，并追究他们的不当行为责任。
版权2024 年联邦新闻网。版权所有。本网站不适用于欧洲经济区内的用户。