AI编码代理存在法律风险

使用人工智能编写代码的开发人员可能会侵犯版权或许可，从而使雇主面临诉讼——随着人工智能原生软件工程的发展，这种风险将会加剧。

AI编码代理是准备接管一些律师表示，未来几年，软件开发将占很大一部分，但这种变化将带来知识产权法律风险。

人工智能驱动的编码代理将比基于人工智能的编码助手或副驾驶向前迈出一步，现在许多程序员使用人工智能来编写代码片段。但随着编码代理可能编写更多的软件把工作带走据精通技术的律师称，从初级开发人员开始，组织将需要监控机器人编码员的输出。

媒体和艺人已经备案多起人工智能版权案件专注于知识产权的 Panitch Schwarze 律师事务所的律师杰弗里·格鲁克 (Jeffrey Gluck) 指出，在美国法院，原告指控人工智能供应商使用他们的材料来训练人工智能模型或在输出中复制他们的材料。

他说，同样的事情也可能发生在软件代码上，尽管公司通常不会共享他们的源代码。

“输出是否侵犯了其他人所做的事情？”他断言。“人工智能越有可能使用作者的作品作为训练数据进行训练，输出就越有可能看起来像该数据。”

AI是如何训练的？

格鲁克说，除了人工智能编码代理复制代码行的可能性之外，法院还必须决定人工智能供应商是否可以使用受版权保护的材料（包括一些软件代码）来训练他们的人工智能模型。

“在大型语言模型的层面上，已经存在尚未解决的版权问题，”他说。

Dykema Gossett 律师事务所专注于知识产权和 IT 的律师 Michael Word 补充道，法律问题不太可能很快消失。

“我们已经看到了在后台使用人工智能的能力，本质上是起草重要部分的代码，”他说。– 您的用户界面显示：“我希望我的应用程序执行此操作”，您点击按钮，代码就会在后台生成。 –

他补充说，如果不对人工智能生成的代码进行一些审查，组织可能会面临诉讼。“那里有很多工作在幕后进行，可能不仅仅是那些可以借用的单独代码片段，”他说。– 这是从一个来源全部借来的吗？有多个来源吗？您也许能感觉到那里正在发生一些事情。”

旅行技术公司 Trevolution Group 的数据科学主管 Ilia Badeev 表示，虽然人类编写的代码也可能侵犯版权或违反开源许可，但人工智能生成的代码的风险与人工智能训练的数据有关。公司。许多人工智能代理很可能接受过有关受知识产权保护的代码的培训。

“这意味着人工智能可能会输出与训练数据中的专有代码相同的代码，这是一个巨大的风险，”Badeev 补充道。– 开源的东西也是如此。许多开源程序仅供非商业用途。当人工智能生成代码时，它不知道该代码将如何使用，因此您最终可能会意外违反许可条款。

供应商采取行动

GitHub Copilot，微软旗下流行的人工智能编码助手，承认在极少数情况下，它可以“匹配用于训练 GitHub AI 模型的代码示例。”编码助手具有可选的代码引用过滤器，用于检测和抑制与公共代码匹配的建议，并且它是预览a 代码引用功能帮助用户查找和查看潜在相关的开源许可证。 

GitHub 也有适当的法律保护。“当用户启用了阻止与现有公共代码匹配的过滤器时，他们将受到 GitHub 赔偿政策的保护，”一位发言人表示。

另一家人工智能编码助手供应商 Tabnine 宣布了自己的产品代码审查代理十月下旬。但 GitHub Copilot 和 Tabnine 并不是唯一可用的编码助手，GitHub 指出，用户应对自己的开源许可政策负责。

Dykema Gossett 的 Word 表示，为了保护自己，使用人工智能编码代理的组织需要检查人工智能生成的代码是否侵犯版权和违反开源许可，无论是由人类程序员还是由检查软件是否侵犯知识产权的服务来检查。

这位律师表示，一些人工智能代码生成平台将“帮助保护你并避免你承担一些责任，或者至少给你一些安慰”。

沃德表示，其他服务可能还会出现。“您可以想象，随着这些类型的系统得到越来越多的使用，您将拥有此类服务提供商，您可以在其中上传源代码，他们将检查它是否存在开源违规行为，”他说。“他们将使用现有的所有公共数据集进行培训，并审核您的代码，看看是否存在任何潜在的版权侵权投诉。”

Trevolution 的 Badeev 建议公司使用编码代理来检查输出，就像审核人类生成的代码是否侵犯知识产权一样。– 您仍然需要应用与人工编写代码相同的所有最佳实践；像代码审查这样的事情仍然非常重要，”他说。“您不能仅仅相信人工智能能够自行解决所有问题。”

风险尚不明确

目前还不清楚这对于部署编码代理的组织来说会造成多大的问题。Panitch Schwarze 的 Gluck 表示，大型人工智能供应商可能会成为版权和其他知识产权侵权诉讼的更大目标，但 Word 表示，用户组织将面临一些风险，特别是当他们使用编码代理来生产商业可用且成功的软件包时。

“你需要了解你的程序员在做什么，”Word 说。“您的程序员会这样做，因为它是一个非常有用的工具，并且很难阻止这种情况的发生。”

他补充说，公司需要采取合理措施防止知识产权侵权。“所以问题是，你是否会视而不见或不设置护栏来尝试解决这个问题，还是实际上积极主动地尝试解决这个问题？”他说。