AI生成的代码可能是软件供应链的灾难。这就是原因。
2025-04-29 11:15:43
在AI研究中,“软件包幻觉”是指在代码样本中生成不存在的软件包名称的LLM,这可以由攻击者在供应链攻击中利用。一项研究发现,在576,000个代码样本中的包装参考中,有将近19.7%指向不存在的包裹,并且在多个查询中经常出现一些幻觉。与JavaScript相比,诸如Codellama和DeepSeek之类的开源LLM产生的包装幻觉(22%)(22%)(5%),而Python代码产生的幻觉却少于JavaScript(16%比21%)。