Endor Labs:AI透明度与“开放洗”
2025-02-24 18:18:27
Endor Labs的专家正在辩论AI中“开放性”的真正含义,因为该行业专注于透明度和安全性。安德鲁·斯蒂夫尔(Andrew Stiefel)强调将软件安全原则应用于AI系统,并主张AI相当于软件材料清单(SBOM),以提高对模型数据集和培训过程的可见性。朱利安·索布里尔(Julien Sobrier)强调了定义“开放” AI模型的矛盾之处,强调需要在整个开发链中对开源组件的需求,并警告“开放洗净”。DeepSeek通过其模型朝着更大的透明度迈进,被视为在管理安全风险和促进初创企业之间的创新方面迈出的一步。开源AI模型的趋势正在引起关注,但它也需要采取系统的风险管理方法,包括发现,评估和安全采用的响应措施。