人工智能安全基金为网络安全研究发布征求建议书
2024-12-25 05:20:30
英文原文
作者：Candid
2024 年 12 月 25 日
截止日期：2025 年 1 月 20 日
这人工智能安全基金AISF（AISF）旨在加速和扩大人工智能安全研究领域，以促进前沿模型的负责任开发和部署，最大限度地降低风险，并实现对能力和安全性的独立、标准化评估。
AISF 邀请研究经费申请，并将提供赠款以加速研究工作，识别前沿人工智能模型的开发和使用所产生的潜在安全威胁。随着人工智能越来越多地在各个领域得到应用，该基金旨在制定战略，通过资助研究来识别和评估风险，并改善人工智能的安全部署，从而造福社会，从而避免出现负面结果。
通过该基金的网络安全 RFP，AISF 将支持评估潜在风险并为在网络安全环境中运行的人工智能系统制定安全措施的技术研究。资金旨在促进前沿人工智能模型的负责任开发，同时为安全相关能力和安全措施建立强大的评估框架。此次征求建议书将支持前沿人工智能系统的技术研究，以降低网络安全风险。
虽然人工智能系统在防御性网络安全应用中展示了价值，但它们自动化或增强攻击能力的潜力需要仔细评估。主要关注点包括人工智能系统识别漏洞、生成漏洞代码以及使已知攻击模式适应新环境的能力。
RFP 的研究目标包括评估前沿人工智能模型的基准和提升研究：识别和利用新型安全漏洞的能力、自动化复杂攻击链的有效性以及适应和修改现有漏洞代码的能力。将支持提升研究、跨学科测试和预测研究
AISF 计划为学术实验室、非营利组织、独立研究人员和营利性任务驱动实体的网络安全主题研究项目提供 35 万至 60 万美元的资助。
符合资格的提案类型和申请人包括专注于评估和提高网络安全应用中人工智能安全性的技术研究项目；项目必须关注前沿人工智能模型及其部署版本。
有关完整的计划指南和申请说明，请参阅 AI 安全基金网站。
关于《人工智能安全基金为网络安全研究发布征求建议书》的评论
暂无评论
发表评论
摘要
人工智能安全基金（AISF）正在邀请资金申请，以支持旨在识别先进人工智能模型开发和使用潜在风险的研究，特别是在网络安全环境中。该基金寻求专注于评估前沿人工智能系统识别漏洞、自动攻击和调整漏洞代码能力的项目。申请截止日期为 2025 年 1 月 20 日，为符合条件的学术实验室、非营利组织、独立研究人员和任务驱动实体提供 35 万至 60 万美元的资金。