DARPA 计划探索自主系统伦理 - 军事嵌入式系统
2024-12-27 19:24:25
英文原文
作者：OpenSystems Media
消息
2024 年 12 月 27 日
弗吉尼亚州阿灵顿美国国防高级研究计划局 (DARPA) 正在进行一项研究计划，旨在评估自主武器系统遵循类人道德规范的能力。
具有军事作战价值的自主标准和理想 (ASIMOV) 计划中选定的执行者将使用各种方法与 DARPA 团队合作开发基准，以客观、定量地衡量未来自主用例的道德难度以及自主系统执行的准备情况在军事作战价值背景下的这些用例中。
DARPA 在该计划的公告中声称，“阿西莫夫并不是在开发自主系统或用于自主系统的算法”，而是打算“有意义地评估特定军事场景的道德难度以及自主系统在这些场景中道德执行的能力。”
该公告将七名参与者命名为 CoVar, LLC；Kitware 公司；洛克希德·马丁公司；RTX技术研究中心；萨博公司；系统与技术研究有限责任公司；和新南威尔士大学。
ASIMOV 计划将努力创建道德自治通用语言，使开发测试/操作测试 (DT/OT) 社区能够有意义地评估特定军事场景的道德难度以及自主系统在这些场景中道德执行的能力。阿西莫夫参与者将开发原型生成建模环境，以快速探索一系列日益增加的道德困难的场景迭代和可变性。
根据 DARPA 的说法，最终结果是：阿西莫夫将为定义衡量未来自主系统的基准奠定基础。DARPA 官员表示，阿西莫夫项目将包括一个道德、法律和社会影响小组，为表演者提供建议并在整个项目过程中提供指导。
特色公司
关于《DARPA 计划探索自主系统伦理 - 军事嵌入式系统》的评论
暂无评论
发表评论
摘要
DARPA 正在进行阿西莫夫计划，以评估自主武器系统遵守类人道德规范的能力。该计划旨在制定基准，用于衡量未来自主用例在军事作战价值范围内的道德难度，而无需开发自主系统或算法本身。七名参与者——CoVar, LLC；Kitware 公司；洛克希德·马丁公司；RTX技术研究中心；萨博公司；系统与技术研究有限责任公司；和新南威尔士大学参与创建原型生成建模环境，以探索日益增加的道德困难的场景迭代。阿西莫夫计划还将包括一个关于道德、法律和社会影响的咨询小组。