The ACHILLES project: Human-centric machine learning – lighter, clearer, safer

面对AI的最大挑战：信任和效率，为道德和有影响力的解决方案铺平了道路。Artificial intelligence (AI) is rapidly expanding across healthcare, finance, public services, and everyday life.然而，它面临着持续的信任和效率的阿喀琉斯高跟鞋。

由于先进的系统采用更关键的决策功能，社会呼吁公平，保护隐私和环保人工智能越来越强大。

欧洲的AI景观目前是由新的法规浪潮塑造的，尤其是《欧盟AI法》，该法案实施了基于风险的方法，以确保AI应用程序满足对安全性，公平性和数据治理的严格要求。在这种背景下，在欧洲地平线下的8m支持的Achilles项目旨在建立一个全面的框架，允许创建较轻（环境和计算上可持续）的基于AI的产品（透明，易于解释，且合规，且合规，且合规，且合规）），更安全（坚固，保密和合规）。

一个多学科财团：每个AI维度的专业知识

阿喀琉斯项目的核心优势是其多样化的财团，由十个国家的16个领先组织组成，每个组织都为该项目带来了专业知识。领先的大学和机构在公平，可解释的AI，保护隐私技术和模型效率方面推动了最先进的技术。高科技公司和中小型企业推动工具开发，数据创新和验证飞行员，以确保阿喀琉斯解决方案满足现实世界的需求。医疗保健和临床组织带来了敏感的医疗数据集和诊断方面的实用专业知识，帮助量身定制了健壮的健康AI解决方案。

著名的法律研究和道德专家中心保证了阿喀琉斯与新兴立法保持一致（欧盟AI法，数据治理法，GDPR）。他们还预计未来的监管转变，以帮助该项目处于政策合规的最前沿。开放科学，沟通和剥削计划的专家有助于协调跨学科研讨会，参与标准化机构，并确保项目的产出吸引广泛的受众。

这种丰富的观点融合确保了道德，法律和社会考虑与技术模块共同开发，从而为AI发展的复杂挑战提供了整体方法。

连接到欧盟AI法案和更广泛的法规

阿喀琉斯的主要目标之一是简化遵守不断发展的法规，尤其是欧盟AI法案，该法案需要：

• 基于风险的一致性：将每个AI组件的风险水平与适当的检查相匹配，从数据审核到偏置缓解。
• 隐私和数据治理：确保解决方案满足或超过GDPR，数据治理法和相关框架的要求。
• 绿色AI：整合模型效率和部署优化，以帮助组织实现欧洲绿色协议中概述的可持续性目标。

虽然合规性似乎令人生畏，但阿喀琉斯依赖于三叉框架的框架，回应了AI Act坚持强大的问责制：

• 目标：明确指定的目标与法规，标准一致（例如，ISO/IEC 42001）和最佳实践。
• 依从性支持：整个AI生命周期中嵌入的实用工具和过程，确保合规性是内置的，而不是固定的。
• 验证：结合数据和型号卡并连续监视以验证每个步骤满足或超过合规性目标的强大审核过程。

迭代循环：从想法到部署和返回

受临床试验的启发，具有单独的开发和测试阶段以及非确定性评估，阿基里斯（Achilles）设计了一个迭代的发展周期，该周期贯穿四个透视（具有五个阶段）。每个阶段确保人类价值观，数据隐私，模型效率和部署的可持续性保持领先地位和中心。

1. 以人为本（开始）：价值敏感的设计（VSD）和共同设计研讨会捕获最终用户需求，社会价值和最初的法律限制，以将其映射到技术规格中。道德影响评估突出了潜在的风险，并从第一天起就可以塑造AI解决方案的方向。
2. 以数据为中心的操作：通过检测异常值，确保数据多样性和质量来审核和验证；偏向检测和缓解措施利用先进的技术来生成代表性和公平的培训数据集（例如，使用合成数据）；使用自动化工具进行隐私检查，以根据GDPR准则检测和匿名个人数据。
3. 以模型为中心的策略：对分布式数据源进行培训，而无需集中敏感信息（例如联合学习），大大降低了隐私风险；合成数据生成，使模型更强大或更换真实数据，同时保留关键的统计属性；效率工具，例如修剪，定量和有效的高参数调整，以减少能量使用和训练时间。
4. 以部署为中心的优化：模型压缩，以最大程度地减少模型的内存足迹和推理时间以节省能源和成本；基于性能成本，基础架构在云GPU，FPGA或EDGE设备上运行模型的建议；和可持续性目标。
5. 以人为中心（结束）：可解释的AI（XAI）和不确定性量化，提供可解释的结果，突出潜在的边缘案例并衡量模型的自信程度；连续监视以跟踪性能漂移，审核公平性，并自动触发重新训练，如果偏差或错误累积；通过生成动态数据/模型的半自动报告，这些镜像药品式传单，总结使用指南，已知约束和风险水平。

这种迭代周期可确保AI解决方案对现实世界的需求负责，并随着法规和社会期望的发展而保持适应性。

阿喀琉斯IDE：弥合差距

阿喀琉斯内部的杰出创新是综合开发环境（IDE），旨在弥合决策者，开发人员和最终用户之间在整个AI生命周期中的差距：

• 规范驱动的设计：确保每个AI解决方案从一开始就遵守共同创建的合规性要求和用户需求。将数据和模型处理的每一个迭代与已建立的规范（GDPR，欧盟AI ACT等）保持一致。
• 综合工具包：提供高级功能（通过API），以供偏差检测，数据审核，模型监控和隐私保护。通过修剪，定量和其他绿色AI实践来促进节能模型培训和推断。
• Smart Copilot：充当AI驱动的助手，以实时指导开发人员，提出最佳实践，浮出水面的监管指南，并推荐下一步以进行有效或隐私的部署。

从开始到部署及以后，IDE的综合方法旨在消除围绕合规性和可持续性的猜测，从而使组织采用负责任的AI策略更简单，更直观。

四种现实世界的用例：证明适应性和影响

阿喀琉斯在不同行业中验证其框架，反映了不同水平的风险，监管强度和数据敏感性：

• 医疗保健：眼科诊断（例如，青光眼筛查）将临床图像与患者数据结合在一起，并对隐私保存，可解释性和透明报告的强烈要求。
• Identity Verification: Automates document checks and facial matching while minimising bias and handling strict privacy constraints.进一步证明了连续模型监视如何解决数据漂移（例如，新发行的ID格式）。
• 内容创建（Scripta）：用于电影或文学作品的AI生成的脚本，具有道德的监督，可以过滤有害或受版权保护的内容，从而平衡创造力与问责制。
• 药物（HERA）：AI辅助合规性监测和知识管理，以简化临床试验和质量保证。说明了数据可靠性在复杂的监管要求中的重要性。

每种情况都贯穿着阿喀琉斯的迭代循环，从价值敏感的设计到连续的部署后审核。在这些用例中，阿喀琉斯将利用Z-Inspection®过程来进行值得信赖的AI评估，提供一个结构化的框架来评估项目解决方案与道德原则，社会需求和监管要求的一致性。

衡量成功

阿喀琉斯跟踪多个密钥的成功
性能指标（KPI），包括但不限于：

• 偏差减少：在定义的基准和实际数据集中减轻多达40％的检测到的偏差。
• 隐私指标：相对于实际数据，绩效损失低于5％的合成数据，以及90％+合规性检查以获取用户个人信息。
• 用户信任和满意度：针对最终用户和开发人员的预/后调查，目标是30％的AI公平性和透明度感知，包括至少五个人类互动中的五个用户研究。
• 能源降低：每个预测的焦耳至少少35％，比确定的基准和50％+修剪的神经网络参数，性能损失低于5％。

时间表

阿基里斯（Achilles）于2024年11月开始，跨越四年。关键阶段包括：

• 第一年：核心建筑设计，道德/法律框架映射以及受实际用例启发的技术工具包的初步工作。
• 第二年：早期的原型版本（包括合规工具包和高级数据操作）以及通过现实世界验证飞行员测试的迭代改进。
• 第3年：扩展演示方案，完善强大的隐私权模块，并将结果集成到特定部门的部署中。
• 第4年：Achilles IDE的Beta发布，现实世界中用例（包括全面的用户研究）中的最终验证以及合并的剥削策略，将框架扩展到项目寿命之外。

在每个阶段，合作伙伴在跨学科研讨会上开会，以交叉检查，以开放科学的方式分享发现，并与标准机构传达见解。By the project’s close, ACHILLES aims to offer a fully-fledged ecosystem for responsible, green, and lawful AI.

开放科学，标准和协作外展

在Horizo​​n Europe原则的驱动下，阿基里斯项目促进了开放的科学与协作：

• 开源工具包和科学传播：许多模块和图书馆将在允许许可下在开放式平台（例如Github）上发布，以最大程度地提高社区投入。这些和其他科学成果将在关键会议和开放访问期刊中共享。
• 公共研讨会：定期的跨学科活动将团结开发商，政策制定者，伦理学家和民间社会，以完善系统的模块。
• 参与标准化机构：财团成员将积极贡献与AI相关的ISO讨论，CEN-Cenelec委员会和其他工作组，以帮助塑造有关数据共享，XAI和隐私的未来技术标准。

这种开放性的文化促进了一个更广泛的负责人AI开发的生态系统，在现实世界中，最佳实践得到共享，改进和不断验证。

走向值得信赖的人工智能未来

阿喀琉斯为现代AI提供了蓝图，尊重人类价值，符合严格的法规并有效运作。通过将技术突破与道德法律严格融为一体，该项目体现了AI如何成为善良的力量：透明，包容和可持续性。该项目的开放和模块化体系结构体现在用户友好的阿喀琉斯IDE中，证明了欧洲对数据治理和数字主权领导的承诺，最大程度地降低了环境影响，并最大程度地提高了透明度，公平性，公平性和信任。

随着《欧盟AI法案》的全面实施越来越接近，阿喀琉斯等项目对于桥梁政策和实践至关重要。目的是确保AI发挥其在不损害道德，隐私或可持续性的情况下改善生活和业务成果的潜力。合规性不是创新阻滞剂，通过严格，连续的反馈循环，阿基里斯（Achilles）为值得信赖的AI设定了基准，不仅在欧洲，而且在全球范围内。

有关更多详细信息，即将举行的研讨会或访问Achilles IDE的早期开源版本，请访问www.achilles-project.eu。免责声明：

根据101189689授予协议，该项目已从欧盟的Horizo​​n欧洲研究与创新计划获得资金。

请注意，本文也将出现在我们的21版中 

季度出版物。.