咨询热线0755-23312011

检测认证专业知识分享

AI Act人工智能法案CE认证路径剖析

一、技术概述

AI Act 即欧盟人工智能法案((EU) 2024/1689),是欧盟层面针对人工智能系统的横向立法框架。该法案以风险为导向,将人工智能系统划分为不可接受风险、高风险、有限风险与较低风险若干层级,并针对不同层级设定差异化的义务与透明度要求。对于进入欧盟市场的提供者、进口商与分销渠道而言,理解风险分类是合规工作的起点。当系统被归入高风险类别时,便与传统的 CE 标志制度产生衔接,需要走符合性评定程序、编制技术文档并加贴 CE 标志。本文围绕高风险 AI 系统的 CE 标志符合性评定路径展开,梳理企业应当关注的合规义务与流程框架,供相关方在规划欧盟市场投放时评估自身需要。

二、核心指标与参数含义

在 CE 标志符合性评定语境下,核心概念并非传统意义上的性能参数,而是风险判定与合格判据。其一是风险分类结果,决定系统是否落入高风险范围以及适用的模块。其二是技术文档的完备程度,涵盖系统描述、设计目标、数据治理、人机交互与可追溯安排。其三是质量管理体系,用于证明开发过程的可控与可复查。其四是上市后监测机制,用于持续收集运行信息并触发必要纠正。上述要素共同构成符合性评定的评估对象,其含义应按相应协调标准与条款确定,而非以单一数值尺度衡量。企业宜将这些要素视为一套评价框架,结合系统自身特征进行剪裁,避免脱离实际场景地套用通用条件。

三、数据来源与不确定性

相关依据主要来自 AI Act (EU) 2024/1689 文本、后续发布的协调标准以及欧盟主管机构公布的指南与常见问题答复。由于法案采取分阶段适用安排,不同阶段对应的义务范围存在差异,因此任何关于适用范围的判断都应结合当前阶段条款进行。另一种不确定性来自风险分类的边界情形:当系统兼具多项功能或用于多种场景时,分类结论可能随用途变化而不同。企业在依据公开资料自评时,应说明假设前提与判断逻辑,并将结论标注为阶段性评估参考。对于边界不清的情形,宜留存论证记录,按法规分阶段适用要求执行,并在条件变化时重新评估,以降低后续符合性评定中的不确定性。

四、约束条件

高风险 AI 系统的 CE 合规路径受到多项约束。首先是范围约束:只有当系统属于法案附件所列高风险用途,或作为其他带 CE 标志产品的组件而受相应法规覆盖时,才触发该路径。其次是流程约束:拟投放欧盟市场的系统须完成符合性评定、签署 EU 符合性声明并加贴 CE 标志,相关义务主体需对其角色(提供者、进口商或分销渠道)负责。再次是能力约束:内部评定要求建立并运行质量管理体系,第三方评定则须依托独立的符合性评定机构。另需注意,若系统同时受多项法规约束,应统筹满足各法规的评定与标志要求。上述约束须在规划阶段识别,避免后期重复改造。

五、适用前提

启动 CE 标志符合性评定前,应满足若干前提。一是完成风险分类判定,确认系统落入高风险范围并明确适用的协调标准与模块。二是形成系统描述与预期用途说明,界定部署环境、目标人群与可能受影响方。三是建立数据治理与技术文档基础,证明训练与验证数据的代表性与管理规范。四是具备质量管理安排,能够支撑开发、验证与变更控制的可追溯。五是明确上市后监测与事件处置职责。满足上述前提并不意味着评定必然通过,而是为后续评定提供可追溯的输入。对于跨场景系统,宜按实际部署情况分别评估,使前提条件与用途相匹配,而非照搬通用条件。

六、应用领域

高风险类别覆盖了若干关系公共安全和基本权利的领域。典型情形包括用于关键基础设施运行监控的系统、就业与员工管理中的筛选与评估工具、影响信用与保险的可访问性判定、以及教育与职业培训中的评分与分流应用。在执法与健康领域,部分用途也被纳入高风险管理。上述领域的共同特征是系统决策可能对个人权益产生较大影响,因而需通过 CE 标志符合性评定证明其达到相应要求。企业在判断自身产品是否落入这些领域时,应依据法案附件与适用条款逐项对照,而非仅按行业名称归类。对边界情形,建议结合用途与影响程度综合判断,并保留判定依据。

七、常见问题

以下围绕高风险 AI 系统符合性评定的常见疑问作说明,相关表述仅作方法参考,不构成对任何结果的承诺。

检测周期需要多久?

高风险 AI 系统的符合性评定周期受到多项因素制约,难以给出统一时限。其一是风险分类与适用模块的范围,涉及的功能越多、部署场景越复杂,所需评估内容越广。其二是技术文档与质量管理的成熟度,若文档体系在前期已较完备,评定所需的补充材料会相应减少。其三是所选择的评定路径,第三方评定与内部评定在流程环节上存在差异。四是加急与否对出具结论的节奏有影响。实际安排应按法规分阶段适用要求执行,由承接评定的机构结合系统具体情况确定工作节点。建议企业在规划市场投放时,将评定周期作为前置变量纳入排期,避免以过短的期限倒推工作,并预留材料补充与复评空间。

检测费用如何计算?

该项费用受多方面因素影响,主要取决于委托的检测项目数量、所采用的试验方法与判定条件、样品的数量与规格尺寸、试验工况设置的复杂程度,以及委托方对报告出具周期的缓急要求等。单项常规性能测试与多项目组合验证之间的费用差异较为明显,若需加急出具报告,通常也会对最终费用产生一定影响。建议在正式委托前先梳理并明确检测需求与项目清单,直接与承接检测任务的实验室沟通,由技术人员依据实际样品情况与试验方案给出针对性的报价参考。

样品需要怎样准备?

在 AI 系统符合性评定中,"样品"更多体现为可供评估的对象与材料集合。应准备系统描述文档,说明架构、预期用途与运行边界;提供训练、验证与测试数据集的来源与治理说明,以证明数据具有代表性与管理规范;整理模型与算法相关的设计记录,包括版本、变更与验证证据。若系统嵌入于硬件产品,还需提供相应运行环境信息。质量管理体系的运行记录、上市后监测方案与事件处置流程也应一并归档。所有材料应按相应协调标准要求组织,使评定人员可追溯每项判断依据。建议提前按文档清单自查,减少因材料缺失导致的反复补充。

检测结果如何解读?

符合性评定的输出应理解为对系统是否满足 CE 合规要求的阶段性结论,而非对系统长期表现的承诺。若评定通过,表明在已提交材料与评估范围内,系统达到了相应条款所设条件,可作为投放欧盟市场的判定参考。若评定中提出不符合项,应区分是文档缺失、流程不足还是技术证据不充分,并据此补充。结论的有效范围限于被评估的对象与用途,系统发生用途变更或重大修改后,原结论可能不再适用。建议将评定结论与风险分类记录、技术文档一并留存,作为后续监管问询与变更管理的依据,并按法规分阶段适用要求执行更新,保持记录链条完整。

试验出现异常如何归因?

在评定或验证过程中出现偏离预期的情况时,宜以结构化方式归因。先确认异常是否源于数据问题,如训练或验证数据不具代表性、标注不一致或分布偏移。再检查模型设计与验证方法是否匹配预期用途,是否存在未覆盖的边界条件。随后审视质量管理体系运转是否有效,变更控制与记录是否完整。若系统涉及软硬件集成,还需判断异常来自算法层还是运行环境。归因过程应形成书面记录,明确根因与纠正措施。对于边界不清的情形,可依据协调标准给出的方法框架进一步分析。需注意,异常归因结论仅用于改进与复评参考,不代表对市场合规状态的判定。

检测报告包含哪些内容?

符合性评定形成的文件通常包含若干要素:系统标识与预期用途描述,使结论可对应到具体对象;所依据的法规与协调标准编号,标明适用的评定模块;技术文档关键内容的摘要,涵盖数据治理、模型验证与可追溯安排;质量管理体系的运行概述;评定活动的过程与发现,包括不符合项及处置;整体的符合性结论与限制说明;以及 EU 符合性声明的相关指向。上述内容的组织方式按相应条款确定,不同评定路径在详略上可能存在差异。报告应作为技术文档的组成部分归档保存,用于监管核查与后续变更评估。企业宜使报告与其内部记录一致且可相互印证。

哪些场景建议安排该项检测?

当系统被归入高风险范围,或作为其他带 CE 标志产品的组件而受相应法规覆盖时,宜安排符合性评定。典型如用于关键基础设施监控、就业筛选、教育与评分、信用与保险判定、执法与健康等影响个人权益较大的场景。若系统将投放欧盟市场并由提供者承担相应义务,也应纳入评定规划。对于跨场景或多功能系统,建议按实际部署分别评估,避免因用途叠加而遗漏适用要求。边界情形难以自行判断时,可先完成风险分类论证并留存记录,再决定是否启动第三方或内部评定。是否安排评定应基于用途与影响判断,而不宜仅以行业名称类推,亦需结合分阶段适用要求把握节奏。