欧盟发布人工智能系统定义指南

2025年2月6日，欧盟委员会发布关于《人工智能法案》中人工智能系统定义的指南，以帮助相关方判断某一系统是否属于该法案所定义的人工智能系统，促进法案的有效实施与执行。

一、指南目的

《人工智能法案》概述及 “人工智能系统” 定义的重要性：《人工智能法案》于 2024 年 8 月 1 日生效，为欧盟内人工智能的开发、市场投放、使用等环节制定了统一规则，旨在促进人工智能创新与应用的同时，保障民众健康、安全及基本权利。该法案仅适用于符合 “人工智能系统” 定义的系统，所以此定义对明确法案适用范围至关重要。

指南制定依据与目的：依据《人工智能法案》第 96 (1)(f) 条规定，欧盟委员会有责任制定关于该法案第 3 (1) 条中人工智能系统定义应用的指南。发布此指南，是为帮助供应商及其他相关人员，如市场和机构利益相关者，判断某一系统是否属于法案所定义的人工智能系统，从而推动法案的有效实施和执行。

指南发布的及时性与关联性：人工智能系统的定义与《人工智能法案》第一章和第二章的其他条款（如关于禁止人工智能实践的第 5 条）于 2025 年 2 月 2 日同步生效。鉴于该定义对理解法案适用范围（包括禁止行为）意义重大，本指南与委员会关于禁止人工智能实践的指南同时发布。

指南的制定参考：制定指南时，欧盟委员会参考了利益相关者咨询结果以及欧洲人工智能委员会的意见，确保指南内容全面、合理，符合各方实际需求。

指南的局限性与灵活性：考虑到人工智能系统种类繁多，指南无法列举所有潜在的人工智能系统。这符合《人工智能法案》的相关规定，即 “人工智能系统” 概念应明确界定，同时具备灵活性以适应快速的技术发展。在判断一个系统是否为人工智能系统时，不能机械套用定义，需依据系统的具体特征进行评估 。

指南的性质：明确指南不具有法律约束力，欧盟法院才拥有对《人工智能法案》的最终权威解释权。这表明在实际应用中，若对法案及指南内容的理解出现争议，最终将由欧盟法院进行裁决。

二、人工智能系统定义的目标和主要要素

1、基于机器的系统：强调人工智能系统依托机器运行，“机器” 涵盖硬件和软件组件。硬件包含处理单元、存储设备等，为计算提供基础；软件涵盖各类代码和程序，负责数据处理与任务执行。像量子计算系统这类新兴技术，即便原理独特，只要具备计算能力，就属于基于机器的系统。此要素突出人工智能系统的计算驱动本质，所有人工智能系统都依赖机器实现功能。

2、自主性：系统设计具备不同程度自主性，意味着在行动上能在一定程度摆脱人类干预。自主性与推理能力紧密相连，推理能力是实现自主性的关键。在人机交互的范畴内，完全依赖手动操作的系统被排除在外，而具有一定独立行动能力的系统符合要求。例如，依靠手动输入产生输出，但输出不受人工直接控制的系统，以及接受人类流程自动化委托、能自行产生输出的专家系统。自主性水平影响系统风险和监管考量，高自主性系统在特定场景可能引发更多风险，需更严格的人类监督。

3、适应性：系统部署后可能展现适应性，即拥有自我学习能力，使系统行为在使用过程中发生改变，对相同输入产生不同结果。不过，“可能” 一词表明适应性并非判定人工智能系统的必要条件，没有此能力的系统也可能属于人工智能系统范畴。

4、人工智能系统目标：系统目标分为明确和隐含两种。明确目标由开发者直接编码设定，如优化成本函数等；隐含目标可从系统行为或假设中推导得出，可能源于训练数据或与环境的交互。同时，系统目标不同于预期目的，目标侧重于系统内部任务执行，而预期目的涉及系统外部的部署场景和操作方式。

5、使用人工智能技术推断如何生成输出

推断能力的关键地位：能依据输入推断生成输出是人工智能系统的核心特征，借此与传统软件系统区分开来。推断过程既包括在使用阶段基于输入产生预测、内容等输出，也涵盖在构建阶段从输入或数据中推导模型或算法。

实现推断的技术：构建阶段实现推断的技术主要有两类。一类是机器学习方法，如监督学习（依据标注数据学习，像邮件垃圾检测系统）、无监督学习（从未标注数据中寻找模式，用于药物研发）、自监督学习（利用数据自身创建标签学习，如特定图像识别系统）、强化学习（通过经验和奖励函数学习，如机器人抓取物体）以及深度学习（借助分层架构自动学习特征）；另一类是基于逻辑和知识的方法，这类系统依据人类专家编码的知识进行推理，如基于语法知识的语言处理模型和早期医疗诊断专家系统。

排除在定义范围外的系统：部分系统虽有一定推断能力，但因分析模式和自主调整输出的能力有限，不属于人工智能系统。如用于优化数学计算、加速传统优化方法的系统，仅进行基本数据处理、遵循固定规则的系统，基于经典启发式方法（依赖经验规则而非数据学习）的系统，以及性能仅能通过基本统计学习规则实现的简单预测系统。

6、能影响物理或虚拟环境的输出：人工智能系统的输出包括预测、内容、建议和决策四类。预测是对未知值的估计，人工智能系统凭借机器学习能在复杂环境中精准预测，如自动驾驶汽车和能源消耗预测系统；内容指生成的新材料，如基于 GPT 技术生成的文本等；建议是根据用户数据提供的行动、产品等建议，人工智能推荐系统能实时适应并提供个性化建议；决策则是系统自动做出的结论或选择，实现了传统由人类判断的流程自动化。这些输出能力是人工智能系统区别于其他软件的关键，使其能处理复杂数据关系，生成更精细的结果。

7、与环境的交互：强调人工智能系统输出可对物理或虚拟环境产生影响，表明其具有主动性。影响对象既包括实体物体，如机器人手臂；也涵盖虚拟环境，如数字空间、数据流动和软件生态系统。

三、结论

1、判断人工智能系统的依据：人工智能系统的定义涵盖范围广泛，判断一个软件系统是否属于人工智能系统，不能简单地通过自动判定或依据详尽清单来确定。需要综合考虑该系统的具体架构和功能，并依据《人工智能法案》第 3 (1) 条中规定的七个定义要素，即基于机器的系统、自主性、适应性、系统目标、使用 AI 技术推断生成输出的能力、影响物理或虚拟环境的输出以及与环境的交互等方面进行全面评估。

2、《人工智能法案》的监管范围：《人工智能法案》并非对所有人工智能系统都进行严格监管，而是采用风险 - 基于的方法。只有那些对基本权利和自由构成重大风险的人工智能系统，才会受到法案中相关规定的约束。这些规定包括第 5 条中禁止的人工智能实践、第 6 条针对高风险人工智能系统的监管制度，以及第 50 条对部分预定义人工智能系统的透明度要求。这意味着，尽管大多数系统可能符合人工智能系统的定义，但实际上其中绝大多数并不会受到《人工智能法案》的监管。

3、指南的局限性与未涵盖内容：该指南无法提供自动判断人工智能系统的方法，也不能列出所有属于或不属于人工智能系统定义范畴的系统清单。同时，虽然《人工智能法案》适用于通用人工智能模型，并在第五章对其进行了规范，但本指南并未涉及人工智能系统与通用人工智能模型之间差异的分析。

来源：tbtguide

来源：cacs.mofcom.gov.cn