《npj Digital Medicine》：Challenges in applying the EU AI act research exemptions to contemporary AI research
编辑推荐：
本文针对欧盟《人工智能法案》中研究豁免条款与实际AI科研活动间的适用性鸿沟展开分析。研究者通过法律文本解读与典型案例推演，指出法案对“科研/商业”“实验室/现实场景”的二元划分难以契合AI研究跨界融合的特性，由此引发监管盲区与潜在滥用风险。研究呼吁构建更精准的界定标准与协同保障机制，为动态发展的AI治理提供前瞻性框架。
随着人工智能（AI）技术浪潮席卷全球，如何构建与之匹配的法律监管体系成为国际社会共同面临的挑战。2023年，欧盟率先推出全球首部跨行业综合性人工智能立法——《人工智能法案》（AI Act），试图通过风险分级监管模式确保AI系统的安全性、透明性与可信度。值得注意的是，为平衡创新激励与风险防控，该法案特意设置了研究豁免条款，规定“仅用于科学研究或处于开发阶段的AI系统”可豁免部分合规义务。这一设计初衷虽好，却在落地时遭遇现实困境。
当前AI研究生态已呈现产学研深度融合、实验室成果快速向现实场景迁移的特点。自动驾驶算法需通过真实道路测试迭代优化，医疗诊断模型必须接触临床数据验证效能——传统“实验室孤岛”式的研究范式逐渐被打破。然而，《人工智能法案》中“纯粹科学研究”与“商业活动”、“受控开发”与“现实应用”的界限划分，恰恰与这种动态协同的研究模式产生张力。当高校与科技公司合作开发医疗AI系统时，其行为应被界定为科研探索还是商业部署？在公共空间进行有限度的机器人测试是否属于“现实世界使用”？这些模糊地带使得研究人员、企业及监管机构陷入合规困境。
为此，发表于《npj Digital Medicine》的研究论文《欧盟<人工智能法案>研究豁免条款在当代AI研究中的应用挑战》展开深入剖析。研究团队通过法律文本分析结合多场景推演，揭示出现行豁免条款存在三重脱节：首先，法案对“科学研究”的狭义定义难以涵盖当前跨机构、跨领域的协作研发模式；其次，“开发阶段”与“投入使用”的线性划分无法适应AI系统持续学习的特性；最后，豁免条款缺乏对“现实世界测试”风险等级的差异化考量标准。这种制度设计与技术实践的错位，可能导致两类极端后果：或是过度约束抑制创新活力，或是监管缺位放大技术风险。
为系统呈现问题症结，作者采用比较法分析与案例实证相结合的研究路径。一方面梳理欧盟成员国对研究豁免条款的差异化解读实践，另一方面构建包括学术机构技术转移、初创企业原型测试等典型场景，模拟条款适用产生的争议。关键技术方法聚焦于法律文本的语义解构（特别是“纯粹科学研究”“现实世界测试”等核心概念的操作化定义）以及多利益相关方（学术界、产业界、监管机构）的合规困境访谈。
研究结果通过三个维度展开论证：
1. 概念界定模糊引发的监管不确定性
法案未对“科学研究”活动范围、参与主体及输出形式作出明确界定。例如，高校受企业资助开展的算法优化研究，若成果最终转化为商业产品，其开发阶段是否始终享受豁免？这种模糊性使得研究人员对合规边界的判断充满变素。
2. 现实世界测试的风险评估缺失
研究指出，法案将“在真实环境中为科研目的进行的测试”纳入豁免范畴，但未根据测试场景的风险等级（如医疗诊断AI与推荐系统测试的差异）设置分层要求。这可能使高风险AI系统以科研之名规避监管。
3. 学术商业化融合下的制度套利空间
通过模拟某大学衍生公司开发自动驾驶系统的场景，研究发现当同一团队同时承担科研与产品化任务时，法案难以有效区分两类活动。这种漏洞可能被利用以延长豁免期限。
结论部分强调，现行研究豁免条款建立在传统技术创新线性模型基础上，未能响应AI研究迭代快速、场景交叉的特性。作者呼吁欧盟监管机构出台配套实施指南，明确“科学研究”的判定标准，建立基于风险等级的现实测试备案制度，并设置豁免期限的动态评估机制。更重要的是，建议构建“监管沙盒”等适应性治理工具，在保障安全底线的前提下为创新留足空间。这项研究不仅为欧盟《人工智能法案》的落地实施提供关键修正思路，也为全球正在制定中的AI治理框架（如美国AI法案、中国AI治理准则）提供了规避制度设计陷阱的重要参考。
