非自愿私密影像与儿童性虐待材料生成的禁止与技术防护
禁止投放、投入使用或使用会生成或操纵可识别自然人私密部位影像、或该人从事性行为影像而未获其自由作出、具体、知情、明确且明示同意的 AI 系统,以及生成《指令 2011/93/EU》第 2(c)、(e) 条意义上材料或表演的 AI 系统(后者以国内法上不存在"无权限"抗辩为限)。第 5(1a) 条限定了适用条件:就投放与投入使用而言,仅当该生成或操纵是系统的预期用途,或系统的设计、训练、架构、能力或面向用户的功能使该生成或操纵成为无需重大技术改造即可合理预见且可复现的结果,且系统未设置合理充分的技术安全措施与其他保障以可靠防止该生成或操纵(须考虑合理可预见的误用)并纠正已发现或被举报的滥用时,方构成禁止;就使用而言,仅当部署者以生成该等材料为目的使用系统时构成禁止。因此,实操要点是"可靠防止 + 可纠正"的安全措施能否举证。
- 触发条件
- 提供图像、视频、音频生成或换脸/编辑能力的中国企业,以及在欧盟部署此类工具的企业。即使产品定位为通用创作工具,若滥用结果"无需重大技术改造即可合理预见且可复现",仍可能落入禁止范围。
- 时限:自 2026-12-02 起适用。
- 开始适用:2026-12-02
- 做完之后应留存的证据
- · 安全防护设计文档(输入拦截、输出过滤、人物识别与同意校验逻辑)
- · 针对合理可预见误用的红队测试报告与绕过率统计
- · 滥用举报接收与处置 SOP 及处置台账
- · 模型与安全策略的版本更新记录(证明"可纠正"能力持续有效)
首次达标投入估算:10–30 人日(估算,非承诺)