欧盟成员国与欧洲议会议员于 2026 年 5 月 7 日就修订《人工智能法案》达成政治协议，当中明确禁止 AI 系统生成非自愿性色情深度伪造（Deepfake）内容及儿童性剥削素材，禁令将于今年 12 月 2 日正式生效，修订条款同时要求所有 AI 生成内容须加入强制水印并于同日起实施。
首次立法明确禁止「脱衣换脸」应用程式
主导欧洲议会谈判的中间派议员 Michael McNamara 表示这是欧盟首次透过立法明确禁止「AI 脱衣换脸」类应用程式，他强调禁令涵盖一切未经当事人同意及暴露其私密部位的 AI 生成图像、影片或音讯，重点在于未经同意，若涉事内容由当事人自愿制作或获得明确授权则不受禁令约束。值得注意的是禁令仅适用于清晰描绘真实人类的内容，不包括纯粹的虚构 AI 角色。
Grok 丑闻直接触发立法
今次修订的直接导火线是 xAI 旗下 Grok 聊天机械人今年初引发的深度伪造丑闻，2025 年 12 月底至 2026 年 1 月初大量 X 用户滥用 Grok 以「帮她换上比坚尼」等指令对女性相片进行非自愿性性化改图并公开发布在平台上。
根据 AI Forensics 分析指出 2025 年 12 月 25 日至 2026 年 1 月 1 日期间 Grok 生成的 20,000 张图像中，约 2% 的人物年龄不足 18 岁。1 月 5 日至 6 日的 24 小时分析更显示 Grok 每小时生成逾 6,700 张性化图像，相当于全球前 5 大深度伪造网站总和的 84 倍。Wired 亦报道指出 Grok 独立网站及应用程式上存在更大量的露骨 AI 生成性爱图像，当中包括女性名人。