欧盟对X平台的Grok相关功能启动调查：涉非自愿性“性化”深度伪造内容风险

调查缘起：深度伪造与“非自愿性露骨内容”引发监管升级

据美联社1月26日报道，欧盟已就社交平台X（原Twitter）与其AI聊天机器人Grok的相关功能启动正式调查。调查重点指向：Grok被指生成或助推传播非自愿性“性化”深度伪造图片（包括可能涉及未成年人内容），以及平台是否遵守欧盟《数字服务法》(DSA)对大型平台提出的风险评估、风险缓解与内容治理义务。

在欧盟监管框架下，平台不仅需要对“用户上传了什么”进行处置，也需要对其产品功能设计、推荐系统、内容可见性机制等可能造成的系统性风险负责。由于AI工具具备规模化生成与传播的能力，一旦防护措施不足，就可能迅速放大违法与侵权内容的生产效率。

DSA视角：平台必须证明“已经评估并降低风险”

美联社的报道显示，欧盟此次调查将审视X是否充分评估并减轻Grok在平台内上线与传播所带来的风险，包括有害内容扩散与儿童保护问题。与传统“删帖罚款”的单点执法不同，DSA更强调平台的合规体系：从风险识别、措施落地、到持续改进与外部可审计性。

这意味着，监管关注的不只是“有没有出现违规内容”，还包括“平台是否建立足够有效的拦截机制”“是否对高风险功能做了限制”“是否对滥用场景进行了预案设计”。当AI能力被直接嵌入内容生产与分发链条时，这些问题会变得更具刚性。

X的应对：限制、声明与合规承诺能否被认可

报道提到，围绕争议升级后，X方面采取了限制措施并表达对儿童剥削与非自愿性裸露内容“零容忍”的立场，同时承诺在违法地区限制相关图像处理行为。但监管层面通常会进一步追问：限制的覆盖范围是否足够、触发条件是否清晰、执行是否可验证，以及是否存在“付费用户、灰色地带或跨区使用”等绕开路径。

对平台来说，关键不在于一句“零容忍”，而在于能否提供可被审查的证据链：风险评估报告、内容处置数据、模型与功能的安全策略、用户申诉与救济通道，以及对外部研究人员可用的透明度接口等。

影响：AI内容治理或进入更细颗粒度监管周期

如果欧盟认定平台未能履行DSA义务，后续可能涉及整改要求乃至高额处罚。更重要的是，此类案例也可能推动其他司法辖区在AI深度伪造治理、未成年人保护、平台责任界定等方面采取更趋同的监管路径。

对用户与行业而言，事件释放的信号是明确的：当AI功能与社交平台深度绑定，监管将不再把它视为“附加工具”，而是平台核心风险的一部分。围绕深度伪造、非自愿性色情内容与儿童保护的合规门槛，正在被重新抬高。