中央网信办启动为期 4 个月专项整治，聚焦大模型备案缺失、AI 换脸换声、数字水军等 14 类违规
-
中央网信办近日印发通知，在全国范围内部署开展为期 4 个月的"清朗·整治 AI 应用乱象"专项行动，分两个阶段推进。第一阶段"清朗·AI 应用服务典型违规问题"聚焦技术源头，重点整治 7 类问题：未按《生成式人工智能服务管理暂行办法》履行大模型备案登记（“应备未备”）；AI 平台安全审核能力不足，生成内容包含违法链接；大模型训练语料存在违法内容或未经授权数据；AI 数据投毒（含 GEO 恶意营销）；生成合成内容标识落实不到位（含违规"去标识"工具）；滥用 AI 实施网络攻击或未授权提供换脸拟声服务；开源模型社区缺乏身份认证与内容审核机制。第二阶段"清朗·整治 AI 信息内容乱象"聚焦内容治理，重点整治另外 7 类问题：利用 AI “魔改"经典文化或批量生成价值空洞的"数字泔水”；生成传播涉时事政治、突发事件等领域谣言或假冒党政媒体发假新闻；利用换脸换声假冒公众人物或"复活逝者"；制作暴力血腥、低俗擦边内容；侵害未成年人权益（含"邪典"视频）；通过 AI 托管技术运营虚假账号、刷量控评、制造虚假舆论；提供套壳 AI 应用或色情陪聊、"一键脱衣"等违规功能服务。
网信办有关负责人强调，各地网信部门须督导平台深入自查自纠，全面排查问题漏洞，完善长效治理机制，并切实履行属地管理责任；依法处置处罚违规账号、MCN 机构和网站平台。此次行动是中国近年来规模最大、覆盖 AI 全链路的一次专项整治，从模型训练数据合规、大模型备案到内容生成与传播、开源模型安全管理，均被纳入监管范围，且同时对企业方与个人传播者双向追责。