网信办整治AI乱象：严打虚假内容，清理千万违规信息

中央网信办在“清朗·整治AI应用乱象”专项行动第二阶段中，针对制作发布虚假信息、假冒仿冒、侵害未成年人等突出问题开展了重拳治理。截至目前，全国累计清理违法违规信息561万余条，查处违规账号4.9万余个。

治理重点涵盖了七大典型案例，包括利用AI“魔改”名著人设以博取流量的“数字泔水”、AI生成虚假灾害场景、冒用公众人物形象制作低俗视频等。针对这些问题，抖音、微博、腾讯及百度等主流平台已建立常态化治理机制，通过升级多模态模型和上线人脸实时治理系统，显著提升了违规内容的监测拦截能力。

网信部门强调，AI技术应用必须坚持正确价值观。下一步，监管机构将密切关注新技术带来的新风险，继续加强对AI生成内容的源头管控，对违规情节严重的平台采取下架、罚款或关停等严厉手段，确保网络空间的清朗与安全。