网信办开展AI乱象专项治理，豆包、文心一言等平台严控违规输出

中央网信办近期公布“清朗·整治AI应用乱象”专项行动第二阶段成果，重点打击AI换脸、魔改名著、虚假信息传播及侵害未成年人权益等行为。目前，行动已累计清理违法违规信息561万余条，处置违规账号超4.9万个。

在内容治理源头，包括豆包、元宝、通义千问及文心一言在内的国内大模型头部厂商，已全面加强对原始语料的审核，并落实了AI生成合成内容的标识要求。与此同时，各大应用商店进一步收紧了开发者准入标准，通过常态化抽检，有效将劣质及违规应用拦截在生态之外。

官方通报指出，部分AI应用被滥用于制作“数字泔水”内容，如恶意颠覆经典名著人设、编造不实社会热点等。针对此类乱象，各地网信部门指导平台升级多模态审核策略，通过动态扩充人脸与声纹库提升监测效率。监管部门明确表示，后续将持续对AI滥用行为保持高压态势，确保技术应用在法治轨道上运行。