近日，小红书发布《AI治理规则公告》（下文简称为公告），进一步明确AI内容及AI账号的治理要求。公告中显示，平台鼓励创作者主动披露AI生成、润色等内容；对于未主动标注的AI内容，平台识别后将统一添加标识。同时，以AI虚拟人形象运营账号的创作者，需要在账号资料页如实说明创作方式，主动标识不会影响内容的流量。
公告还明确了该平台反对的AI相关行为，其中包括使用AI工具、手机脚本等自动化工具代替真人运营账号，利用AI自动回复评论、私信或模拟真人互动，以及传授AI洗稿、去除水印、规避审核等方法。
此外，小红书方面反对利用AI合成他人声音、面孔发布内容，使用AI捏造新闻事件、社会热点进行引流，以及生成低俗、猎奇等低质内容。对于相关违规行为，平台将根据情节采取限制分发、禁言、封禁账号等梯度的处置措施；涉及违法违规、色情等安全底线的账号，无论是否由AI驱动，均适用于社区规则，将严格管控。
事实上，如今随着AI生成内容技术的成熟，全球主流内容平台都在加强相关治理。例如在海外市场，YouTube于2025年更新平台政策，进一步打击低质、批量生产的AI生成内容；Spotify也在2025年清理了约7500万首违规AI生成音乐，以应对AI刷量以及版税版权纠纷。今年7月，LinkedIn上线“看起来像是AI垃圾内容”举报入口，并引入新的内容分类系统，对低质AI内容和自动评论进行过滤。
国内市场，2025年10月知乎发布“清朗·整治AI技术滥用”专项行动社区公告，处置违规AI生成内容23540条，对1575个违规账号予以禁言处置。小红书也在今年2月进一步要求AI生成内容必须主动标识，未标识内容将被限流，并持续打击AI托管运营账号。随后在3月，微信更新《微信公众平台运营规范》，新增“非真人自动化创作行为”专项条款，对违规内容采取限流、删除以及封禁账号等措施，删除存在“非真人自动化创作行为”的历史及新发文章。
【本文图片来自网络】
