
8月4日晚,小红书平台连续发布两项重要治理公告,向外界通报了其在“清朗·未成年人网络保护”专项行动及暑期旅行安全专项中的最新治理进展。此次行动展现了平台对涉未成年人违规内容“零容忍”的坚决态度。数据显示,截至8月4日,小红书已累计处置违规笔记8.4万余篇、清理违规评论10.5万余条,并对3571个违规账号进行了严肃处理。针对当前网络上出现的新型侵害未成年人权益的行为,平台重点打击了AI生成“毒动画”、诱骗未成年人软色情陪聊以及教唆自残等三类典型违规行为,大量性质恶劣的账号被永久封禁,有效净化了社区生态。
在此次专项治理中,利用人工智能技术恶意篡改经典动画内容的行为成为了打击重点。随着AI技术的普及,部分不法分子为博取流量,利用AI工具批量炮制猎奇、恐怖的“毒动画”视频。这些视频往往披着《天线宝宝》等经典儿童动画的外衣,实则植入了暴力、低俗甚至恐怖元素,对未成年人的身心健康造成极大危害。例如,账号“可X”利用AI技术恶意生成恐怖版《天线宝宝》视频,该账号已被平台永久封禁,相关笔记也被全量下架。针对此类利用AI批量生产有害内容的行为,小红书实施了跨场景追踪与连带查处机制,不仅处理单一笔记,更对相关群聊、评论进行全链路斩断,彻底切断“毒动画”的传播链条。
除了技术手段生成的有害内容,以交友、招聘为幌子诱骗未成年人从事软色情陪聊的黑灰产行为也遭到了严厉清算。调查发现,部分账号使用“招裴(陪)”“无hf(会费)”“俱乐部招聘”等隐蔽性极强的黑灰产暗语,试图绕过平台监管,引诱未成年人脱离平台进行违规交易或提供软色情服务。这类行为严重侵犯了未成年人的合法权益,触碰了法律与道德底线。对此,小红书升级了语义识别模型,对疑似诱骗话术进行前置拦截与精准打击,一批如“永叽”等打着交友幌子行不轨之实的典型账号被永久封禁,从源头上遏制了针对未成年人的网络性侵风险。
此外,针对教唆自残、传播危险行为等严重危害未成年人生命安全的内容,平台同样保持了高压态势。在暑期这一未成年人上网高峰期,小红书将守护未成年人健康成长视为平台核心责任,通过“人工+技术”的双重审核机制,对涉及自残、自杀引导、危险挑战等内容进行即时阻断。此次通报的3571个违规账号中,有相当一部分涉及此类极端违规内容。平台明确表示,对于教唆自残等触犯刑法的行为,除封禁账号外,还将积极配合公安机关进行调查取证,绝不姑息。
此次小红书发布的治理公告,不仅是一组冰冷的数据,更是平台履行社会责任、构建清朗网络空间的有力证明。从AI毒动画的技术对抗,到软色情陪聊的黑灰产围剿,再到教唆自残的生命守护,小红书正试图通过密集的封禁处罚与前置拦截策略,为未成年人拉起一道坚实的安全网。网络空间不是法外之地,任何试图利用新技术、新话术侵害未成年人权益的行为,都将受到平台的严厉制裁与法律的严惩。未来,期待更多平台加入共治行列,共同为未成年人营造一个健康、安全、向上的网络成长环境。

