小红书：大量 AI 毒动画、未成年人软色情陪聊、教唆自残等典型账号被永久封禁

IT之家 8 月 4 日消息，小红书今晚发布了两项治理公告，分别通报了涉未成年人违规内容及暑期旅行安全专项的治理进展。 截至 8 月 4 日，平台在“清朗 · 未成年人网络保护”专项行动中已累计处置违规笔记 8.4 万余篇、违规评论 10.5 万余条、违规账号 3571 个。

小红书宣布，平台针对三类典型违规行为采取了严厉处置，IT之家总结如下： 一是恶意篡改经典动画内容，部分账号利用 AI 技术炮制“毒动画”，如账号“可 X”恶意生成恐怖版《天线宝宝》视频，已被永久封禁并全量下架相关笔记。 二是诱导未成年人不良交友，账号“永叽”以“招裴（陪）”“无 hf（会费）”等黑灰产话术为诱饵，诱骗未成年人脱离平台从事软色情陪聊服务，已被永久封禁。 三是教唆未成年人伤害身体，账号“小 * Q”发布“爱我就给我买刀片”等带有自残倾向的极端图文，已被永久封禁并清理相关内容。小红书表示已升级风险识别模型，对圈层暗语、变种图片等恶意规避审核行为实施前置拦截。 暑期旅行安全专项方面，7 月以来小红书针对“危险旅游景点、虚假旅游信息”展开治理，累计清理违规信息万余条。对飞拉达漂流、悬崖秋千、赛里木湖游泳等高危项目笔记实施搜索隐藏和流量限制，干预 20 余组安全隐患搜索词并上线安全提示条。平台同时对以“AB 制”“旅行搭子”“拼车拼团”等名义进行虚假引流的欺诈产业链进行摸排治理。上半年已配合多地警方抓获批量造假注册专业号的黑灰产团队 4 个、嫌疑人 14 名。 在旅游经营资质治理方面，平台集中处置虚假营销账号超 2000 个，处置无资质营销企业账号超 6000 个，无资质营销的个人及导游账号超 9000 个。平台表示将对任何侵害未成年人合法权益的行为“零容忍”，并持续压实主体责任。 相关阅读： 《网信办将整治毒动画：利用 AI 技术恶搞经典动画形象，刻意放大暴力恐怖元素》