小红书治理 AI 制作虚假探店、民宿内容，今年 6-8 月清理相关内容近 12 万条

感谢IT之家网友 坐在钢琴上的猫、软媒用户1238620 的线索投递！

IT之家 9 月 3 日消息，小红书官方账号“薯管家”今日发布《关于 AI 制作医美、民宿等虚假内容治理公告》，宣布将 AI 制作发布虚假内容纳入常态化治理。 IT之家从公告获悉，小红书近期发现部分账号利用 AI 生成虚假体验笔记，用 AI 生成或拼接的图片伪造实景，杜撰探店、住宿、就医、美容等使用体验等内容，误导用户决策。 小红书积极响应主管部门相关管理要求，切实履行平台主体责任，已将 AI 制作发布虚假内容纳入常态化治理。平台从三方面加大治理力度： 一是细化管控重点，以 AI 生成图片伪造实景、AI 批量生成同质化体验笔记、虚构亲历经历为高风险场景重点识别，文旅住宿、医疗医美、教育、房产等品类优先覆盖； 二是聚焦存量清理，从笔记、评论、账号等多环节清理历史虚假内容； 三是增补策略严控新增，同步强化未标识 AI 内容的识别能力，对同一图片或视频跨地域、跨账号重复使用的情形加强检测。 今年 6-8 月，平台清理处置 AI 制作发布的虚假笔记近 12 万条。典型案例如下： 1.用户泥 * 吧，发布 AI 虚假医美体验，平台已下架相关内容，并对违规账号予以封禁处置。 2.用户吹 * 风，发布 AI 虚假民宿图文，虚构住宿体验，平台已下架相关内容，并对违规账号予以禁言处置。 3.用户心 * 阁，发布 AI 虚构家庭背景及教育经验，销售教辅材料，平台已下架相关内容，并对违规账号予以封禁处置。 小红书鼓励创作者使用 AI 辅助创作；也请在发布涉及 AI 生成内容时，使用平台 AI 内容声明功能予以标注。如发现疑似 AI 编造的虚假内容，欢迎通过笔记右上角的 " 举报 " 入口反馈。