小红书医美 民宿 AI虚假内容泛滥 三月近12万条违规内容暴露治理漏洞

(网经社讯)9月3日，小红书官方账号“薯管家”发布《关于AI制作医美、民宿等虚假内容治理公告》，直面平台长期存在的AI内容造假顽疾。公告披露，仅今年6至8月，平台累计清理AI生成虚假体验内容近12万条，海量违规内容集中曝光，也暴露出小红书在内容审核、生态管控中长期存在的漏洞与短板。 据网经社数字生活台（DL.100EC.CN）获悉，据平台排查发现，当前小红书AI虚假内容乱象呈现规模化、产业化特征，违规手段愈发隐蔽。大量违规账号借助AI生成、拼接合成实景图片，凭空杜撰民宿入住、医美体验、线下探店、就医消费等真实场景体验，炮制同质化虚假种草笔记。这类AI伪造内容高度仿真、批量产出，刻意营造优质消费体验假象，精准误导普通用户消费决策，尤其在医美、民宿两大民生消费领域乱象最为突出，严重扰乱行业正常经营秩序与用户消费权益。 事实上，AI虚假内容泛滥并非小红书突发问题，而是长期积累的治理弊病。随着AI创作工具普及，平台逐渐沦为虚假种草重灾区，部分营销号、灰色产业团队依托低成本AI技术，批量生产无实地体验、无真实消费的虚假内容，以此引流牟利。而平台此前审核机制滞后，对AI合成内容识别能力不足、管控力度薄弱，导致虚假种草内容长期泛滥，充斥社区首页及搜索页面，严重透支平台内容公信力。 针对愈演愈烈的AI内容乱象，小红书此次官宣加码专项治理，明确将AI制作发布虚假内容纳入常态化管控体系。本次治理重点聚焦三大违规行为，包括AI生成图片伪造实景场景、AI批量炮制同质化虚假体验笔记、账号虚构个人亲历消费经历等，重点整治医美、民宿、探店、就医等高频造假赛道。