小红书公布AI虚假营销治理结果:处置违规笔记9.3万篇、封禁账号3203个
近期,平台发现站内存在利用 AI 技术生成旅游、卖课、招聘、医美的虚假经历进行营销推广的违规现象。这类行为欺骗用户信任,也扰乱了社区的正常秩序。
为维护真实、可信的社区环境,小红书已开展专项治理,近两个月处置结果如下:
内容处置:处置违规笔记 9.3 万篇;
账号处置:禁言账号 5612 个,封禁账号 3203 个;典型案例如下: 1.用户小*子,发布AI虚假医美体验,平台已下架相关内容,并对违规账号予以封禁处置 2.用户@*缘,发布AI虚假教育经历,平台已下架相关内容,并对违规账号予以封禁处置
小红书鼓励创作者将 AI 用作创意工具创作优质内容,发布 AI 生成合成内容时,应主动声明并使用平台提供的标识功能进行标识;同时平台反对未经授权利用 AI 合成他人声音、面孔,侵害他人合法权益,或利用合成内容冒用他人身份、误导用户,反对使用 AI 虚构生活经历、经验,或捏造新闻事件和社会热点进行引流。
在此,小红书呼吁:请不要转发来源不明、未经核实的截图与"内幕"。如发现疑似利用 AI 冒用他人形象、编造虚假经历、伪造虚假人设的内容,欢迎通过笔记举报入口向平台反馈。平台将持续进行 AI 违规内容的治理工作,与每一位真诚的创作者携手,打造用户分享真实生活的清朗空间。