IT之家 8 月 4 日消息,小红书今晚发布了两项治理公告,分别通报了涉未成年人违规内容及暑期旅行安全专项的治理进展。 截至 8 月 4 日,平台在“清朗 · 未成年人网络保护”专项行动中已累计处置违规笔记 8.4 万余篇、违规评论 10.5 万余条、违规账号 3571 个。 小红书宣布,平台针对三类典型违规行为采取了严厉处置,IT之家总结如下: 一是恶意篡改经典动画内容,部分账号利用 AI 技术炮制“毒动画”,如账号“可 X”恶意生成恐怖版《天线宝宝》视频,已被永久封禁并全量下架相关笔记。 二是诱导未成年人不良交友,账号“永叽”以“招裴(陪)”“无 hf(会费)”等黑灰产话术为诱饵,诱骗未成年人脱离平台从事软色情陪聊服务,已被永久封禁。 三是教唆未成年人伤害身体,账号“小 * Q”发布“爱我就给我买刀片”等带有自残倾向的极端图文,已被永久封禁并清理相关内容。小红书表示已升级风险识别模型,对圈层暗语、变种图片等恶意规避审核行为实施前置拦截。 暑期旅行安全专项方面,7 月以来小红书针对“危险旅游景点、虚假旅游信息”展开治理,累计清理违规信息万余条。对飞拉达漂流、悬崖秋千、赛里木湖游泳等高危项目笔记实施搜索隐藏和流量限制,干预 20 余组安全隐患搜索词并上线安全提示条。平台同时对以“AB 制”“旅行搭子”“拼车拼团”等名义进行虚假引流的欺诈产业链进行摸排治理。上半年已配合多地警方抓获批量造假注册专业号的黑灰产团队 4 个、嫌疑人 14 名。 在旅游经营资质治理方面,平台集中处置虚假营销账号超 2000 个,处置无资质营销企业账号超 6000 个,无资质营销的个人及导游账号超 9000 个。平台表示将对任何侵害未成年人合法权益的行为“零容忍”,并持续压实主体责任。 相关阅读: 《网信办将整治毒动画:利用 AI 技术恶搞经典动画形象,刻意放大暴力恐怖元素》