科技前沿 · 深度阅读

小红书平台在网络内容治理方面的处置行动梳理

根据公开资料,小红书在“清朗 · 未成年人网络保护”专项行动中,累计处置了大量违规笔记、评论和账号。平台永久封禁了利用AI技术制作的“毒动画”、诱导未成年人从事软色情陪聊以及发布自残倾向内容的典型账号。此外,小红书还持续治理旅游内容,处置了大量虚假营销及无资质的账号。

在网络内容生态治理日益受到关注的背景下,小红书平台近期开展了一系列专项行动,重点整治了AI生成内容、未成年人保护以及旅游信息真实性等多个领域的问题。这些举措体现了平台对维护健康、安全用户环境的持续努力。

从已确认的信息来看,小红书在“清朗 · 未成年人网络保护”专项行动中取得了显著成效。根据公开资料显示,小红书在本次行动中累计处置违规笔记超过 8.4 万篇,违规评论超过 10.5 万条,并永久封禁了 3571 个违规账号。

平台对特定类型的有害内容进行了精准打击。例如,小红书永久封禁了利用AI技术炮制“毒动画”的账号,其中涉及恶意生成恐怖版《天线宝宝》视频等案例。同时,针对未成年人保护方面的问题,小红书永久封禁了诱导未成年人从事软色情陪聊服务的账号,这些账号曾以“招裴(陪)”“无 hf(会费)”等黑灰产话术作为诱饵。

此外,平台还严厉打击了具有极端倾向的内容。小红书永久封禁了发布带有自残倾向极端图文的账号,例如有账号发布过“爱我就给我买刀片”这类内容,体现了对心理健康风险内容的零容忍态度。

除了未成年人保护和AI内容治理外,小红书在旅游经营资质治理方面也进行了大规模清理。平台处置了虚假营销账号超过 2000 个,并且更进一步地,处置了无资质营销企业账号超过 6000 个,以及无资质营销的个人及导游账号超过 9000 个。

在内容安全治理的时间线视角下,这些行动是持续性的。除了上述专项整治外,小红书还曾在暑期旅行安全专项中,对飞拉达漂流、悬崖秋千、赛里木湖游泳等高危项目笔记实施了搜索隐藏和流量限制措施。

从背景分析来看,平台治理的范围是多维度的。这不仅包括内容层面的违规(如AI毒动画、软色情陪聊),也延伸到了商业合规层面(如旅游经营资质)。小红书上半年配合警方行动,已抓获批量造假注册专业号的黑灰产团队 4 个和嫌疑人 14 名,显示出其治理工作与外部执法力量的联动性。

影响分析方面,这些集中处置行为对平台生态产生了明确的净化作用。它提高了用户对内容真实性和合规性的预期,促使创作者必须更加谨慎地进行内容创作和发布,尤其是在涉及未成年人、心理健康和商业推广等敏感领域。

读者提示:对于关注网络安全和内容监管的用户而言,了解平台在不同时间点采取的治理措施,有助于建立对主流社交媒体平台责任边界的认知。未来,用户应提高警惕,不轻信来源不明的“完美”或“极端”内容,并留意平台关于高危活动内容的预警机制。

信息来源

本文基于上述公开资料整理,未使用来源页面的图片、视频或嵌入媒体。