评述区刷屏的一句“到七天了吗”，看似宽泛，却可能是对某个网购铺张者的无端围猎。近日，针对网罗暴力呈现的新模式，抖音推出AI反网暴行动，上线AI反网暴Agent（智能体），让网暴识别模子、研判模子与东谈主工协同使命，并优化外呼拯救机制，覆盖风险发现、事件研判、主动管制到外呼拯救，缔造起早搅扰、早保护的管制体系，平台管制竣事从“被迫等举报”到“主动找风险”的转变。

系统升级后，平台日均识别出的潜在被网摇风险东谈主群扩大91.5%，每天特殊千名用户收到预警后主动开启防网暴功能，因风险等第高而被东谈主工外呼补助的受害者数目增长147%。

无谓等举报信号 平台主动识别潜在风险

如今的网暴早已不是直白的口角，更多是状貌包阴阳怪气、谐音梗抨击、以文害辞带节拍，这些遮盖的坏心很难被传统审核识别；还有些伤害是长久、零碎的苦闷，积攒起来相似会让东谈主身心俱疲。

传统“东谈主工审核+举报处置”管制政策已难以适配复杂的网罗生态：一方面，依赖用户举报，通常等处理时，伤害也曾形成，难以作念到提前预警保护；另一方面，惯例审核只可筛查数天内的本色，容易遗漏握续时间长、跨热门周期的抨击，也无法兼顾未成年东谈主、老年东谈主等不同群体的心思承受智力，比如对成年东谈主来说不足轻重的玩梗，可能会给孩子带来巨大心思压力。

图：抖音AI反网暴Agent使命链路

抖音升级后的AI反网暴Agent，不错让网暴识别模子与研判模子同期使命，在一些风险发酵的早期就捕捉到用户的乞助“信号”。其中，网暴识别模子不再只盯着单条评述的弱点词，而是会关注用户的举座互动情况——当评述区短暂涌入无数负面言论、有东谈主经常走访某个东谈主的主页、@某账号的极度信息加多时，系统就会运转揣测“网摇风险得分”。更蹙迫的是，AI会全天候复盘误判案例，自主学习新的网暴技能，亚搏体育哪怕是刚流行起来的新梗抨击，也能快速识别，退缩坏心钻空子。

网暴研判模子则会给平台开启“天主视角”，从事件维度张开全局分析。它会整合用户近30天内的翰墨、图片、视频、音频等互动数据，复原完好的事件头绪，精确离别宽泛的不雅点商讨和坏心抨击，幸免误判影响用户的宽泛调换。针对未成年东谈主、老年东谈主等特殊群体，模子还设立了梯度化识别尺度，安妥提高风险敏锐度，给更容易受伤的群体更多保护。同期，模子会输出包含事件经由、风险源流、弱点左证的了了论断，让东谈主工研判巨匠能更快了解情况，实时开展外呼拯救。

分层保护精确反应 让受害者不再零丁孤身一人无援

基于AI反网暴Agent的精确识别与研判收尾，抖音已缔造更贴合用户需求的分层保护机制，兼顾管制效劳与东谈主文关心。比如：低风险用户只会收到App端内辅导，一键就能开启一键驻防、评述过滤、目生东谈主私信为止等用具；若是风险较高，或是属于特殊保护群体，平台会主动通过智能外呼干系用户，安排专东谈主一双一提供匡助，同步排查阴私透露风险，退缩伤害扩大。

图：抖音搜索“网暴”后可找到防网暴专区

关于施暴者，平台会根据情节轻重汲取梯度化处置，包括下架违法本色、为止互动功能、长久封禁账号等步履。关于跨账号握续苦闷、情节恶劣的算作，平台会酌情升级处置；涉嫌罪犯行恶的，平台将主动相助公安机关提供干系左证，照章精致法律背负。

抖音干系雅致东谈主暗示亚搏体育，网罗生态管制是一项长久且复杂的使命，莫得一劳久逸的科罚有设想。平台将握续迭代AI反网暴系统的本事智力，莳植主动保护后果，还会对“抖音小安”的奉陪功能进行迭代，面向用户推出更具东谈主文关心肠的产物功能。终末，超过号令强大网民端淑感性发言，共同艳羡辉煌、友善的网罗空间。