“嗜血”灰黑产与抖音们的战争

编者按：本文来自微信公众号“运营研究社”（ID:U_quan），作者：套路编辑部，36氪经授权发布。

前一阵子，我在网上看到一组数据

2020年10月1日至10月31日，抖音平台累计清理133904条问题视频，33028个音频，1862个挑战，永久封禁836100个帐号……

熟悉运营社的同学应该知道，我们写过非常多灰产文章，从网络传销到微博、小红书等 App 灰产，再到淘宝等大厂都写过。在今年上半年，更是直接揭露了不少寄生在抖音的黑灰产。

这些黑灰产就像嗜血的蝗虫，滋生在在互联网上的各个角落，一遍又一遍地入侵着各大平台。

但最近我刷抖音时，发现各类灰产明显变少了。

于是，我拿着数据和一位在抖音内部负责网络安全的同学聊了聊（不要问我怎么认识的，问就是“不打不相识”）。

发现过去半年里，在抖音这个全球最大的短视频平台幕后，持续着一场规模浩大的“战争”。

下面我们就来聊一聊，这半年来抖音幕后的“嗜血黑灰产和抖音之间的狙击战”。

“嗜血”黑灰产进化论

很多同学对黑灰产都没有一个明确的概念，只觉得是那些羊毛党、刷量、刷单的团队，或者一些做电话、网络诈骗的小团体……

但实际上，黑灰产已经不是大家印象中小打小闹的“生意”了，早就形成了流水线一般的庞大产业链：

从上游技术供给、账号供给，到中游专业灰产团队操作（大数据筛选、批量群控）引流获取线索，再到下游团队利用网络获取到的线索非法盈利。

这也正是现在互联网黑灰产真正可怕的地方，他们的骗人套路未必进化多少，但他们通过高科技手段和产业化分工，将黑灰产的破坏力大大提升。

在和平台的对抗中，黑灰产们将对抗规模提升了一个量级。

从前，黑灰产的入侵方式是“几人小团队，通过小规模采购平台账号，苦哈哈地手动操作”。但现在黑灰产可以做到一个几人小团队同时操作几千、上万账号，直接将攻击密度上升了一个量级。

黑灰产是怎么做到的呢？

在产业上游有两个角色，一个卡商，另一个是发卡平台。

卡商负责搞手机号，大量的手机号（现在平台大都需要实名制，必须要有大量手机号）。他们获取手机号的来源很多，比如境外卡和花钱租用下沉用户身份证批量办卡，但更多的是卡商通过成立虚假公司向运营商批量申请集团号。

发卡平台会批量采买手机号，注册各大 App 账号，并通过群控技术养号。养好号后，发卡平台会通过自己的渠道将号批量卖给中游玩家。

图源@威胁猎人

黑灰产中游的玩家会通过群控技术批量控制账号入侵 App 。

比如之前在一些短视频平台上搜索明星名字，就会出现几百个高仿明星号，发的视频也风格类似。

他们很可能就是一个团队通过群控技术，来批量操作这些账号的。

这些灰黑产通过批量控制账号，能触达海量用户：

他们可以利用账号做电商刷单、热榜刷单的生意；

也可以发布信息，给更下游的“黄赌”网站引流；

也可以利用骗术对用户进行筛选，找到“可骗”的用户进行精准行骗；

……

比如之前的假靳东事件，不是骗子骗术升级多少，而是他们的技术升级了，能触达到更多用户，然后直接筛选到容易被骗的人。

至此，黑灰产和平台的对抗，已经从具体骗术上的博弈，变成了大数据、技术层面的攻防战了。

狙击与进化：抖音上的生态保卫战

现阶段，黑灰产已经进化到“无法被彻底杀死，只能暂时被狙击”的状态。

因为灰黑产上游囤积了大量账号，中游可以靠群控技术低成本操控大量账号，即便被平台封杀，只需要重新采买一批账号即可重新入侵。

所以，这注定是一场时刻在发生，且会长久持续下去的攻防战。

通过采访抖音内部负责安全的运营同学，我发现抖音正在和黑灰产进行着一场“三重战争”。

1）基础战：策略模型与黑灰产的博弈

像前面提到的，黑灰产已经是一条很专业的产业链，中下游随时可以从上游采买账号，开展新的违法项目。所以常规的事后发现并处理，并不能有效解决黑灰产的扩散，这是一项长期持续的、实时对抗的艰巨任务。

抖音的办法是不断优化平台算法，建立黑灰产打击的策略模型，希望从黑灰产账号注册环节，就能够针对黑灰产进行打击。

例如抖音安全中心推出的“鲨鱼反欺诈系统”，会在各个环节对风险进行判断：

比如在注册的时候就会识别账号是不是批量的机器注册，在登陆环节检查是否有账号盗用的风险；

抖音安全中心也会基于策略模型，提取黑灰产账号的特征，然后实时过滤异常抖音账户行为，与黑灰产进行实时对抗，对风险账号进行限流、封杀处理。

比如在今年双11 ，随着明星直播带货场次增多，不少黑灰产团伙借机冒充明星客服进行诈骗。

他们会把自己的名字改为“XX客服”、“XX助理”等，然后在直播间内寻找受害者，私信沟通，引流到微信等第三方平台实施退款类诈骗。

对于这类“冒充客服诈骗”的行为，抖音就会基于此前建立的黑灰产头像特征库、昵称特征库、设备特征库等，研发识别策略模型，对相关黑灰产账号进行实时拦截、处理。

因为黑灰产相关行为都是在直播进行中，所以对抗非常讲究实时性，因此抖音安全中心的操作都是实时进行的。

据抖音内部同学透露，曾经有一次，他们在明星陈赫直播卖货过程中，检测到有黑产团伙试图冒充陈赫客服账号在直播间进行诈骗，于是就实时更新了模型策略去与之对抗。

不过也就是因为是实时对抗，期间还出现一个小插曲——抖音直接误将陈赫抖音号重置了，而当时陈赫还正在直播。

类似这种日常的策略模型实时对抗，在抖音安全中心的日常工作中非常多。抖音的同学告诉我们，这些对抗，虽然背后的技术与算法很先进，但对他们来说，是非常基础的工作了。

2）狙击战：设立专项，集中打击

策略模型与黑灰产的对抗是基础战役，是抖音的第一道防线。

针对社区内比较严重的黑灰产项目，抖音还会组建第二道防线：设立专项，集中打击。

比如色情内容打击，抖音安全中心有专门的同学在负责这方面的事情。

色情类内容，会侵蚀每一个具有时代意义的互联网产品，比如微博，都曾深受其害，现在的抖音也不例外。

目前在微博和抖音这类产品上，主要是色情引流，就是黑产团伙会利用采买到的大量矩阵号，发布带有性暗示的评论、视频等内容，将用户引流到黄色网站，或者引流到微信、QQ等第三方平台去售卖淫秽视频，甚至会引流到线下色情场所。

为了打击色情引流黑产，抖音安全中心研发了一系列风控策略模型，例如通过文本类模型对抗评论中的色情导流内容，通过视频、图片类模型识别色情视频和账号。

这个专项打击的过程中，对抗非常激烈。

比如最早，色情团伙最早是利用内衣元素表达性暗示信息，然后抖音安全中心团队训练了针对内衣识别的模型，打击了一批账号内容。

可上了模型之后，很快就发现，内衣类的色情信息少了，但是又出现了利用黄瓜进行性暗示，抖音团队马上又针对这种新的性暗示元素训练识别模型。

整个过程就是抖音上线模型、打击，黑产团伙换方案。

当然，专项打击的成果也是斐然。据抖音内部同学透露，自2020年1月份以来，抖音安全中心共封禁色情导流和色情招嫖帐号超过100万，仅9月份期间就封禁305248个帐号。

与色情黑产类似，几乎每个大的黑灰产业，抖音都有专门的模型去打击。

3）持久战：用户反馈和用户教育

“基础战”、“狙击战”是抖音用来在正面战场重击黑灰产的手段，除此之外，抖音还开辟了第三战场——从用户方面着手，和黑灰产进行持久战。

“持久战”主要包含两个部分。

第一是用户反馈。建立多种反馈渠道，利用社区用户的力量来发现、打击黑灰产。

比如在抖音App 内就有站内举报、邮箱举报、电话举报途径，官网也有各类事件的举报入口，抖音甚至还专门开发了“啄木鸟举报平台”小程序来接受用户举报。

我搜了下，单单在“啄木鸟举报平台”小程序上，已经累计处理了超过160万个违法违规账号。

由于黑灰产常会通过各种技术手段来规避算法和平台的审核治理，正邪两方不断各自优化，海量的用户反馈也可以起到重要补充作用。

近两个月，针对能够批量模拟真实用户的群控软件，抖音法务部门已经分别在杭州和广州两地法院获得司法禁令，要求相关公司停止运营“”抖音云控“、抖管家”、“播商管家”等软件。这其中，用户反馈的线索正发挥了重要作用。

第二是用户教育。通过增强用户的风险意识、抗套路能力来抵制黑灰产。

由于中老年群体和青少年群体普遍对虚假信息、欺诈套路识别能力不足，所以抖音就从用户教育入手，进行防骗普及。

比如抖音安全中心今年就联动的抖音达人“神探大妈”，制作反诈骗教育视频，定向推送给中老年用户，帮助他们了解骗局套路，防止上当受骗。

这样，经过算法博弈、专项打击、用户反馈和用户教育三大防线的拦截，抖音才做到了我在开头提到的一个月“清理133904条视频”、“永久封禁836100个帐号”的成绩。

结语

文章的最后我想说的是，对于抖音来说，被看见的坏事，未必是坏事，会督促抖音的生态建设更进一步。没有被看见的战争，肯定是好事，长期拦截、打击的基础战，激烈对抗的狙击战，都是在保护用户，也是保护平台。

在现有黑灰产业链没受到毁灭性打击的情况下，黑灰产会在利益的驱动下不断入侵各大平台。黑灰产的技术未来仍然会不断提升，打击黑灰产，无论对于抖音还是对于整个互联网来说，都注定是一场持久战。

所以，也希望我们都能从自己做起，看见黑灰产视频、账号，随手举报不谢！