元大期货

风控，不就是一群封号的人吗？

很长一段时间，互联网企业的“平安人”都被外界冠以这样的误解。

他们最大的成就，就是平台上没有犯罪、没有黑产、无大事发生。他们的起劲，也和黑产一样不被阳光所照射。

但没有人知道的是，海内的互联网黑产已是千亿规模的市场。虚伪点击、羊毛党、“假靳东”、“宠粉诈骗”、同城招嫖，种种敲诈黑产层出不穷。

用户的信息无时不刻不被黑产窃取，一旦被盯上，守候他们的是经心布下的陷阱。

然而，同黑产匹敌没有捷径可走，完全是一场人力和财力的比拼。

幸运的是，在这场战争中，有一支不计较财力、立誓要漆黑珍爱人人的队伍。

就像是《冰与火》之歌内里的守夜人，永远远望着森林幽暗的深处。这支守夜人队伍，则24小时盯着互联网黑产的深渊。

以下是关于这些守夜人的真实故事：

两个男孩拥抱亲吻，这正常吗？

“这个帐号不太对劲”，2020年3月，一凡收到了审核员发来的一条特殊视频。

视频内容的主人公是两个小学生容貌的男孩在相互轻吻、拥抱。“这看起来一点都不像这个年数的孩子会做的事情”，一凡的直觉告诉自己。

她翻看了公布视频的帐号，发现该帐号的历史视频里另有大量类似的内容：男主角永远是这两个男孩，除了轻吻、拥抱，还会相互抚摸。

更奇怪的是，有些视频里还泛起了一个成年男性，看起来似乎正在指挥这两个男孩的动作。

这显然是一条违禁信息，涉嫌儿童性侵。按一凡以往的履历，这种内容的直接处置方式就是下架视频、封帐号，确保平台上的内容正向、康健即可。

“但这样就足够了吗？”一凡犹豫了起来。

若是只是封锁帐号，那两个男孩真的遇到了危险，谁来协助他们？谁人成年男性显著存在问题，封锁帐号并不会阻止他继续危险孩子。

这是一次和潜在犯罪分子抢时间的赛跑。那时是夜里11点，一凡决议直接叨教上级，若是对方没看到信息，她就打电话已往说明情形。

幸运的是，向导马上回复“拉群，同步线下袭击组同砚报警。”。

“报警”对应着最高风险品级——意味着高危内容背后可能有犯罪行为，通常需要极强的证据，经由法务和各方面研究判断后，才气下达“报警"的指令。

但面临一些对照极端的案例，抖音平安中央会直接评估是否需要马上报警。

“线上封几个号没用，得让这种渣滓现实中接受责罚才行”，一凡的向导岳文峰当机立断地回复。

险些是同一时间，审核组的同事，经由筛查帐号的历史视频，凭据视频中的一些修建、广告牌等场景信息，领会到了视频拍摄者的所在地——嫌疑人住在四川的某个县城里。

知道视频拍摄者所在区域的信息后，一凡线下袭击组的同事就马上起程从北京出发了——这也是少有的没有拿到研判效果就出发的情形。

拿不到研判效果，意味着证据不充分、或存在执法破绽不予立案，很可能全员白跑一趟。此外，受疫情影响，海内北京到事发地没有直飞航班，转机也让线下袭击组的人增加了滞留和隔离风险。

但他们没有迟疑过，每小我私家心里都清晰，每拖延一分钟，视频里的两个小男孩就会遭受多一些危险。

在线下袭击组提供的线索和辅助下，该案件于3月27日侦破，当地警方公布通告称嫌疑人被抓获，两个小男孩被平安解救。

此时，距离一凡发现那条视频仅刚已往一周。

后续观察效果显示，这两个男孩都是四川当地的留守儿童，怙恃历久在外打工。

疫情时代，学校封禁，由于家中没有WIFI无法上网课，两个男孩前往犯罪嫌疑人家中使用网络，被利用拍摄视频并威胁不能告诉家长，嫌疑人还将视频在多个社交软件、其他短视频平台及网盘渠道公布兜销。

在警员实行抓捕的时刻，嫌疑人还设计对两个未成年男童举行猥亵。

据《2019年性侵儿童案例统计及儿童防性侵教育观察报告》显示，2019年共发生301起儿童性侵案件，熟人作案超七成，其中师生关系占比最高。

性侵儿童案往往发生在异常隐藏的情形下，除了当事人的陈述证言，很难有其他证据佐证。另外，另有受害人保留证据不实时导致证据遗失、当前低龄儿童证据采信难等问题。

抖音平安中央的实时介入，配合协助警方获取了主要线索和证据、锁定了犯罪嫌疑人，才保证了两个孩子才没有遭受更大的危险。

得知两个孩子被乐成解救以后，一凡焦灼的心才终于放下了。

“不想出成就、畏惧被cue到”

在此之前，一凡一直界说自己所在的团队，是一支最怕被向导cue到、也“不想做出成就”的团队。

她所在的抖音平安中央，是抖音开办之初就设立的部门。只管现在团队拥有数千名成员，但每个成员都过得很“憋屈”。

“平台没事发生，才说明你的事情到位了”，一凡说，但平台没事发生，外界也感知不到团队做了哪些事情。

这个年轻的团队被称为“抖音的平安护卫队”，现在团队平均岁数仅25岁。仅到今年12月初，该团队就处置了跨越730万个违规帐号、1380多万违规视频。

在这里，忙碌是常态。他们天天要为平台上6亿用户保驾护航，要关注平台上天天所发生的数百亿次行为，这其中，要关注和处置无数风险性内容、违禁内容、以及黑产行为。整个团队的下班打车纪录里，时常泛起夜里11点至破晓2点的情形。

一通常在今年年初刚加入团队，上司岳文峰在她入职的头一天就给了个“下马威”。

“抖音有4亿用户（一凡加入时），天下500万黑产从业者对这4亿用户虎视眈眈，我们的责任就是和500万黑产人做匹敌，珍爱用户的生命财产平安”。

从没有过“平安”履历的一凡心里有些发虚。但想到这即将面临的挑战，她充满了兴奋，“这是谁都想实验的抖音啊！”

但一凡没想到，守候她的第一个义务，是当一名“嫖客”。

那时抖音正从4亿用户迈向6亿用户飞速增进。流量暴增的同时，背后多带来的黑产行为也成比例增进。

只管抖音一直针对违规帐号举行袭击、不停升级风控计谋模子，但“道高一尺，魔高一丈”，狡诈的黑产人也通过种种方式逃避机械和算法的追捕——为此抖音不得不接纳“无间道”的方式，通过异常帐号上留下联系方式，假扮“嫖客”，打入黑产内部。

初接这个义务时，一凡有些为难，她压根看不懂黑话——最最先她盯着后台发现的“茶叶”、“约请品茗”的帐号们百思不得其解。

“茶叶招谁惹谁了？”在看到“上新”和一些美女视频时，一凡才发现事有蹊跷。

通过一段时间的卧底，一凡才知道“茶叶”相关的一整套引流术语是风月行业的黑话：“上新”则是指有新人加入了、“迎接品茗”则是解释营业了。

光知道黑话还不够，一凡必须找到证据证实帐号涉黄才气封号。同时，她必须研究和界说新犯罪行为的特征，辅助机械学会自动识别。

然而，大部分犯罪行为会跨平台举行：通过抖音上引流、去其余平台交流、再到第三方平台实现付款买卖，每个平台的数据无法买通、很难跨平台取证。

一最先，一凡“放不开”。

“我照样个未婚女性，哪儿知道怎么做‘嫖客’？”，一凡说，经常是她一启齿，对方就知道不是正经‘嫖客’，聊着聊着就不见了。

很长一段时间里，挫败感包裹着一凡。那段时间，她经常全天苦于若何‘更像’一个嫖客，天天都在质疑自己是谁、从哪儿来、为什么要干这个。

和一凡有着类似疑心的，另有反敲诈项目的负责人王宸。他是个95后，也是由于“念书时就玩抖音、喜欢抖音滤镜”而加入抖音。

但加入抖音后，他才发现这份事情并不如想象的有趣。“我无时无刻不在最先嫌疑人生”，王宸说。

王宸天天的事情都要审核大量帐号、总结敲诈帐号相关的特点供应机械学习。“天天要看成千上百个帐号、发现种种细小的特征来判断黑产”，王宸说。

这种忙碌是永无止境的，在做重点专项袭击项目的时刻，加班到12点以后都是常事。

尤其是今年疫情发作，抖音的用户也迎来飞跃增进。“从今年4月以后，团队里的人险些就没有小我私家生涯”，王宸说，同城招嫖、“假靳东”、双十一电商诈骗等各个事宜层出不穷。

最忙的时刻，一凡和王宸要加班到破晓3点、甚至直接在公司留宿。

但下班时，心里的焦虑感依然没有减轻，唯恐自己的休息、“没有做到极致”，而让平台上的黑产多肆虐一天、让无辜的孩子多受一份危险。

但也是在这样无数次的自我嫌疑、痛苦挣扎后，一凡和王宸感受自己突破了，获得了一种全新的体验。

通过和同事、警方的学习和总结，一凡试探出来了和涉黄职员交流的话术。她最先直接询问对方“多少钱、在那里、安不平安”。

问完这三句话之后，对方会发来“菜单”（价格表），取证环节才算完成，紧接着再截图举报到对应平台，一个义务圆满结束。

“厥后组里都开顽笑说我是‘女流氓’了”，一凡说。

通过一凡她们坚持跨平台取证、举报，加上团队的起劲，已经有其他互联网平台和抖音确立了互助。抖音提供取证完毕后的被举报帐号，对方再通过这个帐号查询IP，可以将相关的IP帐号所有封掉。

王宸则收到了一封感谢信，对方说自己由于抖音平安中央反敲诈小组的事情让自己免于上当。

王宸这才体会到这份事情的意义：审核是第一道关卡，看起来通俗，但在审核基础上，若何去用自己的气力辅助行业高效运转，这才是更主要的事情。

在今年双十一抖音成交额到达187亿时，王宸更以为自己在做一件有意义的事情。

通过他所在的团队起劲，今年双十一他们总共阻止了几十万风险帐号、几千万次的恶意攻击，在这背后，是无数羊毛党和数以亿计的止损额。

“我们为用户缔造更好的网络环境，辅助他们获得乐成，这种成就感，不是随便能获得的。”

确保平安，绝不是一刀切封号了事

被误解、自我嫌疑……一凡和王宸的痛苦，岳文峰也一直看在眼里。

作为他们的直属上司，岳文峰也有相似的疑惑。

他入职抖音时，抖音在7个月内用户新增两亿、平安中央的成员也成倍增进。但外界对团队一直存在误解，大部分以为平安团队最大的作用就是“封号”。

若是团队做得好，其到达的效果是外界基本不知道有该团队的存在，但这样又若何让团队实现自我价值感？

这在他看来是极其谬妄的，“平安部门的事情不是简朴封号就可以解决的。背后的问问往往比人人想的更庞大。”

但这种误会却曾一度引发内部发生伟大矛盾。

5月末，岳文峰被紧要拉进一个群里。一个自称家长的用户称儿子在看抖音时泛起了早熟行为，要求封掉响应帐号。对方示意，该帐号有大量涉黄裸露内容。

但团队研判后发现该帐号是冲浪领域的垂直号，“裸露画面”是穿泳衣的冲浪爱好者，并没有到达封帐号尺度。

但家长不依不饶，声称若是不封帐号，就要找媒体曝光。

抖音平安中央内部一下分成两派：一方主张封号，省得家长去曝光；一方主张不封号，由于原帐号没有任何问题，谁也说服不了谁。

在旁人看来，这无非就是一个简朴的封号手续，但是在岳文峰看来是关乎底线的问题——不能由于一次不相符尺度的举报而误杀。

岳文峰坚持“不封”。但这个行为一度让主张封号的团队成员不理解，甚至在双月会后网络问题时，有人提问质疑他：到底能不能带好团队。

没过几天，此前被举报的冲浪爱好者帐号突然公布了一条高危敏感的内容，相符封号条件。

虽然云云，岳文峰却以为有那里纰谬，一个冲浪领域的垂直号，突然公布一条显著违规的内容，有违常理。岳文峰照样选择“不封”，仅下架相关内容。

同时，他让平安手艺团队的同事查询帐号是否存在异常，效果发现，这个帐号在公布违规视频时刻的登录 IP 地址与以往差别，却和“举报家长”IP地址高度类似。

“会不会是举报人黑了帐号”，岳文峰暗自料想。但怕冤枉好人，团队迅速以“遭受攻击"为名迅速报警。

警方出动观察后回复，一切正如岳文峰所预判的那样：举报人因举报不成而偷取帐号、公布高危内容诱导抖音封号。

但岳文峰没有想到的是，举报家长基本就没有儿子，该帐号在抖音的视频抢了举报人在三亚的冲浪生意，举报人希望通过封对方的号来挽回生意损失。

这也进一步证实了岳文峰的设想，风控绝不仅是封号而已。一旦简朴粗暴地看待庞大问题，对抖音百害而无一利。

好比仅在与“骗”相关的案件上，就分为诱骗、诈骗、利用等等类型的案件。其中，“诱骗”就分为骗钱的“宠粉案”和骗互动数据（类似“假靳东案”）两种。

前者涉嫌违法犯罪，后者违规，处置方式完全差别，并不是仅靠封号能解决。

“封号是最简朴的，最偷懒的做法”，岳文峰说。

另一方面，早期干预也可以降低风险。好比，为了防止青少年着迷抖音、受到跨越其岁数的内容影响，抖音也推出了青少年模式，对视频内容、使用时长举行了针对性设计。

“黑产是不可能被祛除的，我们能做的就是不停提高犯罪的成本，当犯罪成本高了，自然数目就下降了。”

从早期干预，到合理预判，到线下袭击，通过岳文峰等人不计成本地制作这座“看不见”的围墙，抖音才得以保留康健、平安的内容生态。

守最长的夜，做最忠于用户的“守夜人”

在介入解救四川两个被猥亵男孩之前，一凡一度以为自己的事情“没有实感”。

作为全线上化的风险提防团队，对于风险、犯罪内容的审核和处置也大多是线上化举行，即便是成员自身都很难评估自己对企业、社会所作出的价值。

“但真的看到两个留守儿童由于我们的介入而获救，那一刻我以为自己值了，这份事情异常着实”。

一凡说，“这个效果比我们在线上封几个帐号有用 1 万倍”，必须接纳手段从精神、肉体上对其举行双重袭击。

在此之后，她再也没有嫌疑过自己加入抖音的目的和未来，“我天天敲的那些代码是能够实际上辅助到有需要的人的”。

曾做过10年“平安人”的岳文峰示意，抖音是他见过的、为数不多的在平安领域“不设上限”的公司，“在开办抖音之初就确立平安团队、为平安扩建进千职员工……”

“长夜将至，我从今最先守望，至死方休。我将不授室、不封地、不生子。我将不戴宝冠，不争荣宠。我将尽忠职守，生死於斯。我是黑漆黑的利剑，长城上的守卫。我是抵御严寒的烈焰，破晓时分的光线，叫醒眠者的军号，守护王国的坚盾。我将生命与荣耀献给守夜人，今夜云云，夜夜皆然。”

这段来自《冰与火之歌》的守夜人誓言，也完善诠释了这些守护着网络暗处的“抖音守夜人”。

在城中的老百姓幸福生涯时，总要有人站在城墙上，远望漆黑，实时抹杀迫近的危险。

让人庆幸的是，留下来的“守夜人”里，险些没有选择脱离的。