反诈中的较量，记者体验58同城信息审核员的一天

一台电脑、一根网线、一个鼠标,新一天的工作就这样开启。11月28日上午9点,在位于天津市滨海新区58同城大楼内,记者跟随58同城招聘信息资深审核员贾晖,体验了一名信息审核员的“日常”工作。

在大楼的三层审核区,记者看到58同城的信息审核员们已经就位,他们每天从海量信息帖中准确找到“问题”并及时拦截处理,这就是他们的目标——看似简单,却又复杂。

58同城信息审核员们正在忙碌地工作。资料图片

“火眼金睛”

让细微风险无处遁形

在58同城上,每天用户发布的信息几近海量,比如每天发布的招聘信息数量就超100万个。一条条工作岗位、用人要求各不相同的招聘信息,从信息编撰到经由审核后发出,这些内容究竟会历经哪些“考验”?

“用户发出的招聘信息,首先会经过系统筛查,看其中是否含非法及敏感信息。如若含有非法信息,系统将直接删除处理;此外还有人工审核的阶梯式处理。”开启一天工作的贾晖,用最简短的词汇向记者介绍了每条信息的基本审核流程。

她介绍说,每天待审的超百万条招聘帖中,约5%需进行人工审核。在她看来,每天海量的招聘帖中,绝大多数都是合法合规的正常招聘。但也有极少数的问题帖,暗藏着违法违规、诈骗等套路,对消费者的财产和人身安全存在巨大隐患。他们的工作,就是让这些极少数的问题帖无处遁形。

10点15分,一则被推送的人工待审信息吸引了贾晖的注意。这则看似普通的餐厅服务人员招聘信息,却在具体工作要求中对身材、颜值进行了特别要求。“过高的薪资和常用暗语的组合,基本可以判定为敏感信息。”她表示。

通过系统可以看到,58同城的信息词库对海量内容进行了分级,明显的非法内容将被直接做删除处理,更多的词汇及信息属于需经“人工审核”的敏感信息,其中,最常见的是“公关、按摩、出台”等色情信息,此外不乏涉及药物测试、银行流水、户口本等其他非法信息,以及有关于地域、民族、生育或性别歧视的招聘信息。

这些招聘信息将在系统筛查后被推送到人工审核环节进行复审。审核员需要先进行内容查看,工作地址、公司名称、标题、岗位职责、公司简介、图片等,都可能隐藏不同问题。有关色情的信息,发帖人为了绕过系统筛查,常使用网络用语、暗号或字母进行表述。

“见得多了,就算在数千字的信息中,也可以被我们快速识别。”在贾晖这些火眼金睛的反诈高手眼中,真正有难度的是更为隐蔽的问题。

14点27分,贾晖的鼠标光标再次停留在一则看似十分“正常”的招聘信息上。在这条信息中,公司名称、招聘岗位、薪资标准、用人要求等并无异常,但相对简短的办公地址却引起了他的注意。“这条信息的问题在于办公地址按‘市-区-街-数字’排列,系统显示其存在多个帖子地址模板化雷同,这类帖子通常存在以虚假信息非法收集求职者信息等目的的可能。”

“我们的系统模型策略会对很多异常的信息发布行为进行全时段监控,如非工作时间的深夜发布、一分钟多频次发布等,都会被系统判定为异常,对于这类问题会做系统直接删除和人工审核的处理。”在贾晖看来,这类信息多数以虚假招聘为由,骗取求职者信息后,最终将引导相关人员流向刷单等非法市场。

分层把守

最大限度保障信息真实可靠

记者看到,在过去的几个小时中,经由贾晖审核的招聘信息已达数百条。其中,经过人工审核后明确存在问题的招聘内容将被划分为不同级别并进行针对性处理。被处理完的信息,所属操作系统、审核时间、审核人、推送原因等均会在系统内被明确呈现。

“我们对于招聘信息中存在的不同问题,在系统中对其进行相应‘阶梯处罚’。”贾晖向记者展示着审核系统的页面。“例如对违规预留私人电话、类别错误、图片不合规等招聘信息做‘返回修改’处理;对于存在性质和岗位明显不符、薪资明显高于市场水平、特定岗位超范围招聘等问题的帖子做单条删除处理;对存在涉黄、非法‘刷钻’、诈骗等问题的招聘信息,将做冻结账号处理。”贾晖还透露,对于部分涉及线下违法违规的行为,58同城还会和公安部门进行联动。

人工审核的意义就是对“可疑”内容进行人为把控,既要让暗藏的问题被及时发现,也要让合规的信息不被“冤枉”。贾晖表示,从业十年来,自己最大的感触是在信息技术不断革新下,不法分子在招聘信息中实战的“套路”也在不断升级。

“诈骗团伙利用科技手段不断更新骗术,导致信息审核的难度持续推高。为了应对随时出现的新挑战,我们在不断总结、提高‘防守’能力的同时,也要采取主动进攻,深入一线企业调研,摸清行业薪资水平等真实情况,了解虚假信息背后的骗术套路。”贾晖对记者表示。

加大宣传力度

58同城持续打击黑灰产

事实上,由于信息不对称,在招聘求职的高峰期,各类骗局层出不穷,涉世未深的“准职场人”、想要“赚更多”的宝妈等群体,在大量网络、短视频的“高薪”渲染下,都更容易成为诈骗分子的目标。这也让高薪诱饵、付费入职诈骗、高成本“囤货”骗局、诱导刷单等事件频发,招聘信息安全与信息真实性问题亟须解决。

“每天面对的问题五花八门,我们有时候会把工作比作打怪。”从业超过十年,贾晖对于信息审核员这份工作有着更深刻的理解和更深的热爱。

作为2020年被人社部确立的新职业工种,“互联网信息审核员”已经成为当前互联网时代不可或缺的重要岗位。

一直以来,为保障求职者权益,58同城持续打击黑灰产,除了织好审核安全防护网,还在原有的反诈经验上全面升级风险治理体系。今年前三季度,58同城通过大数据算法模型、举报反馈,以及人工审核等方式,多次成功拦截电信网络诈骗。同时,平台加大反诈知识宣传力度,通过多频次、强曝光的公益活动增强人们的反诈意识,避免更多平台求职者落入电诈“圈套”。

通过努力,今年第三季度,58同城已封禁违规招聘者账号超6.4万个,清除高危招聘帖超109万条,58同城日均拦截风险登陆次数9万次,季度阻断违规通话请求次数131万次,日均拦截线上高危会话259万条,预警易受骗求职者70万个。