□ 本报记者 卢 岳
一台电脑、一根网线、一个鼠标,新一天的工作就这样开启。上午9点,在位于天津市滨海区的58同城大楼内,员工们已经在三层的审核区就位。
他们,是58同城的信息审核员,是信息的“安全守卫者”,更是身经百战的“反炸”专家。每天从海量信息帖中准群找到“问题”并及时拦截处理,就是他们的目标——看似简单,却又复杂。
“火眼金睛” 让细微风险无处遁形
入冬的清晨寒凉已越发明显,但审核员们工作区域却一片热火朝天。在58同城上,每天用户发布的信息几近海量,诸如招聘用户每天发布的招聘帖数量就超100万个。一条条工作岗位、用人要求各不相同的招聘信息,从信息编撰到经由审核后发出,这些内容究竟会历经哪些“考验”?
记者跟随着招聘信息资深审核员贾晖打开的审核系统,体验起一名信息审核员的“日常”。
“从用户手里发出的招聘信息,首先会经过系统筛查,看其中是否含非法及敏感信息。如若含有非法信息,则将由系统做直接删除处理;若含有敏感词,则将被划为人工审核,审核后再进行阶梯式处理。”开启一天工作的贾晖,用最简短的词汇总结出了每条信息的基本审核流程。
她介绍,每天待审的超百万招聘帖中,约5%需进行人工审核。在她看来,每天海量的招聘帖中,绝大多数都是合法合规的正常招聘。但正是极少数的问题帖,其中暗藏着违法违规、诈骗等套路,甚至对消费者的财产和人身安全存在巨大隐患。而他们的工作,就是让这些极少数的问题帖也无处遁形。
10点15分,一则被推送的人工待审信息吸引了贾晖的注意——一则看似普通的餐厅服务人员招聘信息,却在具体工作要求中对身材、颜值进行了特别要求。“其实每个服务行业企业都希望员工高颜值,这无可厚非,但过高的薪资和常用暗语的组合,基本可以判定为敏感信息。”
通过系统可以看到,58同城的信息词库对海量内容进行了分级,相对于含有政治或“献血”等无异议的非法内容将被直接做删除处理外,更多词汇及信息属于需经“人工审核”的敏感信息。其中,最常见的是“公关、按摩、出台”等色情信息,此外也不乏涉及药物测试、银行流水、户口本的其他非法信息,以及有关于地域、民族、生育或性别歧视的招聘信息。含有这些敏感词的招聘信息,将在系统筛查后被推送到人工审核环节进行复审。
针对这些“敏感”信息,审核员需要先进行内容查看。常见的信息如工作地址、公司名称、标题、岗位职责、公司简介、图片等,都可能隐藏不同问题。“如常见的色情信息,发帖人为了绕过系统筛查,常使用网络用语、暗号或字母进行表述。”
面对海量的新增的招聘帖,除了与诈骗分子斗智斗勇以外,更需要分秒必争。
斗智斗勇 细微之处见“真招”
“见得多了,就算在数千字的信息中,也可以被我们快速识别。”在贾晖这些火眼金睛的反诈高手眼中,真正有难度的是更为隐蔽的问题。
14点27分,贾晖的鼠标光标再次停留在一则看似十分“正常”的招聘信息上。在这条信息中,公司名称、招聘岗位、薪资标准、用人要求等并无异常,但相对简短的办公地址却引起了审核员的注意。“这条信息的问题在于,办公地址按‘市-区-街-数字’排列,系统显示其存在多个帖子地址模板化雷同,这类帖子通常存在以虚假信息非法收集求职者信息等目的的可能。”
算法更加聪明的审核系统,也让不法分子的“应变花样”不断翻新。“我们的系统模型策略对很多异常的信息发布行为也进行全时段监控,如非工作时间的深夜发布、一分钟多频次发布等,都会被系统判定为异常,对于这类问题同样会做系统直接删除和人工审核的处理。”在贾晖看来,这类信息多数以虚假招聘为由,骗取求职者信息后,最终将引导相关人员流向刷单等非法市场。
事实上,由于信息不对称,网上发布的部分企业招聘信息一直以来饱受诟病。在招聘求职的高峰期,各类骗局层出不穷,涉世未深的“准职场人”、想要“赚更多”的宝妈等群体,在大量网络、短视频的“高薪”渲染下,都更容易成为诈骗分子的目标。这也让高薪诱饵、付费入职诈骗、高成本“囤货”骗局、诱导刷单等事件频发,招聘信息安全与信息真实性问题亟须解决。
多措并举 做信息安全的“守卫者”
“每天面对的问题五花八门,我们有时候会把工作比作打怪。”从业超过十年,贾晖对于这份工作有着更深刻的理解,她打趣到,“每天要经历的,肯定比唐僧师徒的九九八十一难多多了。”
下午四点,键盘和鼠标的敲击声还在继续,一天的工作时间已过大半。
在过去的几个小时中,经由贾晖审核的招聘信息已达数百条。其中,经过人工审核后明确存在问题的招聘内容,将被划分为不同级别并进行针对性处理。审核员会通过系统,根据具体问题勾选不同的处理按钮和问题描述标签,以对应不同的处罚方式和用户站内信的推送内容通知。被处理完的该条信息,所属操作系统、审核时间、审核人、推送原因等均会在系统内被明确呈现。
“我们对于招聘信息中存在的不同问题,在系统中对其进行相应‘阶梯处罚’。”贾晖向记者展示着审核系统的页面。“例如对违规预留私人电话、类别错误、图片不合规等招聘信息做‘返回修改’处理;对于存在性质和岗位明显不符、薪资明显高于市场水平、特定岗位超范围招聘等问题的帖子做单条删除处理;对存在涉黄、非法‘刷钻’、诈骗等问题的招聘信息,将做冻结账号处理。”贾晖还透露,此外对于部分涉及线下违法违规的行为,58同城还会和公安部门进行联动。
人工审核,其意义就是对“可疑”内容进行人为把控,既要让暗藏的问题被及时发现,也要让合规的信息不被“冤枉”。贾晖表示,从业十年来,自己最大的感触是信息技术不断革新,不法分子在招聘信息中实战的“套路”也不断升级。
“诈骗团伙利用科技手段不断更新骗术,导致信息审核的难度持续推高。为了应对随时出现的新挑战,我们在不断总结、提高‘防守’能力的同时,也要采取主动进攻,深入一线企业调研,摸清行业薪资水平等真实情况,了解虚假信息背后的骗术套路。”
持续打击黑灰产成效显著
如今,作为2020年被人社部确立的新职业工种,“互联网信息审核员”已经成为当前互联网时代不可或缺的重要岗位。“总觉得我们的工作和网络欺诈有点‘类似’。一个人、一根网线,一台电脑,只不过他们是发帖的,我们是删帖的。”贾晖曾算过,以每个帖子占据一屏幕的规格为例,自己手里鼠标滚动一年的量,能从58同城的天津总部滚到北京总部,再滚回来。
一直以来,为保障求职者权益,58同城持续打击黑灰产,织好审核安全防护网,在原有的反诈经验上全面升级风险治理体系。今年前三季度,58同城通过大数据算法模型、举报反馈,以及人工审核等方式,多次成功拦截电信网络诈骗。同时,平台加大反诈知识宣传力度,通过多频次、强曝光的公益活动增强人们的反诈意识,避免更多平台求职者落入电诈“圈套”。
通过努力,今年第三季度,58同城已封禁违规招聘者账号超6.4万个,清除高危招聘帖超109万,58同城日均拦截风险登陆次数9万次,季度阻断违规通话请求次数131万次,日均拦截线上高危会话259万条,预警易受骗求职者70万个。