经济观察网记者任晓宁10月中旬曝光的假陈东事件令人难忘。这种针对中老年人的欺诈行为背后是谁在操纵?他们冒充名人是想干什么?有多危险?12月1日,抖音(抖音)(WHO)公布了背后的黑色产业链。
抖音安全中心负责人帅帅透露,假靳东背后,有一批黑灰产团队在操控假名人账号,他们的目的,是希望“养号”,之后做直播带货变现。目前,抖音打击仿冒名人转型行动中,封禁黑产作弊帐号18万多个。
“哪里有流量,黑产就往哪跑。”抖音安全中心总监周冉称,目前短视频里还有色情导流、羊毛党、杀猪盘、网络诈骗导流等黑灰产团伙。这些黑灰产已经成为短视频平台必须要治理的对象。
假名人背后的黑灰产
今年10月,假靳东事件曝出,抖音对相关账号进行处理,2天之内清查了5000+疑似靳东仿冒帐号。截止10月底,完成下架话题143个,并处理了问题存量视频195万。
此类涉及中老年易受骗群体的欺诈风险事件,背后都是黑灰产团队作案。之前,在短视频平台上之前就已经有苗头,帅帅介绍说,早在4月份,平台就发现有仿冒名人的问题存在,当时,主要表现是侵犯明星名誉形象,整体数量并不多,封禁了不到800个帐号。
变化发生在抖音加码直播电商后。7月到8月,平台上仿冒名人帐号的数据出现了突增。“黑产的一个特点是,什么火,他们就跟着做什么。比如说去年打击的时候,黑产还主要做刷粉、刷量。今年就开始盯着直播了。 ”帅帅说。今年直播带货火爆后,黑产团伙开始利用冒充假名人吸引粉丝关注。截止目前,抖音打击仿冒名人转型行动中,封禁黑产作弊帐号18万多个,重置仿冒资料用户6万余个,处理问题视频400多万条。
黑灰产盯上流量
根据网络安全公司无糖发布的《2019年网络犯罪趋势研究报告》显示,2019年诈骗类犯罪行为中,超过90%都与互联网有关。当下,短视频是最火爆的流量所在地,也因此成为黑灰产团队聚集地。
抖音安全中心总监周冉介绍,目前色情黑产团队在短视频平台也很猖獗。色情黑产团伙在短视频平台上的主要变现方式是,大批量购买抖音帐号,发布带有性暗示信息的视频、评论引流至色情网站甚至是色情APP上,甚至会导流到线下招嫖场所,还会导流到QQ微信第三方平台,在这些第三方平台兜售色情视频。
自2020年1月份以来,抖音安全中心共封禁色情导流和色情招嫖帐号超过100万,仅9月份期间就封禁30多万个帐号。
此外,杀猪盘诈骗、羊毛党、网络赌博、诈骗等,也正在通过短视频平台导流。
“灰黑产有许多专业化的工具,帮助他们提升作恶的效率。比如说模拟器、云手机、群控设备,通过技术手段可以同时进行大规模批量作恶。”抖音风控专家张曦盛说,黑灰产团队利用新技术、新手段对平台的攻击渗透行为,效率要超过传统攻击的100倍,甚至更高。他举了个例子,一个黑产团队通过真人的方式发送短视频诈骗信息,一天工作8小时,发送的诈骗信息大概1万条,但是有技术手段的黑产,通过模拟器多开,可以控制上百台软件发送诈骗信息,而且24小时不停运行,每天发送诈骗信息突破百万级。
根据中国信通院《移动数字金融与电子商务反欺诈白皮书》数据,2019年,黑产从业人员超过500万,涉及金额达到千亿级别。
平台如何对抗黑灰产
12月1日,负责抖音平台治理的抖音安全中心团队首次对外亮相,也介绍了他们对抗短视频黑灰产的经验。
目前,抖音安全中心背后的安全风控团队规模有几百人,包括安全运营团队、风控产品团队、风控研发团队等等。安全风控接入了上百个业务线,比如抖音、今日头条等。最近4个月,抖音安全中心协助各地公安机关打击涉嫌诈骗、色情的黑灰产团队25个,刑事拘留87人。
据介绍,对于违规行为,抖音目前采取平台内外配合的机制。在内部,抖音安全中心组建审核团队,提前对平台上的违规内容、行为进行拦截处理。同时还会日常巡检,通过客户端实际检测、后台技术检测等手段进行常规巡检,多渠道发现违规内容、行为。在外部,通过站内举报、邮箱举报、违法和不良信息举报电话等方式鼓励用户举报违规信息。
技术方式上,抖音主要通过数据安全、人工智能等反黑产技术。根据张曦盛展示的“鲨鱼反欺诈系统”,其能够在账号注册、登陆、发布评论内容等阶段,就判断出账号是否是黑灰产诈骗账号。
短视频上的黑灰产,目前主要是导流作用,一般会把吸引到的用户导流到社交平台或电商平台,或外部网站进行违法行为。周冉称,这些互联网违法违规行为,已经具备长链条、跨平台犯案的特征。她说,希望在解决自身平台问题的过程中,也能够与更多机构进行跨平台联动打击,进一步解决社会问题。