半年捣毁25个黑产团伙 抖音是如何有效打击黑产的?

【TechWeb】12月1日新闻,抖音今日在北京举行以平台治理为主题的开放日,卖力抖音平台治理的抖音平安中央团队首次对外亮相。

据先容,抖音早在成立时就组建了平安运营团队,后升级成为抖音平安中央,拥有平安运营、平安风控以及治理袭击等多个团队,专门卖力抖音平台违法违规内容与行为的治理事情。


会上披露,抖音平安中央天天阻挡处置的违法违规内容、行为跨越10亿条,其中包罗违规注册、刷量、刷粉、点赞以及宣布违规谈论、视频等多类内容行为。

今年以来,抖音平安中央封禁色情导流和色情招嫖帐号跨越100万,仅9月份时代就封禁305248个帐号。在4月份最先的仿冒名人专项袭击中,已经封禁黑产作弊账号18万多个,重置仿冒资料用户6万余个,处置问题视频跨越400多万条。

开放日上,抖音平安中央还展现了针对平台违法违规行为、内容的联动袭击希望,最近4个月,抖音平安中央已经协助各地公安机关袭击涉嫌诈骗、色情的黑灰产团队25个,刑事拘留87人。

那么,抖音是若何举行平台治理的,又是若何与黑产举行匹敌的?

手艺+产物+运营综合治理平台违法违规行为

抖音平安中央卖力人帅帅示意:“抖音平安中央一直坚持’提前发现、事先阻挡、事中提醒、事后追击’的平台治理原则,通过手艺手段、产物手段、运营手段治理平台违法违规行为。同时,我们也会关注和研究学习黑灰产行业动态,不停提升治理袭击手艺能力,保障每一位抖音用户的权益。”

在平台违规内容、行为的提前发现与阻挡上,抖音接纳平台内外配合的机制。

在内部,抖音平安中央通过组建审核团队,确立完善的审核尺度、审核流程,提前对平台上的违规内容、行为举行阻挡处置。同时确立一样平常巡检机制,设立专项巡检制度,通过客户端现实检测、后台手艺检测等手段举行通例巡检,配合审核团队多渠道发现违规内容、行为。


与外部专业团队和用户的配合上,抖音平安中央一方面是约请专业人士介入到平台审核流程中,例如谣言审核事情中,会求证权威专家团保证判断的准确性。另一方面,抖音平安中央也异常注重用户反馈,提供了多种举报渠道辅助用户反馈信息,包罗站内举报、邮箱举报、违法和不良信息举报电话、“啄木鸟举报平台”小程序等。住手2020年11月,“啄木鸟举报平台”小程序已经累计处置用户反馈的违法违规帐号159.5万个。

帅帅示意:“现实上,相比平台上用户碰着的问题,抖音平安中央处置的问题相当于是海面下重大的冰山,不仅是繁杂多样,而且是频频多变的。尤其是近几年,黑灰产团伙对新兴手艺和工具的行使,进一步加大了我们事情的难度。”

抖音平安风控专家张曦盛在分享中指出,黑灰产团队行使新手艺、新手段对平台的攻击渗透行为,效率要跨越传统攻击的100倍,甚至更高。

例如,黑灰产团伙成员行使“群控软件”,可以操控几十上百台手机,自动关注、点赞、发谈论,甚至可以自动私信并回复用户信息。

今年9月,抖音开启了对“群控软件”的专项袭击事情,已往两个月中,公司法务已经在杭州、深圳及广州等多个区域针对四家涉及抖音的“群控软件”运营公司提起诉讼,并获得了杭州、广州当地法院的支持,划分出具禁令,相关“群控软件”已被迫令住手运营。

将人工智能等手艺应用到黑灰产袭击中

“黑灰产行业的手艺与手段一直在升级,我们在与他们匹敌的过程中,也在不停升级手艺与计谋。”张曦盛先容,“抖音平安中央在初期是行使词表、名单及频控计谋举行匹敌,然后确立了决议引擎和工具平台,最先行使平台化的工具举行更有效率的匹敌袭击。”

据悉,现在,抖音平安中央团队已经将数据平安、人工智能等手艺应用到了黑灰产袭击中,构确立体防御系统。

张曦盛在现场展示了抖音平安中央的反敲诈解决方案,该方案行使抖音平安中央自主研发的“鲨鱼反敲诈系统”,能够在账号注册、上岸、宣布谈论内容等阶段判断账号是否是黑灰产诈骗账号,并执行对应的处置措施。

除此之外,张曦盛示意抖音平安中央现在也组建了红蓝军攻防团队,开展黑灰产的行业研究,希望先于犯罪分子发现黑灰产行业最新趋势。

抖音平安中央宣布的数据显示,最近4个月,抖音平安中央已经协助各地公安机关袭击涉嫌诈骗、色情的黑灰产团队25个,刑事拘留87人。

2020年3月,抖音平安中央发现有用户多次试图上传儿童色情视频,事情人员在研判剖析后,以为相关视频中的儿童有被损害的嫌疑。经由回查更多视频信息,抖音平安中央领会到该视频内容发生在四川省遂宁市,随即向当地公安机关报案,启动团结袭击机制。

随后,当地公安机关抽调警力组成专案组,开展案件侦办事情。通过缜密侦查,3月29日,蓬溪县公安局网安大队将嫌疑人抓捕归案。据嫌疑人交接,其多次以“提供WIFI”等方式,诱惑同村男童到其住所举行猥亵,并拍摄淫秽视频,并在网上行使微信、QQ、快手、网盘等多种应用举行流传出售。

抖音平安中央总监周冉今年介入了多起黑灰产案件的袭击,她先容,上述案件是典型的互联网违法违规行为,具备长链条、跨平台犯案的特征。现在的黑灰产行为,通常是在上游举行账号注册、生意,然后在短视频、社交媒体等平台上实行引流,落地到社交软件平台上实行诈骗、流传色情内容,部分会再到电商平台举行变现。

袭击互联网黑灰产是一场持久战

网络灰黑产已是行业老大难问题。实在从互联网平台降生之初,刷量、刷单等问题就已经存在。这不仅会给消费者带来误导和损失,也会令平台遭受极大损失,影响其商誉。没有平台会不想袭击黑灰产,但作为一个历久的行业问题,要想禁绝这类征象,绝非一时一地之功。袭击灰黑产注定是一场持久战。

正如上文所提到的,灰黑产在行业里已经形成利益链条,受利益驱使,会不停变换方式,逃避平台查处。中国信息通讯研究院宣布的《移动数字金融和电子商务反敲诈白皮书》显示,据估计,相关“玄色产业”的从业人员跨越500万,涉及金额到达千亿级别。要袭击网络黑灰产,仅靠平台之力,很难实现。

“社会问题与抖音平台问题,是共生共存的。以是我们一直以为,平台责任不应局限于平台。在举行平台治理的过程中,抖音团队会尽可能地更进一步考虑问题,希望在解决自身平台问题的过程中,也能够与更多机构举行跨平台联动袭击,进一步解决社会问题。”周冉示意,“也希望社会各界要联动起来,企业与公安、企业与企业、企业与用户之间,要举行团结联动,配合袭击违法违规行为,建设美妙、正向、康健且有价值的行业生态。”

留下评论