登陆

章鱼彩票 下载-UGC产品下架频发,企业该怎么走出内容审阅的困局

admin 2019-08-06 156人围观 ,发现0个评论

原创:要挟猎人

某国民种草APP由于触及内容违规,从安卓使用商场消失了,应该算是最近最火的论题。

作为C2C的种草渠道,该APP不只答应用户线上共享种草清单,还能够发布购买链接,让顾客承受安利的一同能够直接购买产品。二者相结合,就成了完美的导流神器。

其实渠道自身仅仅一个单纯的内容共享社区,一切人都能够来发布任何内容,像半佛仙人文章里提到的相同,关于一同C2C的UGC渠道来说,只需是能够发布内容的当地,内容失控的危险都是存在的。谈论区、用户昵称、私信区、论坛.....都或许被不法分子使用成为其发布违禁产品、色情引流、博彩诈骗等,然后章鱼彩票 下载-UGC产品下架频发,企业该怎么走出内容审阅的困局导致渠道内容的失控。

图片来自网络:违规信息

内容失控的问题其实也是归于反诈骗风控的一部分,所以本篇文章会从两个方面动身,谈谈企业进行内容管理的现状:一是黑灰产怎么使用UGC类渠道进行发布违规信息,并进行引流诈骗;二是企业在遇到这类问题的时分,会采纳怎样的处理方案。

1

为什么黑灰产发布很多的违禁信息,

企业很难章鱼彩票 下载-UGC产品下架频发,企业该怎么走出内容审阅的困局辨认?

在互联网黑灰产中,无论是行迹仓促的羊毛党,仍是浪迹论坛的水军,具有各个渠道的账号都是他们进入“职场”的第一步,批量注册很多账号就因而成为了一切歹意行闪传为的源头。现在,这条黑色产业链现已构成上中下流的明确分工。首要,处于中游的号商会从上游的卡商那里购入一批手机号,然后使用接码渠道、猫池、打码渠道、其他自动化东西等批量注册虚伪账号;随后,将账号售卖给下流用于薅羊毛、刷量、传达违禁内容等不合法获利行为。

图片来网络:猫池

图为:接码/打码渠道

内容渠道漫步违禁内容的源头正是这样一批账号。许多渠道都会经过设置安全防护战略,或实名认证的方法在注册/登录环节对它们进行源头的过滤。但渠道风控和黑产打破始终是一个继续博弈的进程,当黑产发现,使用新注册的账号发布广告等违规内容很快就会被渠章鱼彩票 下载-UGC产品下架频发,企业该怎么走出内容审阅的困局道发现并封号之后,他们会先让账号过上一段“正常人”的日子,在渠道监控真的以为他们的“正常人”后,再撕下假装的面具,在渠道作恶,这种行为便是“养号”。

“养号党”使用群控技能+自动化脚本批量控制多个账号在渠道发帖、留言或许点赞,这一切都是为了模仿正常个人用户的行为,逃过渠道的风控规矩。

图片来自网络:群控现场

依据要挟猎人的继续监控发现,刚注册的新账号依据不同渠道可获利益不同,价格会在0.1-10元不等,在“养了”半年或许更长时刻之后,价格就会翻上一番,到达1-100元或许更高的价格。假如账号“具有了自己的名字”,价格还能够进一步进步,只需从“料商”处买来身份证等实名信息绑定账号就能完成,此刻的账号价格能够直接翻倍,到达10-200元或许更高(比方微信账号)。

图为:要挟猎人反诈骗情报监测渠道监测到的账号售卖状况

被“养过”的账号随后被买到下流黑产手中,用于广告营销、传达违规信息等途径,所以就有了内容渠道上呈现的黑账号。它们由于模仿成正常账号逃过了渠道的防护规矩。

之后,经过不断改变灵敏词汇的表现方式(如,微信能够变成威信、VX等),黑产就能绕过渠道对灵敏词汇的过滤规矩,使用自动化脚本就能批量发布违规内容。

图为:违规信息

不过,其完成在黑产的日子也不那么好过了,这和渠道采纳的冲击办法有关。

许多内容渠道,在遭到黑产的损害后,会立刻加大对内容的审阅力度,经过风控战略阻拦歹意账号,或许组成审阅团队、树立数据模型来冲击渠道做弊行为。

2

防备违规内容发生的根底办法

监管部门加大监管力度,内容渠道进步自我审阅力度已是现在的常态。强监管下,企业或强化自身审阅才干,或与第三方协作探究进步内容安全的方法,但其底层逻辑是比较固定的,便是使用风控加持内容审阅系统。

1、使用反诈骗风控系统,从源头阻拦黑账号

前面提到的机器审阅和人工审阅机制,都是在违规内容呈现之后进行内容管理的一种方法。

但在与黑产攻防对立的进程中,咱们发现,假如能在黑账号进入渠道时、发布违规内容前就进行阻拦,就能处理很大一部分违规问题。

在渠道上发布违规内容的账号,通常是黑产在发卡渠道先买入一批手机号,然后使用自动化东西批量注册的。假如渠道能够经过账号辨认系统,在黑产注册或登录当下就辨认并阻拦,就能阻挠进一步的作恶。

咱们在树立反诈骗系统树立进程中,经过对黑产业链中心节点的布控,能够把握很多的黑产所使用的虚伪手机号和歹意IP资源。当黑产使用这些资源进行账号的注册时,就能够在注册或登录环节进行危险账号的阻拦或降权处置。

这一层防护系统,就能从源头上处理违规内容的发生。关于漏网之鱼,只需弥补内容审阅机制,大多数渠道的内容安全问题根本都能处理。

2、弥补内容审阅机制,过滤违规内容

1.使用机器审阅过滤违规内容

现在,违规信息首要会以四种首要的方式呈现在渠道上,那便是文本、图片、视频和音频。

文本内容相对来说会比其他三种内容的处理本钱低,渠道能够自己保护一套动态文本库,继续搜集和更新灵敏违规词汇,也能够联络安全服务商接入一套外部文本库。其间的逻辑都是相同的,便是经过文本词库过滤的方式,筛选出违规的文字内容,然后进行后续的人工处理或直接删去等操作。

而关于除文本外的图片、视频和音频,往往和人工智能、机器学习技能挂钩。要树立一整套智能审阅系统,需求比较高的本钱。因而,关于这类内容,部分渠道会挑选接入安全服务商的服务。

图为:机器审阅触及的智能技能

以图片审阅为例。在图片上会呈现两种违规方式:

一种是图片自身的内容是违规特点的,比方,图片中呈现有色情、兵器、暴力场景的画面;

另一种是人为后期给图片加入了违规信息,比方,图片上添加了推行二维码、微信号码、电话号码等内容。

针对这两类图片,使用第三方的智能辨认技能就能进行辨认。而服务商只需不断使用搜集到的图片数据信息对模型进行组合练习,确保模型的快速迭代,就能进一步进步辨认的精确率。

2.人工辅佐审阅,下降误判率

充分使用人工智能技能对违规内容进行辨认,在很大的程度上,其实便是为了节约人力。但实际上,不论职业把人工智能技能吹得多牛X,就现阶段来说,这项智能技能都会有不行智能的时分,仍是少不了人工的辅佐。

图为:人工审阅+机器审阅相辅的审阅机制

就拿“扫码”这个词儿来说,它能够变成扌彐 石马,少马,扫**码等各种方式,人工智能并不能精准辨认一切变体。别的,对灵敏内容的过滤规矩设置还不能过于严厉,否则,就会呈现误杀正常内容的状况。

在这样的状况下,人工审阅便是一个必不可少的环节。

不同的渠道能够使用机器审阅机制设置不同的审阅战略,然后对违规内容的可判性打上不同程度的标签,然后进行相应的处理。

比方,关于确定是违规的内容,能够标为【高危】,直接删去或封号处理;关于涉嫌违规的内容,能够标为【中危】,然后给予文字正告;关于射中少数违规内容,但无法精确断定性质的能够标为【低危】,关于低危的内容就能够由人工审阅处理,防止形成误杀。

人工审阅的环节关于一切做内容的渠道都至关重要。现在,比较大型的内容渠道,甚至会自己设立人审机制,少则十几人,多则数千人,专门审阅渠道内容。

3

写在终究

在详细的实践中,不同渠道会有不同的内容展现方式,终章鱼彩票 下载-UGC产品下架频发,企业该怎么走出内容审阅的困局究的处理方案和规矩设定就会因“渠道”而异了。但不论什么渠道,都需求认识到的一点是,黑产的进犯手法总是在不断进化,为了逃避阻拦战略,会不断呈现新的内容发布方式,渠道方只要继续重视内容管理处理方案,事务安全方只要不断迭代防护技能,才干在这场“猫鼠游戏”中占有优势。

4

关于咱们

要挟猎人是一家反诈骗服务&内容安全服务供给商,根据抢先的反诈骗技能、海量的数据、丰厚的安全经历堆集,处理互联网职业内存在的安全问题。并先后推出事务反诈骗、内容安全等系列服务。咱们具有一整套国内抢先的事务安全情报监控与预警系统,构成了强壮的黑灰产布控才干。现在已为腾讯、百度、阿里、华为等互联网企业供给事务安全服务。

阅览原文

请关注微信公众号
微信二维码
不容错过
Powered By Z-BlogPHP