UGC社区类产品系列1:违规内容的处理

景德镇是一个文明和谐的国度,而我们时刻要保持互联网环境的干净。但对于UGC社区类产品,内容是用户创造的,平台只能即时发现及时处理。倘若不干不净的信息被网警盯上了,可能不会向你打任何招呼,直接拔掉网线了。

所以,在景德镇干产品,你还得学会一件事:如何快速高效处理违规信息。

UGC社区类产品系列1:违规内容的处理

UGC社区类产品系列1:违规内容的处理

按照内容传播环节,扼杀在摇篮里是最保险的,即提交后自动处理。但总有漏网之鱼还是没法被干掉,那就只能在传播中解决掉。

提交后如何识别并自动处理

如何自动识别和处理,需要搞清楚内容包含的信息载体元素和发布内容的行为模式。

信息载体上,内容可分为文字、图片、音频、视频,其中对文字的处理手段最成熟,即关键词、URL等特殊文本信息过滤,图片、音频、视频,恶意URL链接地址识别。这个过程时间极短,系统只能通过词库或者二维模型做简单运算并给出是否发布成功的提示,不能做过多运算。如BBS、CMS都采用此过滤法处理。

传播中如何识别和处理

行为模式上,对用户所处地理位置(IP识别、地域识别)、访问方式(登录行为方式停留时间、是否立即发布后离开)、内容发布行为(发布频率、提交速度如何)、账号资料(昵称、邮箱是否有无规律;是否间隔更换账号登录、账户之间是否同一批次注册等)、社交关系(是否与马甲账号关联、是否有真实社交关系存在、是否参与互动),通过这些维度建立模型进行用户过滤(是否禁用账号),内容过滤。这个过程需要系统强大的运算,故在发布后进行处理。比如搜搜问问违规问答发布后几分钟被清理,就是采用的此方法。

对机器无法识别处理的内容,比如一些文字内容中关键词隐喻(正话反说、哑谜等手法)、拆分(如装13)等处理手法,机器没法识别,可采用用户举报功能。系统通过收集用户反馈,对内容进行协同过滤。比如新浪微博大多数内容的有举报功能。

但也有特殊情况,内容发布的时候不违法规则,但发布后造成了不良影响被判为违规内容了。这时候通常采用系统管理员立即进行人工清理。如新浪微博李开复事件禁言三天。

对违规内容处理手段

对违规内容,一般采用前台清理后台数据保留的做法,严肃的,数据全部清理。又或者采用仅发布者可见,其他用户不可见。或者内容排序垫底靠后不靠前显示,让违规内容直接淹没掉。

看完你会发现处理违规内容的过程,其实和推荐引擎的工作原理挺相似的。最开始一层过滤需要快速响应,类似推荐引擎的冷启动,第二层、和第三层过滤,就需要采用离线数据模型和在线隐性行为模型(系统对用户交互产生的数据反馈分析)和显性行为模型(其他用户举报的反馈数据分析)结合分析过滤掉。

本文虽然写的有点硬,但还是较好理解。主要分享的是一种思路,处理此类问题的方式。产品同学在具体工作实践中,可以结合自己的产品找出维度建立过滤层级模型使用。

相关系列:UGC社区类产品系列2:如何让用户创造内容

不想错过Gauin的分享,请加微信公众账号GauinBlog为好友,或者用微信扫描二维码。转载去掉微信图片会天天尿床的

微信公众账号 GauinBlog

除非注明,文章均为Gauin原创,欢迎转载!转载请注明本文地址,谢谢!

 

分享到:

UGC社区类产品系列1:违规内容的处理》上有46条评论

  1. Pingback引用通告: UGC 社区类产品谈:如何让用户创造内容 | 逆袭网

  2. Pingback引用通告: UGC 社区类产品谈:如何让用户创造内容 | 易资讯

  3. Pingback引用通告: Zhanwai » UGC社区类产品系列1:违规内容的处理

  4. Pingback引用通告: UGC 社区类产品谈:如何让用户创造内容 | Digkoo

  5. Pingback引用通告: Zhanwai » UGC 社区类产品谈:如何让用户创造内容

  6. Pingback引用通告: UGC社区类产品系列2:如何让用户创造内容 | Gauin's Blog

  7. Pingback引用通告: UGC社区类产品系列2:如何让用户创造内容

  8. Pingback引用通告: UGC 社区类产品谈:如何让用户创造内容 | 极客互联|关注极客事业

  9. Pingback引用通告: UGC社区类产品系列2:如何让用户创造内容 | 云动态

  10. Pingback引用通告: 果仁分享 » UGC社区类产品系列2:如何让用户创造内容

  11. Pingback引用通告: UGC社区类产品系列2:如何让用户创造内容 - Axure中文网

  12. Pingback引用通告: 做产品就是做广告 | 易资讯

  13. Pingback引用通告: 做人们需要的东西 | Gauin's Blog

  14. Pingback引用通告: UGC社区类产品系列2:如何让用户创造内容 – 安卓控

  15. Pingback引用通告: 做人们需要的东西

  16. Pingback引用通告: UGC社区类产品系列1:违规内容的处理 - 品谷

  17. Pingback引用通告: UGC社区类产品系列1:违规内容的处理 | 第四次元

  18. Pingback引用通告: UGC 社区类产品谈:如何让用户创造内容 | 科技推

  19. Pingback引用通告: UGC社区类产品系列1:违规内容的处理 « 逛呢,进来看看啊

  20. Pingback引用通告: UGC社区产品系列二:如何让用户创造内容 « 逛呢,进来看看啊

  21. Pingback引用通告: UGC社区类产品系列3:内容如何流动 | Gauin's Blog

  22. Pingback引用通告: UGC社区类产品:如何让用户创造内容?_产品经理-酷文博,酷分享!

  23. Pingback引用通告: [转]UGC:如何让用户创造内容 | 雪狼博客

  24. Pingback引用通告: UGC社区类产品讨论:违规内容的处理 | Axure中文网

  25. Pingback引用通告: UGC社区类产品的内容如何流动? | 易资讯

  26. Pingback引用通告: UGC社区类产品系列1:违规内容的处理-陈佐博客 | 陈佐的博客www.chenzuo.cn陈佐的博客Chen Zuo's Blog

  27. Pingback引用通告: UGC社区类产品系列2:如何让用户创造内容 | 雷锋网

  28. Pingback引用通告: UGC社区类产品的内容如何流动? | 无名

  29. Pingback引用通告: UGC 社区类产品谈:如何让用户创造内容

  30. Pingback引用通告: UGC社区类产品系列1:违规内容的处理 - 马开东博客

  31. Pingback引用通告: UGC社区类产品系列1:违规内容的处理 | FLYSSH博客

  32. Pingback引用通告: UGC社区类产品系列2:如何让用户创造内容 | 6654自媒体

  33. Pingback引用通告: 分享做产品就是做广告 | 内容采集

  34. Pingback引用通告: UGC社区类产品系列2:如何让用户创造内容 | 内容采集

  35. Pingback引用通告: 【转载】如何让用户产生内容 | Euhow's Blog

  36. Pingback引用通告: UGC社区类产品系列1:违规内容的处理 – 叶落风前

  37. Pingback引用通告: UGC社区类产品系列2:如何让用户创造内容-龚涵铄

发表评论

电子邮件地址不会被公开。 必填项已用*标注