2019十大内容安全事件盘点

2019年,不良违规内容泛滥已成为全球互联网生态治理难题,社会聚焦、监管行动使得内容安全也成为互联网企业发展生命线,受到管理层的重点关注。

这一年,内容安全事件频繁爆雷,据不完全统计,就有超过一千家互联网产品服务因此受到各种监管处罚,严重者下架时间一个月,对业务造成极大影响。事件爆发的互联网产品不限于社区电商、图片版权、企业服务、网络文学、直播音视频、影视、出海、教育、网络文学等类别。

网易易盾一直关注和记录内容安全领域,每周一次对事件和相关大事进行整理(风控周报可在网易易盾公众号菜单栏点击“帮助中心-2019风控周报”查看2019全年的业务风控周报,也可百度搜索“持续更新ing!记录2019年那些内容安全事件”,即可查看),在2019年远去,迎来2020年之际,对全年大事记进行盘点,希望获得行业的共同关注,更好地打造生态环境。

以下为盘点:

1.小红书被下架整改两个多月

事件:2019年7月30日前后,有网友反映,被誉为“种草神器”的小红书被在安卓应用商店下架。几天后,小红书也从App Store中消失。后来,小红书发表一份声明称:“已对站内内容启动全面排查、整改,深入自查自纠,并积极配合有关部门。”

在外人看来,小红书由于快速增长,平台中出现了各种乱象。有人爆出,小红书上的种草内容,并非来自真实用户的亲身体验,而是根据商家需求“定制”的,包括9万的烟草笔记、保健品、黑医美推广等。

经过整改后,10月14日前后,小红书上架各大安卓应用市场,开始恢复下载。

补充说明:一款App/社区不是只做好涉黄涉爆等方面就万事无忧了,野蛮成长的时代已经彻底画上句号。社区风气和氛围也要兼顾,是否有软色情、虚假广告、大量的营销内容等现象都要进行维护,承担好企业的主体责任。

2.视觉中国先后被要求整改两次

事件:2019年4月,视觉中国网站被天津市网信办以涉嫌传播违法有害信息为由,责令立即关停,全面彻底整改,这是第一次整改。

第二次整改,是在2019年12月。视觉中国发布公告称,公司负责人被网信办指导有关地方网信办约谈。“监管部门指出,视觉中国网站违反国家互联网有关法律法规和管理要求,应立即停止违法违规行为,全面彻底整改。”公司网站自即日起开展自查整改,整改期间网站暂停服务,网站恢复的具体时间公司将另行公告。

补充说明:第一次整改,视觉中国股价从28元跌至16.56元,市值蒸发近80亿元。第二次整改,截止到2020年1月3日当天,视觉中国的官网仍无法打开,空白页面只剩一句提示:“落实有关管理要求,视觉中国网站自即时起全面开展自查整改,整改期间网站暂停服务。”从这点来看,企业规范好自己业务和服务十分重要,否则代价不会小。

3.钉钉社区因违规内容 社区暂停更新一个月

事件:钉钉社区发声明称,由于出现违规内容,根据有关管理部门整改要求,将于2019年5月11日00:00起暂停更新一个月,期间对违规信息进行清理,同时对产品管理进行功能升级。

补充说明:内容安全问题已经成为一种泛安全,并不因为是To B的工具,就能避免。只要涉及注册,昵称、头像图片、签名内容等都会成为平台的内容安全隐患,如果有内容模块,那么面临的内容安全隐患更大,更加不可控。内容安全问题,不可小觑。

4.吱呀、Soul、语玩、一说FM等多款音频App遭下架

事件:6月28日,网信办会同有关部门,针对网络音频乱象启动专项整治行动。根据群众举办线索,经核查取证,首批依法依规对吱呀、Soul、语玩、一说FM等26款传播历史虚无主义、淫秽色情内容的违法违规音频平台分别采取了约谈、下架、关停服务等阶梯处罚。

补充说明:这次网络音频行业的监管,除了查处一批色情淫秽、低俗信息管理不当的平台外,也对一些宣扬“二次元文化”、“亚文化”,以及宣扬历史虚无主义,传播惊悚恐怖、神仙鬼怪、僵尸、冥婚等怪力乱神的网络小说,散布封建迷信思想的平台进行了治理。

5.晋江文学城遭查处,起点中文网部分栏目停更

事件:2019年5月23日,根据北京市“扫黄打非”办公室发布的消息,北京市“扫黄打非”办公室等部门联合行动,依法查处晋江文学城网站涉嫌违法行为。经查,晋江文学城《不知悔改的男人》《妖孽养成日记》等作品涉嫌传播淫秽色情内容,对公众特别是未成年人的身心健康有毒害。晋江文学城即日起,立即关停所涉问题突出的古代纯爱频道下的东方架空栏目,及衍生纯爱频道下的东方幻想栏目。

阅文集团旗下起点中文网对用户发布违法违规信息未尽到管理义务,传播导向错误、低俗色情小说等问题约谈运营企业负责人,责令其立即自查自纠,全面深入整改。整改期间,起点中文网问题突出的“都市”频道“异术超能”栏目、“女生网”频道“N次元”栏目暂停更新7天,时间从5月21日15时至5月28日15时。

而在7月份,国家新闻出版署又约谈了咪咕阅读、天翼阅读、红袖添香网、起点中文网、追书神器、爱奇艺文学等12家企业,对近期发现的网络文学内容低俗问题提出批评,责令全面整改,要求相关单位立即下架存在问题的网络小说,停办征文活动,清理低俗宣传推介内容。

补充说明:为了流量和收入,不少网文作者丝毫不顾及底线,除了低俗、色情外,内容上出现各种魔幻色彩,而平台方却没有及时地介入,因此2019年监管部门对网络文学进行了较大规模的规范。知乎专栏作者“刹迦”在《网文整改并没有那么不堪》一文谈及监管时说到:"有些人认为网文整改会给网文创作带来灾难,会导致网络小说消失,但我认为这根本就是危言耸听,也很没常识,恰恰相反,网文需要整改,再不整改反而可能会毁了网文的发展。"从笔者角度来看,一切都应该有序发展,无序会把自身拖入深渊。

6.登载不合规定地图,《亲爱的,热爱的》被罚十万

事件:2019年10月,上海市规划和自然资源局官网显示,电视剧出品方上海剧酷文化传播有限公司未经测绘地理信息主管部门审核,在剧中擅自登载不符合国家规定地图的行为,被责令改正并罚款人民币十万元整,处罚日期为2019年8月12日。

补充说明:《亲爱的,热爱的》应该不是故意登载不合规定的地图,而是细节没有把握住。这是一种新类型的内容安全事件,值得所有人提高警醒,因此对外的内容、产品,把好导向关、内容关、质量关、传播关、人员关,建立审核制度,加强相关技术和各种流程的安全管控是非常必要的。

7.抖音海外版TikTok2019年接连遭印度、孟加拉国、美国等国家下架或审查

事件:2019年,对于抖音海外版TikTok而言是个多事之秋。2月,孟加拉国以打击互联网色情为由禁掉了TikTok。4月,印度Madras高等法院以“鼓励色情,对儿童有害”为理由,要求当地中央政府对TikTok应用下达禁令,限制媒体通过电视转播使用该程序上的视频。

而在美国,TikTok也受到多次审查。为此,TikTok宣布,将在美国引入第三方机构,让他们为平台的内容管理政策提供咨询服务和建议。TikTok美国总经理瓦内萨·帕帕斯(Vanessa Pappas)表示,此举旨在提高内容审核政策及社区保护措施的透明度。

补充说明:实际上,2019年有不少中国公司出海,这些出海的企业在国外均面临着各种内容安全问题。理解当地文化,与当地执法机构深入沟通,制定一国一策的内容审核政策,或许将是在海外做强做大的关键点。

8.互动作业、纳米盒等20多个学习类APP被“扫黄打非”部门查处

事件:2019年1月7日,中央电视台《新闻联播》报道称,全国“扫黄打非”部门查处案件1.2万起,对于群众举报的移动学习APP中涉嫌侵权、盗版、色情、低俗内容等问题,展开了专项行动,查处了互动作业、纳米盒等20多个学习类APP。

5月14日国家网信办公布,2019年1月至4月,国家网信办会同有关部门开展教育类移动应用程序专项整治,查实“作业狗”“口袋老师”等20余款程序传播淫秽色情等违法违规信息,存在过度商业营销和娱乐化等不良行为。国家网信办已清理下架上述程序,关停违法违规情况严重的应用服务,约谈部分程序运营方,督促删除内容低俗及与学习无关的文章5.5万余篇,关停420余个专栏以及320多个违规账号。

补充说明:2019年应该算是教育类App专项整治的一年,从1月到12月,各种监管动作始终未放松。为此,有专家建议,应当考虑建立学习教育App黑名单,唯有如此,才能更好预防和治理隐藏在未成年人身边的不良内容,减少他们被侵害的风险。

9.施华洛世奇、Versace(范思哲)等涉嫌损害国家主权与领土完整

事件:2019年,有不少网友发现,包括施华洛世奇、Versace(范思哲)、蔻驰、纪梵希在内的品牌,他们在官网或售卖的产品上,把不该表述为“国家”的中国城市、地区,表述为国家,涉嫌损害中国的国家主权与领土完整。

补充说明:任何个国家的公民都有主权意识和对应的风俗习惯,中国企业出海需要遵守当地的法律法规,尊重主权和风俗习惯,对应的海外企业入华也需要尊重,并把好各个环节,避免不当的现象发生。

10.哈啰顺风车现大量涉黄信息,变色情广告平台

事件:2019年6月份,有网友发现,哈啰顺风车存在虚假色情订单,在“附近乘客”一栏有两位五星乘客,利用行程做广告,“出发地”一栏被填入信息“今晚老公不在家,你带我去哪都行”,而“目的地”一栏则填入了微信号。后来,哈啰出行官方表示普通用户无法擅自更改地址定位信息,本次事件系平台遭到了恶意攻击。

补充说明:2019年,自媒体人半佛仙人揭露了一种新的攻击形式——内容攻击。半佛仙人指出,所谓内容攻击就是利用对方APP中可以展示内容的地方(例如评论区等),进行黄恐暴内容的饱和录入,然后引发对方APP被大量投诉,然后被下架。内容攻击竞争对手会用,打乱对方的产品迭代发布计划,给自己争取有利的竞争窗口;黑灰产也会使用此手段,通过信息发布获得相关的利益。由此来看,做好业务风控非常重要,哪怕没有多少内容权限,不法分子也可以通过业务安全上的缺口,给平台方带来内容安全风险。

2019年,内容安全领域也有一些法律法规发布,易盾将应该引起重视的法律、政策法规和相关重要措施附录如下:

《网络信息内容生态治理规定》发布

内容:来自微信公众号网信办消息,《网络信息内容生态治理规定》已经国家互联网信息办公室室务会议审议通过,现予公布,自2020年3月1日起施行。

据悉,《规定》明确了正能量信息、违法信息和不良信息的具体范围。鼓励网络信息内容生产者制作、复制、发布含有正能量内容的信息。明确网络信息内容生产者应当遵守法律法规,遵循公序良俗,不得损害国家利益、公共利益和他人合法权益,不得制作、复制、发布违法信息;应当采取措施,防范和抵制制作、复制、发布不良信息。

国家网信办等三部委发布《网络音视频信息服务管理规定》

内容:国家互联网信息办公室、文化和旅游部、国家广播电视总局联合印发了《网络音视频信息服务管理规定》(以下简称“《规定》”),自2020年1月1日起施行。《规定》明确,网络音视频信息服务提供者应当依法取得法律、行政法规规定的相关资质;应当建立健全用户注册、信息发布审核、信息安全管理等制度。任何组织和个人不得利用网络音视频信息服务以及相关信息技术从事法律法规禁止的活动,侵害他人合法权益。

网信办等三部门联合发布新规,不得随意发布AI造假视频

内容:2019年12月份前后,国家互联网信息办公室、文化和旅游部、国家广播电视总局联合印发了《网络音视频信息服务管理规定》,其主要内容是:利用基于深度学习、虚拟现实等新技术新应用制作、发布、传播非真实音视频信息的,应当以显著方式予以标识,不得利用其制作、发布、传播虚假新闻信息;网络音视频信息服务提供者应当部署应用违法违规音视频以及非真实音视频鉴别技术,应当建立健全辟谣机制。

《儿童个人信息网络保护规定》发布

内容:10月1日,由国家互联网信息办公室发布的《儿童个人信息网络保护规定》正式实施。据专家介绍,这是我国第一部专门针对儿童网络保护的立法,明确了任何组织和个人不得制作、发布、传播侵害儿童个人信息安全的信息,确定了儿童个人信息网络保护的具体原则,以及网信部门和其他有关部门的监管职责。该规定填补了互联网时代儿童个人信息保护的法律空白。

国内53家主要网络直播和视频平台上线“青少年模式”

内容:2019年10月,国家网信办继续深入推进青少年网络防沉迷工作,统筹指导六间房、花椒直播等24家网络直播平台,搜狐视频、百度视频等9家网络视频平台统一上线“青少年模式”。截至目前,国内共有53家平台上线“青少年模式”,网络防沉迷工作基本覆盖国内主要网络直播和视频平台。

点击免费体验网易易盾安全解决方案。​​​​

Image placeholder
leaads
未设置
  39人点赞

没有讨论,发表一下自己的看法吧

推荐文章
硬核盘点,华为面向开发者的十大技术

随着社会的发展,科技的进步,5G落地、AI爆发、大数据持续突破、云计算已然成为新时代的水电煤。日益增多的新兴技术,为开发者带来机遇的同时也带来了不少挑战。尽管开发者们经常身处历史性事件的前沿,但由于

OOW2019 :Oracle数据管理技术创新盘点

Oracle作为传统关系型数据库的霸主,不管是数据库性能还是商业上,一直以来都是全球各大数据库厂商致力追赶的对象。近年来,全球云数据库市场迅速发展,Gartner预测,到2023年,世界上四分之三的数

盘点2019:对国产数据库的一点观察和总结

“想,都是问题,做,才有答案”—–华东师范大学副校长、CCF数据库专委会副主任周傲英。之所以开篇引用周教授这句话,是因为笔者觉得,这短短10个字,是对国产数据库发展的最好诠释。中国能否翻越数据库这座大

嗨!你的 2019 晒好封存了吗?快来看程序老兵的 2019 吧!

时间过得真是太快快快了,2019还剩下最后几个小时了。回望即将过去的这一年,老兵哥做了不少事情,有计划内的,也有计划外的,当然还有不少事情没做。赶在最后时刻晒一晒我的2019年,希望从成绩荣誉中获得一

Gartner:2020年十大战略技术趋势

技术变革的步伐正在迅速加快,IT专业人员需要研究的因素,他们以前从未处理过的事情(例如超级自动化、多重体验和人员扩充)都将对企业产生重大的影响。Gartner高级研究副总裁ValSribar说:“自从

公布!达摩院2020年十大科技趋势

刚刚,“达摩院2020十大科技趋势”正式发布!去年,我们预测的科技趋势正一一变为现实:AI芯片崛起、智能城市诞生、5G催生全新应用场景……科技新十年开启,AI、芯片、云计算、区块链、工业互联网、量子计

盘点2018:数据库领域关键词“自研” ”融合“ ”崛起“

尽管2019年已然开始,但只要农历春节还没过,就意味着2018年还没有真正结束。回望过去一年,数据库领域发生了哪些有代表性的事件?这些事件背后预示哪些趋势?尽管2019年已然开始,但只要农历春节还没过

盘点 | 近期网络安全领域的7次重大收购

网络安全在今天比以往任何时候都更加重要。原因是我们比以往任何时候都更紧密地联系在一起。数字转型给我们带来了新的曙光,一切都通过互联网连接起来。然而,这使得我们的数据比以往任何时候都更容易受到攻击。技术

盘点 | 物联网未来的9大主要安全挑战

物联网(IoT)是数字转型时代最热门的技术之一,其能够将一切都连接到互联网。它是智能家居、自动驾驶汽车、智能电表和智能城市背后的核心技术。但是物联网(IoT)的未来将面临九个主要的安全挑战。在过去的几

再见,2019!你好,2020!

今天,是2019年的最后一天。虽有不舍,但终归还是得说再见!明天又会翻开新一年的篇章,希望各位在新的一年都能升职加薪迎娶白富美,走上人生巅峰。19年某月某日突发奇想,想用公众号分享一下这些年学到的技术

送别2019,期待2020!

概述2019年时间过得很快。有欢笑、有离别、有压力、有收获。关于工作项目发生了变动,团队也发生了变动,不过总体是成长的,在这感谢领导的关照、信任!下半年开始学习Go语言,并用Go进行搭建项目,也算是刚

2019年数据泄露事件激增,怎样防止数据泄露?

根据RiskBasedSecurity公布的数据,2019年的数据泄露事件达到了一个高峰,已经发现超过3800多起数据泄露事件攻击了企业或者机构,在过去四年中增加了50%甚至更多。报告指出,在2015

2019年你应该认真对待这7个移动安全威胁

如今,移动安全是每家公司最担心的问题——而且理由很充分:几乎所有员工现在都经常使用智能手机访问公司数据,这意味着让敏感信息不落入坏人之手是一个越来越复杂的难题。可以说,风险比以往任何时候都要高:根据波

2019年度IT168技术卓越奖名单:网络安全类

临近岁末,又要到和一年说再见的时候了。对于网络安全领域来讲,即将成为过去的2019年是网络安全市场快速增长的一年。有数据显示,“十三五”以来我国网络安全产业保持了高速增长,2019年产业规模预计超过6

Fortinet的云安全观:上云≠安全 云安全市场或迎“又一春”!

近年来网络攻击事件频繁发生,企业对于网络安全的关注度已经到达前所未有的高度,如何保证业务的正常运转是每个企业最为关注的问题之一。而随着越来越多的企业将业务扩展到云端,云上安全问题也成为企业必谈的话题!

打好网络安全攻坚战 思科年度安全报告系列关注未知安全挑战

当网络攻击愈演愈烈,当勒索软件愈加嚣张,企业对于网络安全的重视程度稳步提升。网络安全在企业中的地位从没像今天这般高涨。但不可否认的是,即便企业提升了对网络安全的防护,但网络安全威胁依旧长期存在且愈加复

解读2019华为第001号文件:AI时代软件开发的第一要义是可信

晓查发自凹非寺量子位出品|公众号QbitAIAI加持,万物互联、万物智能。我们在享受科技进步的同时,软件开发行业却面临着更大的挑战。过去,软件出现安全问题或许仅仅意味着经济损失,但当走向产业互联网时代

十年软件通胀率:从 2009 到 2019 年,软件越来越昂贵

过去十年,软件定价逐渐上升。在我们调查的一百个商业应用程序中,价格平均上涨了62%,其中包括一些比较便宜的应用程序。如果用户现在花钱购买一款应用程序,那么它很可能比十多年前的价格贵98%以上。

马云入选“全球十大思想者”,排名在贝索斯之前

大数据文摘出品消息来源:央视新闻、澎湃新闻、中国日报网1月21日,据央视新闻报道,美国《外交政策》杂志评选出了全球十大思想者榜单,阿里巴巴创始人马云成为唯一获选的中国企业家,排名第三,位列企业家之首。

最流行的十大开源云监控工具

Linux系统在企业中的应用程度已经非常广泛,人们听到过太多关于Docker和Kubernetes的消息,以至于忘记了监控和日志记录也是同样重要的任务。Docker持续发展,随之而来的是围绕它构建的服

Gartner发布:十大无线技术发展趋势

Wi-Fi将在未来五年内继续主导这个行业,因为它成为中央对新兴技术,包括机器人、无人机、自动驾驶汽车和新的医疗设备等项目的核心。在Gartner最新发布的2019年及以后的十大无线技术趋势中显示,Wi

用原生 JavaScript 实现十大 jQuery 函数

在本文中我将把自己最常用的jQuery函数转换为原生JavaScript。有时我需要创建一个简单的静态HTML或登录页面,而且不想引入任何库或其它依赖。对这种情况,我只使用普通的JavaScript来

未来有发展前景的IT技术岗位盘点

众所周知,在互联网时代,IT技术岗位是互联网公司和企业的核心发展力量。现在我们来盘点一下未来有发展前景的IT技术岗位。一般来说,IT技术岗位可以分为开发岗位、测试岗位、UI设计等,下面我将从这几个岗位

学计算机我后悔了的原因盘点

  学计算机我后悔了的原因盘点,课程进度快加班多、技术更新换代快需要不断学习,整个IT行业对快速迭代要求很高越快占领市场越好。产品质量难以把控,会频繁出现bug需要及时修改bug。   学计算机我后悔

深度盘点丨华为云数据库布局及研发路线图

“华为是个可怕的对手,一旦下定决心做某件事,鲜有做不成的。”这句在圈内少有达成共识的话,也正在一步一步得到应验。很多人或许以为,华为的优势并非软件而是硬件,但其实在数据库软件领域,华为也玩得风生水起华