四款新闻资讯类App被下架：产品不能沦为算法的奴隶

李红笛/制图一辆停靠在北京街头的汽车，后窗的贴纸上写着：内涵段子，接头暗号，滴~滴滴据说“内涵段子”App的用户互称“段友”，在马路上以“一长两短”的方式鸣笛，是段友们互相确认身份打招呼的方式然而4月10日，“今日头条”旗下的“内涵段子”被新成立的国家广播电视总局责令永久关停。

这是今年以来监管部门整治网络视听节目乱象一大拨重拳的其中一击，引发舆论热议网络空间不是法外之地

图片来自于网络，与正文无关仅今年以来，有关监管部门就先后两次严正发声业内人士认为，这其实已向网络视听节目敲响了警钟3月16日，国家新闻出版广电总局办公厅发布《关于进一步规范网络视听节目传播秩序的通知》，要求禁止非法抓取、剪拼改编视听节目的行为，并严格管理包括网民上传的类似重编节目，不给存在导向问题、版权问题、内容问题的剪拼改编视听节目提供传播渠道。

然而，就在3月，包括“快手”和“今日头条”旗下“火山小视频”在内的直播短视频平台出现了大量未成年早恋早孕视频，以未成年生子为噱头，吸引大批粉丝关注，同时也被更多的网友所诟病对此，国家互联网信息办公室于4月4日依法约谈了“快手”和“火山小视频”相关负责人，提出严肃批评，责令全面进行整改，要求暂停有关算法推荐功能。

同日，国家广播电视总局会同属地管理部门也约谈了“快手”“今日头条”两家网站主要负责人，责令两家网站立即采取四项整改措施

图片来自于网络，与正文无关4月9日，国内各大应用商店也接到有关部门指令，在当天15时之前下架“今日头条”“凤凰新闻”“网易新闻”和“天天快报”这四款新闻资讯类App第二天，国家广播电视总局发布的消息称，在督察“今日头条”网站整改工作中，发现该公司组织推送的“内涵段子”客户端软件和相关公众号存在导向不正、格调低俗等突出问题，引发网民强烈反感。

依据相关法规的规定，总局责令“今日头条”永久关停“内涵段子”客户端软件及公众号，并要求该公司举一反三，全面清理类似视听节目产品“举一反三”无疑明示今日头条旗下“抖音”“火山小视频”“西瓜小视频”等也应当进行新一轮更为严格的自查自纠。

其实，早在去年12月底，“今日头条”“凤凰新闻”手机客户端就因持续传播色情低俗信息、违规提供互联网新闻信息服务以及标题党等一系列问题，被北京市网信办约谈，责令立即停止违法违规行为，其中“今日头条”的6个频道被要求暂停更新24小时。

今年以来，“知乎”等应用也陆续接到主管部门约谈的要求和应用下架的处罚。“爱奇艺”“哔哩哔哩”等网站也因政策监管下架了大量影视和动漫资源，网络自制内容更因打擦边球成为了重灾区。

图片来自于网络，与正文无关与此同时，国家网信办还要求各类社交网站和客户端对用户公众账号发布的内容加强监测和管理国家网信办发言人姜军曾对外表示，网络空间不是法外之地，任何人不得利用网络传播违法信息可见，如今“今日头条”被永久关停“内涵段子”不是有所针对，更不是个例，而是其长期漠视相关法律法规，置社会公序良俗于不顾的结果。

从灰色地带走到警戒线外

图片来自于网络，与正文无关“近期，一些网络视听节目制作、播出不规范的问题十分突出有的节目歪曲、恶搞、丑化经典文艺作品；有的节目擅自截取拼接经典文艺作品、广播影视节目和网络原创视听节目的片段，或者重新配音、重配字幕，以篡改原意、断章取义、恶搞等方式吸引眼球，产生了极坏的社会影响。

还有一些节目以非法网络视听平台及相关非法视听产品作为冠名，为非法视听内容在网上流传提供了渠道”与3月16日国家新闻出版广电总局办公厅发布的《关于进一步规范网络视听节目传播秩序的通知》中列举的一系列网络视听节目存在的问题相比，已被依法整治的网络视听节目存在的问题似乎更加恶劣。

被称为“快手一姐”的杨某，在17岁就成为了孩子妈妈，孩子的父亲是当时同样未成年的王某两人在快手平台上拥有4500多万粉丝在一次直播中，两人多次提及未婚生子、出轨等话题，而在杨某怀孕之后，几位十七八岁的主播也争相宣布怀孕，一时间低龄生子、早恋直播等乱象成为一些网络平台大肆宣扬的“时髦”。

而近日，遭遇全面下架的《奇葩大会》第二季也收到了整改通知记者看到，在最新一期的《奇葩大会》上，一名叫“科学家种太阳”的微博大V语出惊人，不仅发表了“男人都是潜在强奸犯”的观点，还毫无愧意地讲述了自己初中时强奸女同学未遂的故事。

中国社科院青少年与社会问题室副主任田丰指出，如果青少年一开始选择了不好的视频，网站按照这种逻辑继续给他推送的话，会给青少年造成一种很负面的印象，他们会认为自己的世界中这种不正常的违规行为反而是正常的

图片来自于网络，与正文无关如果说涉及未成年怀孕生子、早恋方面的内容，法律没有禁止性规定，目前存在灰色地带，那么给销售假冒伪劣商品提供平台，违规投放广告，已触碰了法律红线今年3月，有网友爆料“抖音”“快手”用户售假。

一时间，网上曝光出大量“抖音”用户造假视频，从大牌口红到高仿奢侈品应有尽有甚至有卖家称，“只要顾客有要求，专柜名牌包，各款皆可仿”3月29日，央视财经频道《经济半小时》曝光“今日头条”发布虚假广告，二次跳转引诱消费者步入圈套，并着重指出“今日头条”两点问题：

一是虚假医疗广告“今日头条”广告“二跳”，即广告首页是完全正规合法的处方药品，但只要点击进入实质性内容的第二层页面，就会反复出现“专家微信号”虚假广告二是逃避监管“今日头条”在北京、上海、广州、深圳这几个大城市发布的广告信息和其他地区并不相同。

概括来说，一线城市广告管理规范，非一线城市相对宽松，“今日头条”有选择性地在非一线城市大量刊登违法广告可估算的价值不可估算的价值观

图片来自于网络，与正文无关“见利要思义，不义则不为”然而，面对拥有巨大潜力的网络视频市场，更多人追逐的是商业利益，而往往忽略了社会责任2017年6月1日起施行的网络安全法第九条明确规定，网络运营者开展经营和服务活动，必须遵守法律、行政法规，尊重社会公德，遵守商业道德，诚实信用，履行网络安全保护义务，接受政府和社会的监督，承担社会责任。

4月11日，“今日头条”创始人、CEO张一鸣发布了题为《致歉和反思》的长文，其中提到“对全体员工进行‘四个意识’、社会主义核心价值观、舆论导向、法律法规等教育，真正履行好企业的社会责任”2017年，张一鸣也曾因“算法没有价值观”的言论将自己和“今日头条”推上舆论的风口浪尖。

“今日头条”以“算法推荐”的方式准确判断用户兴趣点，而“不干预用户兴趣”“只做新闻搬运工”的模式，如今看来是难以控制低俗信息等行为蔓延的罪魁祸首《人民日报》评“内涵段子”被关停一事时称，如果只要价值，不要价值观，甚至鼓吹“算法没有价值观”，就难免出事。

产品不能沦为算法的奴隶

图片来自于网络，与正文无关如今，算法分发已经是信息平台、搜索引擎、浏览器、社交软件等几乎所有软件的标配以网络直播为例，中国政法大学传播法研究中心副主任朱巍指出，当下出现的各类问题，归根到底都是内容安全与合规的问题。

我们忽视了一直存在的一个重要环节，平台推荐分发的算法到底有没有问题新媒体分析师马世聪指出，对于完全依靠算法推荐，而不加人工编辑和审核的方式来运营，最终可能会出现难以控制的后果因此，还是需要一定的人工干预和价值引导。

然而，很多网友也认为每一次都让算法和大数据来背锅也并不妥当。诚如“快手”CEO坦言，算法的背后是人，算法的价值观就是人的价值观，算法的缺陷是价值观上的缺陷。依法治理，长治久安

图片来自于网络，与正文无关记者发现，目前，网络应用市场已无法搜索到暂时下架的“今日头条”“凤凰新闻”“网易新闻”和“天天快报”这四款App，但换了马甲的“天天快报-大字版”“凤凰新闻极速版”“今日头条极速版”仍可搜索下载。

而“内涵段子”微信公众号的账号主体已变成个人，进入公众号虽有永久关停的声明，但查看历史消息仍可见诸如“你，喜欢摸女朋友哪里呢？”的往期推送“段子”难怪有网友评论说，关停一个“内涵段子”，可能还会出现千千万万个“内涵段子”。

暂时下架几个App也只是一时，处罚期过后重新上线是否真正“洗心革面”才是应该正视的问题要想长期营造清朗的网络空间，监管处罚不是权宜之计，必须让人们时刻铭记互联网不是法外之地，更不容游走灰色地带其实，近年来，我国互联网的治理明显迈向法治化的快车道。

记者稍作整理发现，除了一些基本的法律外，有关互联网管理的行政法规、部门规章、司法解释、规范性文件、政策文件真是“一箩筐”，有关互联网视听节目、网络直播服务都对内容安全作了底线性规定朱巍指出，立法对内容产生者——短视频制作者和主播作出了比较明确的规定，甚至各个平台也作出了更进一步的公约自律细则；对直播观看者和传播者，立法也规定了举报的权利和传播者的责任。

但对平台推荐分发的算法现今法律法规却没有直接规定朱巍表示，若要全面实现网络直播等内容的法治化监管，必须要从算法下手要确立算法价值判断标准公开，应在行业协会成立算法道德委员会，在立法上明确算法的性质违反法律和道德标准的算法决定者的法律责任应明确写进立法之中。

图片来自于网络，与正文无关今年两会期间，针对当前网络上的一些不良信息泛滥，广东代表团的36名全国人大代表提出关于加强网络信息污染治理的建议代表们认为，目前法律中尚未明确界定网络色情信息、暴力信息、虚假信息等不良信息的标准，这需要通过相关部门的积极探讨，促使主管部门尽快制定判断网络污染信息的具体标准，将互联网内容治理纳入法治化轨道。

网络立法如何做到更科学、有效，避免死角？互联网从业者，尤其是网络媒体和网络企业如何做到自净、自律？这些问题值得全社会去共同研究、思考只有解决好这些问题，才能让我国互联网真正成为信息的宝库，而不会沦为潘多拉的魔盒。

来源 | 检察日报往期精彩1.“继承遗产必须公证”？没有法律依据的说法理当叫停！2.银行迎巨变！中国建设银行正式宣布3.广饶业主们注意！新规出台，这8种情况可拒缴物业费！4.20多年了，你们怎么还抓我？

扫描此处，点击关注广饶检察院微信公众号

觉得不错，请点赞！

亲爱的读者们，感谢您花时间阅读本文。如果您对本文有任何疑问或建议，请随时联系我。我非常乐意与您交流。