发布日期:2018-04-16 15:24 来源:36氪 标签: 快手
距离国家广播电视总局下发严肃处理“快手”“今日头条”的通报,已经过去了十日。这期间,“快手”在安卓应用商店暂时下架;“内涵段子”永久关停;火山小视频、西瓜视频整改升级。

  距离国家广播电视总局下发严肃处理“快手”“今日头条”的通报,已经过去了十日。

  这期间,“快手”在安卓应用商店暂时下架;“内涵段子”永久关停;火山小视频、西瓜视频整改升级。

  短视频行业持续震动。快手CEO宿华发出致歉信,向公众承认错误,并宣布整改。这封致歉信被知名科技评论作者keso评论为“诚恳到宿华这样的道歉,真的没见过”。


  但光有道歉是不够的,“低俗”视频怎么处理、未成年人如何保护、内容审核怎么人机结合、价值观怎么把握,快手面临大考。

  刺猬公社(ID:ciweigongshe)获悉,在快手内部,已经达成共识,就是媒体和监管部门提出的问题确实存在,而且正如宿华在致歉信中写的“是长久以来我们一直没能重视的问题”,快手上下也发自内心觉得需要做一番彻底的反思和整改。

  所以,这段时间以来,快手全员都处于异常忙碌的状态,有内部员工表示,他们忙到一周都没怎么睡觉,宿华在致歉信中提到的“完善社区运行规则”“建立未成年人保护体系”“打击和清除低俗色情内容”等,也全都在一一对照改进落实。

  从快手内部来说,也期待通过这次整改,优化和提升社区品质,撕掉low和低俗的标签,重塑形象。

  为什么“先审后发”还是出现了问题?

  快手的内容审核压力,并不是十天前才开始有的。

  2018年春节期间快手用户单日上传视频数量突破1500万条,每分钟上传视频的峰值达到43000条,创历史新高。

  这意味着快手原本的2000名内容审核员,要在机器的配合之下,对每天1500万条视频内容进行审核。当时快手对媒体表示:快手的内容评级团队和产品技术团队放弃了与家人团聚的机会,只为确保春节期间包括内容审核在内的用户体验“不缺位”。

  从节后的效果来看,某些时候,内容审核“缺位”了。央视在节目中指出,快手太负面,热捧早孕网红,直播私奔。

 

  按照快手方面的介绍,快手所有视频都能做到先审后发。针对每条用户上传视频,快手都会采用“四审三查”机制。四审包括上传前预审、入库前一审、发布前二审、发布中三审。第一次审核依靠来自机器的信息安全体系做判断,第二次审核就开始引入人工。

  除此之外还有三查,即全程官方巡查、全程用户监督、内外监控体系。

  全程官方巡查,指有专职全天候巡逻人员团队,查缺补漏;全程用户监督,建立了一套快捷高效的用户与其他渠道投诉举报体系;内外监控体系,有内外两套独立监察体系,互相监督。

  但为什么百分之百的“先审后发”还是出现了问题?

  有视频平台内容审核员告知,一般来说人工审核采用的方式是切帧,但现在的很多视频的制作技巧比较新,比如只有几个违规画面短暂露出,审核难度较大。

  还有一个问题在于:如果未成年妈妈在平台上成为一个现象,那么这与平台的审核能力无关,反而与平台的审核原则有关,这也是快手此次整改的一个主要方向。

  在快手,机器的审核能力也是经过训练的:在以数千万人工时计的案例判断的基础上,辅以深度学习智能识别技术,并凭借大量数据与长期实践累积,建立了一套信息审核规则体系。

  这套体系将历史上已经完成判定的违规内容与判定标准明确的内容,先行过滤,色情暴力等违法违规内容不得上传。

  但社会道德问题在更新、变化。

  “涉及到社会道德、公序良俗的内容判定,是短视频行业共同面临的难题。就快手来说,如果已经有人工进行判定的判例,机器会进行处理;如果是比较新的状况,则需要人工先判定,然后再做处理。”快手内部人士告诉刺猬公社(ID:ciweigongshe)。

  该人士还公开了一组数据,截止目前快手已经清理问题短视频31万条,封禁5.6万名用户,清理6.5万个用户名。

 

  快手也宣布,将在原有2000名专职审核人员的基础上,招聘3000名本科学历并有较强政治敏感度与鉴别能力的审核员,落实共青团员和党员优先政策,提供高于同行薪资,加快建立一支政治坚定、业务精湛的工作队伍,所有审核员都会在进经过专业培训后上岗。

  算法的价值观和流量如何均衡?

  算法有没有价值观?

  人民日报法人微博对今日头条的严厉批评认为:如果一味追求爆款,却不拆除引发危机的“爆破点”;如果贪图飙车式发展,却无视“刹车”功能失灵;如果只要价值,不要价值观,甚至鼓吹“算法没有价值观”,就难免出事。产品不能沦为算法的奴隶。

 


  宿华也在致歉信里说:“社区运行用到的算法是有价值观的,因为算法的背后是人,算法的价值观就是人的价值观,算法的缺陷是价值观上的缺陷。”

  他在致歉信中为正确的价值观划了一个标准:

  1.只有符合国家法律法规、遵循社会公序良俗的作品,才能进行算法推荐。

  2.所有的算法规则,必须服从健康积极、阳光向上的价值观。

  3.改进算法,优先推荐个性化的更符合用户兴趣的正能量作品,放大优秀作品的影响力、感染力。

  有使用快手习惯的用户可能会发现,整改后,快手的发现页面推荐内容短时间内变化较大。主流媒体的声音被放大。

  快手方面统计,在坚持社会主义核心价值观指导算法,放大优秀作品的影响力、感染力,热门页面下线整改期间,平台精心筛选正能量视频共得到逾170亿次曝光,获得超31亿次播放、6900万次双击喜欢、9500万条评论、3400万次分享。


  但不管是“正能量视频”还是“主流媒体的声音”,实际上都是放大了人工编辑在推送中的干预作用。这和算法推荐的逻辑,是相反的,习惯于快手百分之百算法推荐的用户,可能会在短时间内感受到很大的不同。

  快手方面对刺猬公社解释称,此次调整后,用户使用快手的过程中,仍然会收到自己感兴趣的内容,但发现页正能量的视频会有所增加。

  另外,快手在保证视频内容符合社会主义核心价值观的前提下,会按照个人兴趣以及拓展个人兴趣边界来推荐视频内容,帮助用户发现更广阔的世界,避免信息茧房。

  快手方面还表示,会尊重用户的正常表达权,在保证视频内容符合社会主义核心价值观的前提下,会把用户体验放在首位。

  如何保护平台上的未成年用户?

  在快手的用户群中,有一类是特殊的——未成年人。

  此前,中央电视台曝光快手和火山小视频推未成年妈妈视频,也成了整顿的导火索,舆论认为,快手和火山小视频等短视频平台上未成年人的“出格”行为,可能会对更多的未成年人形成示范效应。

  宿华在致歉信中已经明确提出,要建立未成年人保护体系,对视频进行分级,对于未成年用户可能看到的视频,进行严格过滤,严禁未满18岁用户开通直播权限。

  

  具体措施包括,4月12日起,快手上线“家长控制模式”,家长可通过密码一键开启/关闭“儿童锁”功能,过滤不适宜未成年观看的内容,并关闭开启直播、直播打赏、查找、同城、钱包等功能,从4月13日起,发现页未成年过滤内容池正式上线,该模式将持续进行迭代更新。

  刺猬君体验发现,家长可以通过设置密码,选择开启“家长控制模式”,和未开启模式相比,页面发生了较大变化,首页同城入口消失,“八卦”“消息”“私信”“查找”等功能均无法使用。

  如果是在“家长控制模式”之下使用快手,平台吸引力至少损失三分之一。

  一方面无法主动搜索关注熟人,私信入口被隐藏,除了已经互相关注的朋友,几乎不能再进行定向的社交拓展;另一方面,“消息”功能消失,也就意味着未成年人发送到平台上的视频,缺乏了一个获得点赞提示的窗口,对激发用户的创作能力有较大的影响。

  对快手来说,这次整顿其实是价值观的重构。平台的内容审核其实是存在容错率的,不可能所有违规视频都能逃过审核者的眼睛,应该说,所有的平台都存在这个问题。

  只是在视频发出来以后,平台可以自查,也可以收到来自用户的举报信息,遗漏视频很容易得到处理,并不会引起太大的水花。

  但显然,这次整顿前夕,舆论攻击的大多数视频,在快手等平台上都不是个例,这是审核原则的漏洞,体现出的是平台的价值观。

  从这个层面上来看,快手想通过这次整顿,改变外界形象,确实是个还不错的机会。

  【版权声明】本文转载自36氪,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。



相关评论