十二道金牌連發追「風控」

原創贊收藏評論

舉報 2022-09-20

掃描,分享朋友圈

作者 | 曾響鈴

文 | 響鈴說

草莽紛爭之后，數字內容平臺如何走遠？

很可能像被「十二道金牌」追回的岳飛，扼腕長嘆的那樣——十年之力，廢于一旦。

岳飛的十年勝利，毀于奸臣之手，可恨可嘆，無可避免。

但在互聯網合規化大潮下，互聯網內容平臺的「十年勝利」，如果毀于「內容風控不力」，不僅可惜，更是可悲。因為，這本可以避免。

8月3日，國家計算機病毒應急處理中心（以下簡稱「應急中心」）新通報一批違規移動APP名單，包括《新浪金融》《覓上》《海豚家》等在內的17款APP「榜上有名」。

據了解，這離應急中心通報上一批違規APP尚不足月，而這已經是2022年以來的第12次通報。

在互聯網內容合規化大潮下，守護網絡內容安全的這「十二道金牌」，告訴我們，在當下數字內容風控的重要性和緊迫性，毋庸多言。

流水的數字內容

數字內容如「流水」，有幾大特征。

首先，數字內容如流水般，沒有常形，很難捉摸，導致數字內容風控難度隨之變大。

從最開始的圖文，到后面的語音、視頻內容，可以看到數字內容這種「因器變而形變、因物異而適其異」的特性。

而隨著技術發展，黑灰產數字內容，從生產到偽造的手段也越來越高——從零幾年的發帖機，到現在的智能語音生成、智能圖像偽造，甚至視頻換臉等，增加了內容風控難度和成本。

其次，相較傳統印刷內容，數字內容生產規模大、增速快，且能夠在互聯網快速流動、擴散和滲透，控制不當，「流水」就會變成「洪水」。這也就意味著，數字內容風控從人力密集型（人工審核）進入到計算密集型。

數據顯示，人類進入互聯網前的5000年，文字記載內容總共為5艾（1艾字節=1，152，921，504，606，846，976字節）。但僅2006年，全球全年產生的數字內容，就超過280艾。

近年來，在「高清、三維、視頻化、用戶創造內容（UGC）」的驅動下，數字內容進一步爆發，宛如「洪水」。2018年到2020年，中國數字內容產業年復合增長率高達9.33%，超過同期中國生產總值。數字內容審核，已非單憑人力就能勝任的時代。

最后，技術與產業發展，助推數字內容空前豐富，讓數字內容成為數字經濟的「富礦」，同時也成為黑灰產眼中的「肥肉」，數字內容風控呈現出24小時不間斷的「長期強對抗」態勢。

數字內容的時代洪流，沖刷出一條條大江、大河，催生出諸如抖音、快手等互聯網巨頭企業。同時，也在不斷沖刷網絡內容安全的河堤，且平臺勢能越強，帶來的內容安全隱患也就越大。數字內容平臺，如果成了被利用的「間接作惡工具」，將給企業正常運營帶來麻煩和損失。

今年4月-7月，在為期三個月的「清朗·整治網絡直播、短視頻領域亂象」中，106個直播短視頻平臺下架關停，快手、嗶哩嗶哩、虎牙等被約談、罰款，抖音、淘寶、微信視頻號等16家重點直播、短視頻平臺上，56.3萬個違規直播間被處置，235.1萬條違規短視頻被清理，12萬個違規用戶賬號被關閉......

來自新一代數字內容風控服務商網易易盾的數據顯示，成立六年來，網易易盾終端覆蓋量超25億，累計檢測數據量超2萬億，處理移動安全風險超1400億，抵御外掛超威脅700億......

可見，數字內容風控依然任重道遠。而隨著內容平臺對數字內容風控逐漸重視，相關需求正在不斷上升。數字內容平臺發展，如何做到內容「不失控」，已事關企業生死存亡。

鐵打的內容風控

不管是將一匙酒倒進一桶污水，還是把一匙污水倒進一桶酒里，得到的最終都是一桶污水，這就是管理學上著名的「酒與污水定律」。

可見，污水和酒的比例不決定這桶東西的性質，起作用的是那一勺污水，有它在，再多的酒都會成為污水。

這跟內容風控一樣。對數字內容平臺來說，即使它有一萬條優質內容，但只要有違規內容，它就可能面臨處罰、下架乃至關停的風險。

國家應急中心2022年1-7月的12次通報已經敲鐘——內容風控將會越來越重要，內容平臺因數字內容獲益，理應承擔更多的內容治理責任，背后邏輯很好理解。

一方面，就企業來說，企業存在的最大價值，是解決社會問題，而非制造社會問題。數字內容平臺，過去幾年的發展解決了很多社會問題，這為其帶來了商家。

不過，一些平臺也存在大量「色、丑、怪、假、俗、賭」等違規內容，則給其帶來危機。這些內容不但對平臺發展無益，會造成用戶體驗下降、用戶流失、平臺聲譽受損，同時也會嚴重威脅平臺用戶的切身利益，甚至引發社會問題，影響企業發展。

另一方面，對各大行業來說，隨著數字化轉型深化，數字經濟如火如荼，數字內容和數字內容風控未來將成為企業標配——數字內容如潮，一波接一波，但不管后續形式、平臺如何發展與進化，內容風控將是企業遠航的「壓艙石」，也是內容平臺「鐵打的營盤」。

但數字內容風控，并非一蹴而就，而是一場實時強對抗、長鏈條立體式的長期戰，需要大量的人力和技術投入，任何一環掉鏈子都可能導致前功盡棄。

簡單來講，數字內容風控涵蓋用戶使用全生命周期，包括使用前的用戶賬戶注冊（避免垃圾注冊）、使用中內容智能識別與安全檢測（避免使用中體驗和用戶權益受影響），比如社交反欺詐、游戲反外掛以及營銷反作弊等，以及抵擋無時無刻可能存在，來自網絡各個角度對應用的攻擊等，這從第三方安全風控公司網易易盾提供的數字內容安全解決方案中，也能感受到數字內容風控需要「面面俱到」。

（△網易易盾數字內容安全解決方案）

這就意味著，不管從成本還是技術上來看，僅靠單一內容平臺很難內部消化。因此第三方安全廠商、安全風控公司正在成為企業保駕護航的新剛需。這從網易易盾服務的「朋友圈」越來越大也能得到佐證。目前，網易易盾已服務數千家行業頭部企業，其中不乏人民網、外交部、中信證券、小米、vivo、愛奇藝、知乎、B 站、TapTap、中手游等知名企事業單位，服務間接覆蓋99%以上網民。

數字內容風控，也早在2018年就成為市場空間超百億的行業。安全行業體系標準建設也在持續推進，安全策略運營更是成為新職業——由網易易盾參與起草的《網絡與信息安全管理員國家職業技能標準》已于2020年正式發布，這也為行業培養安全策略運營人員提供了支撐。

內容平臺如何「風控」免「封控」？

顯而易見，互聯網內容平臺正在進入「少犯錯即成功」的時代，內容平臺如何風控避免封控，需要認識到數字內容風控的幾大特點。

第一，門檻看似低，其實非常高。技術需要持續迭代，場景非標性強，需要大數據支撐。

基于上述特征，數字內容風控也有較強的規模效應，未來主流發展趨勢，只能是大平臺化作戰，而非企業獨自為戰。即數字風控服務商需要「見多識廣」。

就像飛書誕生于抖音集團（原字節跳動）內部OKR應用；釘釘誕生于阿里內部協作；網易易盾的誕生，也離不開網易多元互聯網業務的「喂養」。

網易從提供博客、郵件類產品開始即重視內容風控，且其業務所涉的游戲、電商、社交、娛樂等都需要內容風控。這些內部需求和實踐，讓網易擁有20多年數據積累，也讓網易易盾在內容風控上「見多識廣」。

這些，又為網易易盾算法團隊沉淀出一系列高效率的場景化數據精煉流程和算法訓練方案。構建了數百種細分類識別的模型，最高99.99%的分類模型精準度，持續獲得包括浙江省科學技術進步獎一等獎在內的各類官方權威認可。

第二，要么不出事，要么出大事，試錯成本高，穩定性高于一切。

數字內容風控事故只有0和1的區別，企業不能存在僥幸心理，也不能充當「小白鼠」，因為一次事故，可能就會打斷企業發展的勢頭，甚至將多年積累毀于一旦。

2019年7月底，處于快速增長期的小紅書突然「被下架」，整改后時隔70多天方才重新上架，元氣大傷——2019年下架前的6月，小紅書月活約為9300萬，到9月底月活用戶降為7288萬。這樣的例子很多，此外還有像抖音集團（原字節跳動）旗下因內容被關停的「內涵段子」們也不少。

因此，選擇一個被驗證過的內容風控服務商很重要。被網易內部從郵件、博客到社交娛樂、游戲、購物驗證過的網易易盾，被上千行業頭部企業「拿去就用」也就不奇怪了，這跟釘釘和飛書被別的企業「拿去用」是一樣的道理。

第三，數字內容風控是一場持久戰，貫穿企業全生命周期，需要全方位、持續改善，包括人工審核、機器識別和安全策略三方面，一個環節都不能少。

目前第三方內容風控服務商標配是「機器識別+人工審核」。其中「機器識別」承擔「將識別能力標準化」的部分，即基于深度學習及大規模樣本訓練，對內容進行分析，分辨其中可能存在的色情、低俗、廣告、涉政、暴恐、謾罵、灌水等可能性的內容，進行標紅和分類預處理，最后交由「人工審核」來負責定性的部分。

還有少數服務商提供的是「機器識別+人工審核+安全策略」服務，業內較早做的是網易易盾。其提供的「安全策略」可以類比為「機器識別」與「人工審核」之間的橋梁，既幫人工團隊將其處理的特征和知識，抽象出來反哺給機器，讓機器識別更"聰明"；又根據通用問題，開發一些策略工具持續篩選機器識別后的數據，使其結果輸出更精準。

由于做得比較早（2012年內部開發，2016年開始對外服務，在2019年網易易盾該方案已成為行業通用解決方案），相比其它企業，網易易盾是少數擁有「策略運營團隊」的內容風控服務商，相比市場上普遍的「機器+人工」模式，網易易盾補足了「運營」這個重要環節，成為能提供一站式全生命周期的專業數字內容風控服務的「少數派」。

總而言之，數字內容風控，就像內容平臺參與的一場特殊的足球賽，你可以自己不得分，但你不能失守，被對方破門。否則不管是1：0還是100：0，結局都是輸！而平臺從內容風控到「被封控」，很大程度上取決于一個「守門員」。

*本文圖片均來源于網絡

*此內容為【響鈴說】原創，未經授權，任何人不得以任何方式使用，包括轉載、摘編、復制或建立鏡像。

【完】

曾響鈴

1鈦媒體、品途、人人都是產品經理等多家創投、科技網站年度十大作者；

2 虎嘯獎評委；

3 作家：【移動互聯網+ 新常態下的商業機會】等暢銷書作者；

4 《中國經營報》《商界》《商界評論》《銷售與市場》等近十家報刊、雜志特約評論員；

5 鈦媒體、36kr、虎嗅、界面、澎湃新聞等近80家專欄作者；

6 “腦藝人”（腦力手藝人）概念提出者，現演變為“自媒體”，成為一個行業；

7 騰訊全媒派榮譽導師、多家科技智能公司傳播顧問。