近日，第二屆移動(dòng)視頻生態(tài)發(fā)展論壇在上海舉行，200余位來自視頻直播的行業(yè)和技術(shù)專家就視頻直播趨勢(shì)變化、直播內(nèi)容監(jiān)管與規(guī)范、視頻內(nèi)容IP價(jià)值的發(fā)掘和重塑等主題展開探討。
網(wǎng)易云安全(易盾)產(chǎn)品總監(jiān)王博受邀出席論壇，并發(fā)表了關(guān)于“視頻直播行業(yè)內(nèi)容安全現(xiàn)狀與實(shí)踐”的演講，他認(rèn)為當(dāng)下直播運(yùn)營者在內(nèi)容監(jiān)管方面往往會(huì)遇到風(fēng)險(xiǎn)、成本、技術(shù)、效果等困境，而在內(nèi)容安全解決方案上，做到有機(jī)整合、人工智能、內(nèi)容風(fēng)控這三點(diǎn)尤為重要。此外，網(wǎng)易云安全正式面向企業(yè)客戶開放了其內(nèi)容安全智能系統(tǒng)，這一系統(tǒng)在云安全服務(wù)領(lǐng)域處于業(yè)內(nèi)。
網(wǎng)絡(luò)直播爆發(fā)的同時(shí)，內(nèi)容監(jiān)管問題日益凸顯
2016年被譽(yù)為“中國網(wǎng)絡(luò)直播元年”，上半年網(wǎng)絡(luò)直播用戶規(guī)模就已經(jīng)達(dá)到了3.25億，占網(wǎng)民總體的“45.8%”，中國直播市場(chǎng)的總量超過了 250 億元。網(wǎng)絡(luò)直播作為一種新的大眾傳媒方式開始全方位走入公眾視野。
一個(gè)新行業(yè)野蠻增長之后，暴露的是約束條件的不健全。“進(jìn)入2017年，直播遇到新挑戰(zhàn)，內(nèi)容監(jiān)管就是其中之一”，王博說，“僅2016年7月，文化部查處關(guān)閉的直播房間數(shù)超過2萬、涉及網(wǎng)絡(luò)主播超1.6萬”。
隨著國家在直播內(nèi)容方面的收緊，有關(guān)部門對(duì)直播內(nèi)容提出了要24小時(shí)監(jiān)管、建立內(nèi)容審核機(jī)制，包括錄播先審后發(fā)，以及主播實(shí)名認(rèn)證等要求。王博認(rèn)為，在如此嚴(yán)格的內(nèi)容監(jiān)管要求下，直播運(yùn)營者或COO往往會(huì)遇到以下四個(gè)方面的困境——風(fēng)險(xiǎn)、成本、技術(shù)、效果。
風(fēng)險(xiǎn)層面：如果某直播運(yùn)營團(tuán)隊(duì)在內(nèi)容審查方面經(jīng)驗(yàn)比較少，往往會(huì)出現(xiàn)觸犯法規(guī)高壓線，輕則停站，重則關(guān)站。
成本審核：如果是自建7×24小時(shí)的審核團(tuán)隊(duì)，一般來說90后團(tuán)隊(duì)管理難度大、人員流動(dòng)非常頻繁，這會(huì)導(dǎo)致成本居高不下。
技術(shù)成本：無論是內(nèi)容監(jiān)管，還是文本反垃圾，采取自研技術(shù)時(shí)間周期長且成本也非常高。
效果不佳：垃圾清理不干凈，極大可能會(huì)影響用戶，因此造成用戶流失。
控制違規(guī)內(nèi)容，從源頭解決
在直播內(nèi)容黃、暴、廣告日益嚴(yán)峻的情況下，打造純凈網(wǎng)絡(luò)空間顯得尤為迫切。在本次論壇上，王博根據(jù)網(wǎng)易20年的反垃圾技術(shù)經(jīng)驗(yàn)，總結(jié)出了以下三點(diǎn)重要經(jīng)驗(yàn)——有機(jī)整合、人工智能、內(nèi)容風(fēng)控。
有機(jī)整合是指必須有一個(gè)完整的、功能齊全的內(nèi)容管控系統(tǒng)。“網(wǎng)易在做內(nèi)容安全方面，對(duì)整個(gè)業(yè)務(wù)流程中每一個(gè)環(huán)節(jié)都有把控。舉個(gè)例子來說，用戶注冊(cè)到登陸再到發(fā)表一些內(nèi)容——包括圖片、文本、音頻、視頻，我們都會(huì)做內(nèi)容防護(hù)，確保最后的內(nèi)容是純凈、安全的。”王博說。
借助人工智能。單純靠人工解決審核問題，已經(jīng)無法滿足視頻直播高流量的需求，人工智能在此環(huán)節(jié)中起到很大作用，讓機(jī)器做機(jī)器做的事情，讓人做人做的事情。在此方面，網(wǎng)易云安全(易盾)會(huì)通過機(jī)器學(xué)習(xí)進(jìn)行語意分析及智能關(guān)鍵詞分析，來判斷發(fā)表的內(nèi)容是否涉黃、涉暴、涉及謠言等。
內(nèi)容風(fēng)控，在反垃圾方面如果是事后做，會(huì)比較被動(dòng)。反垃圾更為高效的手段在于運(yùn)營者在源頭或者垃圾沒有產(chǎn)生之時(shí)，做到提前預(yù)知。王博表示，網(wǎng)易云安全(易盾)可以通過對(duì)用戶行為的大數(shù)據(jù)分析，形成用戶畫像，能提前預(yù)知該用戶是否產(chǎn)生詐騙行為。
據(jù)王博介紹，目前網(wǎng)易云安全(易盾)已經(jīng)為瘋播、全聚星、栗子直播、魚泡泡等多家視頻或直播客戶提供反垃圾服務(wù)。針對(duì)直播行業(yè)，網(wǎng)易云安全(易盾)推出了專業(yè)的主播身份認(rèn)證功能、直播掛機(jī)檢測(cè)和直播黑屏檢測(cè)功能等。隨著視頻直播用戶內(nèi)容遞進(jìn)式爆發(fā)，視頻平臺(tái)的內(nèi)容安全能力走向系統(tǒng)化、智能化已經(jīng)成為趨勢(shì)。
此外，網(wǎng)易云安全(易盾)還推出有內(nèi)容反垃圾、行為式驗(yàn)證碼、注冊(cè)保護(hù)服務(wù)、登陸保護(hù)等服務(wù)，已為眾多UGC、PUGC平臺(tái)提供內(nèi)容安全和業(yè)務(wù)安全防護(hù)服務(wù)，為企業(yè)降低人力和技術(shù)成本，其相關(guān)技術(shù)已經(jīng)處于業(yè)內(nèi)。
轉(zhuǎn)型的最終目的 -提質(zhì)降本增效
分享到微信 ×
打開微信，點(diǎn)擊底部的“發(fā)現(xiàn)”，
使用“掃一掃”即可將網(wǎng)頁分享至朋友圈。