“老司機上車”、“少婦誘惑直播”、“衤果聊”……如今網(wǎng)絡上充斥著此類具有挑逗性且易讓人想入非非的暗示語，看著很刺激，但刺激背后隱藏著看不見的黑手在推動這些信息的傳播。
在移動互聯(lián)網(wǎng)時代，用戶上網(wǎng)極度便利的當下，色情內(nèi)容、垃圾評論、垃圾廣告、違禁品買賣、謠言、賭博等信息正無孔不入，滲透到各種互聯(lián)網(wǎng)產(chǎn)品，長期危害著青少年心理健康及網(wǎng)民的用戶體驗。那么這些互聯(lián)網(wǎng)垃圾信息的來源和盈利模式到底是怎么樣的呢?
無利不起早，有錢能使鬼推磨
“如果沒有利益驅(qū)使，不會有專門的團伙來散播垃圾信息，亦無法形成一個成熟的產(chǎn)業(yè)鏈”，網(wǎng)易云安全(易盾)技術(shù)總監(jiān)朱浩齊用涉黃產(chǎn)業(yè)鏈舉了一個例子—— 一般來說，涉黃團伙希望通過網(wǎng)絡發(fā)布大量的廣告，吸引盡可能多的“客戶”來保證團伙的利潤，但是沒有一個正規(guī)的互聯(lián)網(wǎng)公司敢接他們的廣告業(yè)務。
“有錢能使鬼推磨”，看到諸如涉黃團伙這類需求方出錢后，有一些打著“互聯(lián)網(wǎng)營銷推廣”幌子的公司或者平臺就會出現(xiàn)，他們會分析需求方單子的技術(shù)難度。以發(fā)布涉黃廣告為例，如果想增加曝光率，那需要在熱門產(chǎn)品的熱門區(qū)域持續(xù)不斷發(fā)布評論。一般發(fā)布評論都需要注冊帳號，有些產(chǎn)品也會增加驗證碼等作為發(fā)布評論的門檻，還有一些產(chǎn)品甚至要完成手機短信驗證等等。“如果所有需要跨過門檻的技術(shù)方案都由自己完成，那成本無疑是非常大的，于是所謂的‘互聯(lián)網(wǎng)營銷推廣’公司就會找一些黑產(chǎn)下家來協(xié)助”，朱浩齊說。
這些黑產(chǎn)下家五花八門且“業(yè)務”精細——有專門負責注冊帳號、提供IP資源的，有研發(fā)自動發(fā)評論工具的，還有研發(fā)碼驗證打碼平臺、完成短信驗證的……接到需求的“互聯(lián)網(wǎng)營銷推廣”平臺會把上述黑產(chǎn)環(huán)節(jié)集成起來，巧妙的利用這些黑產(chǎn)資源，滿足涉黃團伙的需求，實現(xiàn)非法營利。
苦情戲、軍情刺探，黑產(chǎn)無所不用其極
雖然黑產(chǎn)有資源也有技術(shù)，但是互聯(lián)網(wǎng)安全廠商與他們的斗爭并未停歇。據(jù)朱浩齊描述，網(wǎng)易云安全(易盾)在與黑產(chǎn)斗爭的過程中，遇到過不少奇葩有趣的案例。
中文作為世界上最復雜的語言之一，它的變化方式難以窮盡，拼音、字符、拆字、同音字等，都可以用來表達同樣的意思，比如“想看妹誘惑直播嘛”。
“針對這些垃圾樣本，我們會采用機器學習的技術(shù)進行訓練，實現(xiàn)文本的語義識別，可以從內(nèi)容維度把絕大多數(shù)的垃圾都抓出來”，網(wǎng)易云安全(易盾)技術(shù)總監(jiān)朱浩齊說。
不過，上述垃圾蟲大多在一個完整的輸入框中完成垃圾內(nèi)容的編輯和發(fā)布，雖然用了各種變種，但是整句話在語義上還是一體的，所以還算容易處理。但下圖中的垃圾蟲就進化得高級一些，它能巧妙地適配產(chǎn)品表現(xiàn)形式，比如頭像、用戶名、簽名等，把想要表達的意思拆分為不同的部分，完整展現(xiàn)在普通用戶眼前。如果加上IP、帳號等不停變化，抓取的難度就會大大提升：
據(jù)朱浩齊介紹，為了從內(nèi)容角度對付這種垃圾蟲，網(wǎng)易云安全(易盾)設計了“所見即所得”的過濾系統(tǒng)和審核系統(tǒng)，真實地還原產(chǎn)品數(shù)據(jù)展示的形式，比如會把昵稱和評論內(nèi)容放在一起做語義分析，也會把頭像圖片經(jīng)過機器識別后跟評論內(nèi)容組合在一起審核。
為了逃避機器7*24小時不停歇的審查，黑產(chǎn)偶爾還會上演苦情戲：
有意思的是，在發(fā)現(xiàn)苦情戲不好使時，黑產(chǎn)團伙會直接撥打平臺客服電話，表面裝作很生氣地投訴——“憑什么刪我貼”、“把你負責人叫過來”，實則是想從客服的嘴里刺探到平臺的一些防御策略，比如如何識別他們發(fā)布的內(nèi)容，如何才能申請帳號或者IP解封等。
黑產(chǎn)手段在進化，網(wǎng)絡安全技術(shù)需實時演進
隨著互聯(lián)網(wǎng)技術(shù)不斷進步，用戶參與網(wǎng)絡進行討論和獲取知識的門檻越來越低，用戶得到便利的同時，也給了垃圾蟲越來越多的可乘之機。
就拿最近火爆的直播行業(yè)為例，垃圾蟲可以在熱門直播平臺的各個角落里發(fā)布垃圾內(nèi)容：彈幕，評論，昵稱，頭像，簽名，用戶資料，有的還甚至直接參與違法直播的表演。
據(jù)了解，針對新的產(chǎn)品形態(tài)，為了有更好的防御效果，網(wǎng)易云安全(易盾)也適時推出了直播行業(yè)的解決方案，專門針對直播行業(yè)的各種特點定制防御策略。比如針對彈幕的實時聊天文本過濾、視頻流的機器鑒黃、直播間熱度監(jiān)控報警，以及更加智能的直播電視墻等等。
互聯(lián)網(wǎng)內(nèi)容安全的戰(zhàn)爭從網(wǎng)絡誕生之初開始，已經(jīng)持續(xù)了幾十年?？梢灶A見，以后還會有新的互聯(lián)網(wǎng)產(chǎn)品形式，當然也會有新的發(fā)布垃圾的手段。“我們在云計算、深度學習、人工智能等技術(shù)方面已經(jīng)有很多實踐經(jīng)驗和技術(shù)積累，我們有信心打贏每一場戰(zhàn)爭”，朱浩齊如是說。
轉(zhuǎn)型的最終目的 -提質(zhì)降本增效
分享到微信 ×
打開微信，點擊底部的“發(fā)現(xiàn)”，
使用“掃一掃”即可將網(wǎng)頁分享至朋友圈。