如今,大數(shù)據(jù)技術(shù)的發(fā)展和進步開辟了收集和傳輸大量的數(shù)據(jù)更有效的新方式。這場革命促進了實時算法和方法的研究和發(fā)展。傳統(tǒng)上,機器學(xué)習(xí)算法并不是專為實 時處理而設(shè)計的。事實上,數(shù)據(jù)的科學(xué)競賽(如Netflix,Kaggle)由于算法昂貴,并且不切實際的使用,并且計算量很大,這往往屢受詬病。這是植 根于感知的準(zhǔn)確性是更重要的,該算法的速度作為原始設(shè)置的數(shù)據(jù)挖掘是離線的,往往是分批計算。
大數(shù)據(jù)的出現(xiàn)使其開始有了改變,隨著越來越多的算法涌現(xiàn),對 一個可擴展的方式重新考慮。大多數(shù)時間的可擴展性,單獨不妥協(xié)的算法的準(zhǔn)確性,作為計算其本質(zhì)上是相同的。大數(shù)據(jù)分析的實時處理帶來了一個更根本的變化, 因為它限制了可以在這種情況下可以采用的算法的計算復(fù)雜度。
一個實時的流媒體算法應(yīng)該滿足以下條件:它應(yīng)該在一次處理一個例子中,最多檢查它一次,使用有 限的內(nèi)存量,在有限的時間內(nèi)工作,并隨時在任何時候進行預(yù)測。
為了滿足這些要求,流媒體算法設(shè)計成為了一種時尚,一個學(xué)習(xí)的模型不斷更新,以反映來自流媒體傳入的例子。在處理一個傳入的例子后,無論數(shù)據(jù)稀 疏,能夠產(chǎn)生預(yù)測的算法是必需的。對于流數(shù)據(jù)的前沿方法有來自許多不同的方向,在網(wǎng)上學(xué)習(xí),隨機線性代數(shù),云計算的分布式的優(yōu)化方法,甚至直到多類噪音和 雜散數(shù)據(jù)的存在分類問題。一般來說,這些方法并不是特別有效,但預(yù)測的某些部分可能基于預(yù)先計算的模型。事實上,離線在線周期是一個傳統(tǒng)機器學(xué)習(xí)和實時分 析之間的良好折衷,因為它推動其通過該方法的在線部分,并作為新的觀測進來細(xì)化模型離線的方法。
增量學(xué)習(xí)算法代表發(fā)適合于實時分析所提出的要求的一種方法。從本質(zhì)上說,這些算法有一個離線的核心模型,可以回顧歷史數(shù)據(jù),進行新的觀察, 并逐步進入模型。為了保持模型的快速增量更新,這只是部分更新基于概念漂移是在流的檢測模型,然后在預(yù)定的時間開始全面更新脫機。這使系統(tǒng)對新的觀察迅速 作出反應(yīng),這是速度和準(zhǔn)確性之間的妥協(xié)。要注意,這取決于所采用的算法的類型,有可能更新到充分建模,在這種情況下,沒有必要保持一個離線部分的算法。事 實上,這使得增量算法的在線學(xué)習(xí)算法的主要標(biāo)準(zhǔn)是它是否能夠更新模型,并產(chǎn)生實時的預(yù)測。
實時分析已被應(yīng)用在各種各樣的場景,包括社交媒體,金融和各種科學(xué)學(xué)科被采用。然而,可以處理大量的實時數(shù)據(jù)的工具仍然稀缺,主要是內(nèi)部解決方案。
分類:
Hoeffding選項樹是一個漸進的決策樹算法。Hoeffding樹利用的事實是一個小樣本往往是足夠來選擇最佳的分裂特性。
樸素貝葉斯是一個非常簡單的和計算上輕型分類器,該模型的更新和新的樣本的分類可以實時進行。樸素貝葉斯是增量學(xué)習(xí)的一個很好的例子,沒有一個離線組件,因為這種模式能夠產(chǎn)生沒有預(yù)測的歷史數(shù)據(jù),從而提高新的觀測能力。
集群:
StreamKM++計算該數(shù)據(jù)流的一小的加權(quán)樣品,它使用的k均值++算法作為隨機播種技術(shù)來選擇所述第一簇的值。
D-流使用在線組件,每個輸入數(shù)據(jù)記錄映射到網(wǎng)格和離線組件計算網(wǎng)格密度和集群基于密度的網(wǎng)格。該算法采用密度衰減技術(shù)來捕獲數(shù)據(jù)流的動態(tài)變化。
回歸:
LDA增量更新時,新樣本到達(dá)LDA的最小二乘解。這種方法的優(yōu)點在于,它執(zhí)行其導(dǎo)致批次LDA的確切最小二乘解模型的完全更新。
SAIRT是二元回歸樹的增量版本。面對未知的參與力度,如逐步和突然漂移功能,在功能,噪音和虛擬漂移的某些區(qū)域變化的數(shù)據(jù)流時,它適應(yīng)的感應(yīng)模式。它監(jiān)視節(jié)點和忘記實施例的從選定區(qū)域,存儲在關(guān)聯(lián)到樹的葉子本地窗口,其余的是有用的。