首先,讓我們快速定義和區(qū)分這兩個術(shù)語。
數(shù)據(jù)湖:它是以原始格式存儲的數(shù)據(jù)存儲庫。它通常是所有企業(yè)數(shù)據(jù)的單一存儲,在初始階段不會排除或轉(zhuǎn)換任何內(nèi)容。
數(shù)據(jù)倉庫:它是一種預(yù)定義的結(jié)構(gòu)化數(shù)據(jù)存儲,其中包含業(yè)務(wù)交易的聚合數(shù)據(jù)和其他支持信息,以根據(jù)各個主題領(lǐng)域提供業(yè)務(wù)的抽象視圖。
數(shù)據(jù)倉庫的概念并不新鮮,已廣泛應(yīng)用于各行業(yè)的報告和分析。然而,隨著各種格式和文件類型的數(shù)據(jù)源以及經(jīng)濟高效的存儲的出現(xiàn),數(shù)據(jù)湖的概念出現(xiàn)了,可以使用任何格式和大小的數(shù)據(jù)。數(shù)據(jù)湖的設(shè)計和構(gòu)建沒有針對任何特定要求。這使得它們非常有價值,因為不同的部門和團隊可以從數(shù)據(jù)湖中提取數(shù)據(jù)并將其用于各種操作。數(shù)據(jù)湖在存儲時不強制執(zhí)行任何模式定義,團隊在出于特定目的進行處理時實施其所需的模式。
隨著數(shù)據(jù)湖的出現(xiàn),數(shù)據(jù)倉庫并沒有失去其重要性。它們都有各自的特定目的。理解這兩個概念對于弄清楚這兩個系統(tǒng)的需求以及對它們的關(guān)注程度非常重要。
例如,如果一個組織只是處理結(jié)構(gòu)良好且表格格式的數(shù)據(jù),他們可能不需要數(shù)據(jù)湖。但是,如果組織正在處理來自各種來源的數(shù)據(jù)(可能是 xml、csv、json、圖像、電子表格等),那么數(shù)據(jù)湖就有意義。
對于大多數(shù)實際目的,我們需要表格格式的分析數(shù)據(jù)來創(chuàng)建報告、儀表板、預(yù)測等,從而使數(shù)據(jù)倉庫變得合適。數(shù)據(jù)湖補充了數(shù)據(jù)倉庫,以使用任何格式的數(shù)據(jù),然后對其進行處理以獲得分析解決方案。
由于數(shù)據(jù)湖旨在存儲所有數(shù)據(jù),無論何種格式,它都可能成為數(shù)據(jù)沼澤,導(dǎo)致數(shù)據(jù)源效率低下、無法訪問或管理不善,為業(yè)務(wù)提供的價值非常小。
在使用數(shù)據(jù)湖時,我們需要清楚我們的目標數(shù)據(jù)模型。它幫助我們構(gòu)建正確的邏輯,通過以下方式從數(shù)據(jù)湖中提取正確且有價值的數(shù)據(jù)集:
結(jié)構(gòu):數(shù)據(jù)湖中的數(shù)據(jù)可以是任何格式,目標數(shù)據(jù)模型有助于定義所需數(shù)據(jù)集的所需結(jié)構(gòu)。
數(shù)據(jù)量:數(shù)據(jù)湖巨大,因此為特定目的提取最少但足夠的數(shù)據(jù)以確保效率非常重要。
清理:目標數(shù)據(jù)模型幫助我們用模式信息豐富數(shù)據(jù),以便我們可以在開始時進行清理,以避免后期錯誤的傳播。
在使用數(shù)據(jù)湖時,擁有適當(dāng)?shù)陌姹究刂葡到y(tǒng)非常重要。數(shù)據(jù)湖是動態(tài)的,并且隨著時間的推移不斷獲取新數(shù)據(jù)。即使使用廉價的存儲空間,簡單地維護文件的所有版本也可能會適得其反。
數(shù)據(jù)湖的另一個挑戰(zhàn)是數(shù)據(jù)治理。由于數(shù)據(jù)湖旨在供組織中的每個人為了特定目的提取和使用數(shù)據(jù),因此采用適當(dāng)?shù)脑L問控制來確保數(shù)據(jù)安全性和合規(guī)性變得很棘手。
數(shù)據(jù)湖被構(gòu)建為任何原始格式數(shù)據(jù)的存儲庫。由于這種印象,許多組織并不關(guān)注數(shù)據(jù)湖中的元數(shù)據(jù)管理,這使得后期很難識別和找到所需的數(shù)據(jù)。
通過正確了解數(shù)據(jù)湖實施的業(yè)務(wù)需求、優(yōu)勢和挑戰(zhàn),組織可以通過共同使用數(shù)據(jù)湖和數(shù)據(jù)倉庫來挖掘可用數(shù)據(jù)的巨大潛力。
數(shù)據(jù)倉庫在跨所有領(lǐng)域和部門的組織報告和分析中發(fā)揮了非常重要的作用。然而,由于非結(jié)構(gòu)化和半結(jié)構(gòu)化數(shù)據(jù)的產(chǎn)生,數(shù)據(jù)湖幫助我們利用這些數(shù)據(jù)來促進我們的組織發(fā)展。
分享到微信 ×
打開微信,點擊底部的“發(fā)現(xiàn)”,
使用“掃一掃”即可將網(wǎng)頁分享至朋友圈。