關(guān)于我們
書單推薦
新書推薦
|
Hadoop大數(shù)據(jù)分布式計(jì)算框架--原理與應(yīng)用
討論大數(shù)據(jù)技術(shù)時(shí),首先需要了解大數(shù)據(jù)的基本處理流程,主要包括數(shù)據(jù)采集、存儲(chǔ)、分析和結(jié)果呈現(xiàn)等環(huán)節(jié)。數(shù)據(jù)無處不在,互聯(lián)網(wǎng)網(wǎng)站、政務(wù)系統(tǒng)、零售系統(tǒng)、辦公系統(tǒng)、自動(dòng)化生產(chǎn)系統(tǒng)、監(jiān)控?cái)z像頭、傳感器等,每時(shí)每刻都在不斷產(chǎn)生數(shù)據(jù)。這些分散在各處的數(shù)據(jù),需要采用相應(yīng)的設(shè)備或軟件進(jìn)行采集。采集到的數(shù)據(jù)通常無法直接用于后續(xù)的數(shù)據(jù)分析,因?yàn)閷τ趤碓幢姸、類型多樣的?shù)據(jù)而言,數(shù)據(jù)缺失和語義模糊等問題是不可避免的,因而必須采取相應(yīng)的措施有效解決這些問題,這就需要一個(gè)被稱為數(shù)據(jù)預(yù)處理的過程,把數(shù)據(jù)變成一個(gè)可用的狀態(tài)。數(shù)據(jù)預(yù)處理以后,會(huì)被存放到文件系統(tǒng)或數(shù)據(jù)庫系統(tǒng)中進(jìn)行存儲(chǔ)與管理,然后采用數(shù)據(jù)挖掘工具對數(shù)據(jù)進(jìn)行處理分析,最后采用可視化工具為用戶呈現(xiàn)結(jié)果。在整個(gè)數(shù)據(jù)處理過程中,還必須注意隱私保護(hù)和數(shù)據(jù)安全等問題。
因此,從數(shù)據(jù)分析全流程的角度,大數(shù)據(jù)技術(shù)主要包括數(shù)據(jù)采集與預(yù)處理、數(shù)據(jù)存儲(chǔ)和管理、數(shù)據(jù)處理與分析、數(shù)據(jù)安全和隱私保護(hù)等幾個(gè)層面的內(nèi)容。
你還可能感興趣
我要評論
|