大數(shù)據(jù)泛指大規(guī)模、超大規(guī)模的數(shù)據(jù)集,因可從中挖掘出有價值的信息而備受關(guān)注。數(shù)據(jù)挖掘是一個涉及數(shù)據(jù)庫技術(shù)、人工智能、統(tǒng)計學(xué)、機器學(xué)習(xí)等多個學(xué)科的領(lǐng)域,并且已經(jīng)在各行各業(yè)有了非常廣泛的應(yīng)用。為適應(yīng)我國數(shù)據(jù)挖掘的教學(xué)工作,作者在數(shù)據(jù)挖掘教學(xué)實踐的基礎(chǔ)上,參閱了多種國內(nèi)外最近版本的教材,編寫了本書。本書可以作為高等院校研究生的教材,也可以為相關(guān)行業(yè)的工程技術(shù)人員提供有益的參考。
本書內(nèi)容循序漸進,對大數(shù)據(jù)挖掘的基本算法進行了詳細的講解。本書最大的特點是理論與實踐相結(jié)合,算法理論與產(chǎn)業(yè)一線實踐相結(jié)合,幾乎所有的算法都配有實例和基于阿里云大數(shù)據(jù)平臺(數(shù)加平臺)的演示,這種理論與實際相結(jié)合的方法克服了只重理論、輕實踐的內(nèi)容組織方式,極大地方便了讀者的理解。具體而言,本書11章內(nèi)容之間的關(guān)系如下圖所示。
本書提供的教學(xué)課件,讀者可登錄www.tup.com.cn網(wǎng)站自行下載。由于編者水平有限,書中必定存在不足之處,懇請專家和讀者批評指正。
編者2023年1月
第一篇基礎(chǔ)篇
第1章大數(shù)據(jù)簡介
1.1大數(shù)據(jù)
1.1.1大數(shù)據(jù)的定義
1.1.2大數(shù)據(jù)的特點
1.1.3大數(shù)據(jù)處理的挑戰(zhàn)
1.2大數(shù)據(jù)挖掘
1.2.1大數(shù)據(jù)挖掘的定義
1.2.2大數(shù)據(jù)挖掘的特點
1.3大數(shù)據(jù)挖掘的相關(guān)方法
1.3.1數(shù)據(jù)預(yù)處理技術(shù)
1.3.2關(guān)聯(lián)規(guī)則挖掘
1.3.3分類
1.3.4聚類
1.3.5孤立點挖掘
1.3.6演變分析
1.3.7特異群組分析
1.4大數(shù)據(jù)挖掘類型
1.4.1Web數(shù)據(jù)挖掘
1.4.2空間數(shù)據(jù)挖掘
1.4.3流數(shù)據(jù)挖掘
1.5大數(shù)據(jù)挖掘的常見應(yīng)用
1.5.1社交網(wǎng)絡(luò)分析
1.5.2文本分析
1.5.3推薦系統(tǒng)
1.6常用的大數(shù)據(jù)統(tǒng)計分析方法
1.6.1百分位
1.6.2皮爾森相關(guān)系數(shù)
1.6.3直方圖
1.6.4T檢驗
1.6.5卡方檢驗
1.7常用的大數(shù)據(jù)挖掘評估方法
1.8大數(shù)據(jù)平臺相關(guān)技術(shù)
1.8.1分布式存儲技術(shù)
1.8.2分布式任務(wù)調(diào)度技術(shù)
1.8.3并行計算技術(shù)
1.8.4其他技術(shù)
1.9大數(shù)據(jù)平臺實例阿里云數(shù)加平臺
1.9.1數(shù)加平臺簡介
1.9.2數(shù)加平臺產(chǎn)品簡介
1.9.3數(shù)加平臺優(yōu)勢特色
1.9.4機器學(xué)習(xí)平臺簡介
1.9.5機器學(xué)習(xí)平臺功能
1.9.6機器學(xué)習(xí)平臺操作流程
1.10小結(jié)
思考題
第二篇技術(shù)篇
第2章數(shù)據(jù)預(yù)處理技術(shù)
2.1數(shù)據(jù)預(yù)處理的目的
2.2數(shù)據(jù)采樣
2.2.1加權(quán)采樣
2.2.2隨機采樣
2.2.3分層采樣
2.3數(shù)據(jù)清理
2.3.1填充缺失值
2.3.2光滑噪聲數(shù)據(jù)
2.3.3數(shù)據(jù)清理過程
2.4數(shù)據(jù)集成
2.4.1數(shù)據(jù)集成簡介
2.4.2常用數(shù)據(jù)集成方法
2.5數(shù)據(jù)變換
2.5.1數(shù)據(jù)變換簡介
2.5.2數(shù)據(jù)規(guī)范化
2.6數(shù)據(jù)歸約
2.6.1數(shù)據(jù)立方體聚集
2.6.2維歸約
2.6.3數(shù)據(jù)壓縮
2.6.4數(shù)值歸約
2.6.5數(shù)據(jù)離散化與概念分層
2.7特征選擇
2.7.1特征選擇簡介
2.7.2Relief算法
2.7.3Fisher判別法
2.7.4基于GBDT的過濾式特征選擇
2.8特征提取
2.8.1特征提取簡介
2.8.2DKLT特征提取方法
2.8.3主成分分析法
2.9基于阿里云數(shù)加平臺的數(shù)據(jù)采樣與特征選擇實例
2.10小結(jié)
思考題
第3章邏輯回歸方法
3.1基本概念
3.1.1回歸概述
3.1.2線性回歸簡介
3.2邏輯回歸
3.2.1二分類邏輯回歸
3.2.2多分類邏輯回歸
3.2.3邏輯回歸應(yīng)用舉例
3.2.4邏輯回歸方法的特點
3.2.5邏輯回歸方法的應(yīng)用
3.3邏輯回歸源代碼結(jié)果分析
3.3.1線性回歸
3.3.2多分類邏輯回歸
3.4基于阿里云數(shù)加平臺的邏輯回歸實例
3.4.1二分類邏輯回歸應(yīng)用實例
3.4.2多分類邏輯回歸應(yīng)用實例
3.5小結(jié)
思考題
第4章KNN算法
4.1KNN算法簡介
4.1.1KNN算法原理
4.1.2KNN算法應(yīng)用舉例
4.2KNN算法的特點及改進
4.2.1KNN算法的特點
4.2.2KNN算法的改進策略
4.3KNN源代碼結(jié)果分析
4.4基于阿里云數(shù)加平臺的KNN算法應(yīng)用實例
4.5小結(jié)
思考題
第5章樸素貝葉斯分類算法
5.1基本概念
5.1.1主觀概率
5.1.2貝葉斯定理
5.1.3樸素貝葉斯分類模型
5.1.4樸素貝葉斯分類器實例分析
5.2樸素貝葉斯算法的特點及應(yīng)用
5.2.1樸素貝葉斯算法的特點
5.2.2樸素貝葉斯算法的應(yīng)用場景
5.3樸素貝葉斯源代碼結(jié)果分析
5.4基于阿里云數(shù)加平臺的樸素貝葉斯實例
5.5小結(jié)
思考題
第6章隨機森林分類算法
6.1隨機森林算法簡介
6.1.1隨機森林算法原理
6.1.2隨機森林算法應(yīng)用舉例
6.2隨機森林算法的特點及應(yīng)用
6.2.1隨機森林算法的特點
6.2.2隨機森林算法的應(yīng)用
6.3隨機森林算法源程序結(jié)果分析
6.4基于阿里云數(shù)加平臺的隨機森林分類實例
6.5小結(jié)
思考題
第7章支持向量機
7.1基本概念
7.1.1支持向量機理論基礎(chǔ)
7.1.2統(tǒng)計學(xué)習(xí)核心理論
7.1.3學(xué)習(xí)過程的一致性條件
7.1.4函數(shù)集的VC維
7.1.5泛化誤差界
7.1.6結(jié)構(gòu)風(fēng)險最小化歸納原理
7.2支持向量機原理
7.2.1支持向量機核心理論
7.2.2最大間隔分類超平面
7.2.3支持向量機
7.2.4核函數(shù)分類
7.3支持向量機的特點及應(yīng)用
7.3.1支持向量機的特點
7.3.2支持向量機的應(yīng)用
7.4支持向量機分類實例分析
7.5基于阿里云數(shù)加平臺的支持向量機分類實例
7.6小結(jié)
思考題
第8章Kmeans聚類算法
8.1Kmeans聚類算法原理
8.1.1Kmeans聚類算法原理解析
8.1.2Kmeans聚類算法應(yīng)用舉例
8.2Kmeans聚類算法的特點及應(yīng)用
8.2.1Kmeans聚類算法的特點
8.2.2Kmeans聚類算法的應(yīng)用
8.3K均值聚類算法源程序結(jié)果分析
8.4基于阿里云數(shù)加平臺的K均值聚類算法實例
8.5基于MaxCompute Graph模型的Kmeans算法源程序分析
8.6小結(jié)
思考題
第三篇綜合應(yīng)用篇
第9章社交網(wǎng)絡(luò)分析方法及應(yīng)用
9.1社交網(wǎng)絡(luò)簡介
9.2K核方法
9.2.1K核方法原理
9.2.2基于阿里云數(shù)加平臺的K核方法實例
9.3單源最短路徑方法
9.3.1單源最短路徑方法原理
9.3.2基于阿里云數(shù)加平臺的單源最短路徑方法實例
9.4PageRank算法
9.4.1PageRank算法原理
9.4.2PageRank算法的特點及應(yīng)用
9.4.3基于阿里云數(shù)加平臺的PageRank算法實例
9.5標(biāo)簽傳播算法
9.5.1標(biāo)簽傳播算法原理
9.5.2基于阿里云數(shù)加平臺的標(biāo)簽傳播聚類應(yīng)用實例
9.6最大聯(lián)通子圖算法
9.7聚類系數(shù)算法
9.7.1聚類系數(shù)算法原理
9.7.2基于阿里云數(shù)加平臺的聚類系數(shù)算法應(yīng)用實例
9.8基于阿里云數(shù)加平臺的社交網(wǎng)絡(luò)分析實例
9.9小結(jié)
思考題
第10章文本分析方法及應(yīng)用
10.1文本分析簡介
10.2TFIDF方法
10.3中文分詞方法
10.3.1基于字典或詞庫匹配的分詞方法
10.3.2基于詞的頻度統(tǒng)計的分詞方法
10.3.3其他中文分詞方法
10.4PLDA方法
10.4.1主題模型
10.4.2PLDA方法原理
10.5Word2Vec基本原理
10.5.1詞向量的表示方式
10.5.2統(tǒng)計語言模型
10.5.3霍夫曼編碼
10.5.4Word2Vec原理簡介
10.6基于阿里云數(shù)加平臺的文本分析實例
10.7小結(jié)
思考題
第11章推薦系統(tǒng)方法及應(yīng)用
11.1推薦系統(tǒng)簡介
11.2基于內(nèi)容的推薦算法
11.2.1基于內(nèi)容的推薦算法原理
11.2.2基于內(nèi)容的推薦算法的特點
11.3協(xié)同過濾推薦算法
11.3.1協(xié)同過濾推薦算法簡介
11.3.2協(xié)同過濾推薦算法的特點
11.4混合推薦算法
11.5基于阿里云數(shù)加平臺的推薦算法實例
11.6小結(jié)
思考題
參考文獻