目　錄

第一部分　HBase基礎(chǔ)

第1章　HBase介紹　3
1.1　數(shù)據(jù)管理系統(tǒng)：速成　4
1.1.1　你好，大數(shù)據(jù)　5
1.1.2　數(shù)據(jù)創(chuàng)新　6
1.1.3　HBase的崛起　7
1.2　HBase使用場景和成功案例　8
1.2.1　典型互聯(lián)網(wǎng)搜索問題：BigTable發(fā)明的原因　8
1.2.2　抓取增量數(shù)據(jù)　9
1.2.3　內(nèi)容服務(wù)　12
1.2.4　信息交換　13
1.3　你好HBase　14 目　錄

第一部分　HBase基礎(chǔ)

第1章　HBase介紹　3
1.1　數(shù)據(jù)管理系統(tǒng)：速成　4
1.1.1　你好，大數(shù)據(jù)　5
1.1.2　數(shù)據(jù)創(chuàng)新　6
1.1.3　HBase的崛起　7
1.2　HBase使用場景和成功案例　8
1.2.1　典型互聯(lián)網(wǎng)搜索問題：BigTable發(fā)明的原因　8
1.2.2　抓取增量數(shù)據(jù)　9
1.2.3　內(nèi)容服務(wù)　12
1.2.4　信息交換　13
1.3　你好HBase　14
1.3.1　快速安裝　14
1.3.2　HBase Shell命令行交互　16
1.3.3　存儲(chǔ)數(shù)據(jù)　17
1.4　小結(jié)　18

第2章　入門　20
2.1　從頭開始　21
2.1.1　創(chuàng)建表　21
2.1.2　檢查表模式　22
2.1.3　建立連接　22
2.1.4　連接管理　23
2.2　數(shù)據(jù)操作　23
2.2.1　存儲(chǔ)數(shù)據(jù)　24
2.2.2　修改數(shù)據(jù)　25
2.2.3　工作機(jī)制：HBase寫路徑　25
2.2.4　讀數(shù)據(jù)　26
2.2.5　工作機(jī)制：HBase讀路徑　27
2.2.6　刪除數(shù)據(jù)　28
2.2.7　合并：HBase的后臺(tái)工作　28
2.2.8　有時(shí)間版本的數(shù)據(jù)　29
2.2.9　數(shù)據(jù)模型概括　30
2.3　數(shù)據(jù)坐標(biāo)　31
2.4　小結(jié)　33
2.5　數(shù)據(jù)模型　37
2.5.1　邏輯模型：有序映射的映射集合　37
2.5.2　物理模型：面向列族　39
2.6　表掃描　40
2.6.1　設(shè)計(jì)用于掃描的表　41
2.6.2　執(zhí)行掃描　42
2.6.3　掃描器緩存　43
2.6.4　使用過濾器　43
2.7　原子操作　44
2.8　ACID語義　45
2.9　小結(jié)　46

第3章　分布式的HBase、HDFS和MapReduce　48
3.1　一個(gè)MapReduce的例子　49
3.1.1　延遲與吞吐量　49
3.1.2　串行計(jì)算吞吐量有限　50
3.1.3　并行計(jì)算提高吞吐量　50
3.1.4　MapReduce：用布式計(jì)算最大化吞吐量　51
3.2　Hadoop　MapReduce概覽　52
3.2.1　MapReduce數(shù)據(jù)流介紹　53
3.2.2　MapReduce內(nèi)部機(jī)制　57
3.3　分布式模式的HBase　58
3.3.1　切分和分配大表　58
3.3.2　如何找到region　61
3.3.3　如何找到–ROOT–表　62
3.4　HBase和MapReduce　64
3.4.1　使用HBase作為數(shù)據(jù)源　64
3.4.2　使用HBase接收數(shù)據(jù)　66
3.4.3　使用HBase共享資源　67
3.5　信息匯總　71
3.5.1　編寫MapReduce應(yīng)用　72
3.5.2　運(yùn)行MapReduce應(yīng)用　73
3.6　大規(guī)模條件下的可用性和可靠性　74
3.6.1　HDFS作為底層存儲(chǔ)　75
3.7　小結(jié)　77

第二部分　高級(jí)概念

第4章　HBase表設(shè)計(jì)　81
4.1　如何開始模式設(shè)計(jì)　82
4.1.1　問題建�！�82
4.1.2　需求定義：提前多做準(zhǔn)備工作總是有好處的　84
4.1.3　均衡分布數(shù)據(jù)和負(fù)載的建模方法　87
4.1.4　目標(biāo)數(shù)據(jù)訪問　93
4.2　反規(guī)范化是HBase世界里的詞語　95
4.3　相同表里的混雜數(shù)據(jù)　97
4.4　行鍵設(shè)計(jì)策略　98
4.5　IO考慮　99
4.5.1　為寫優(yōu)化　99
4.5.2　為讀優(yōu)化　101
4.5.3　基數(shù)和行鍵結(jié)構(gòu)　101
4.6　從關(guān)系型到非關(guān)系型　102
4.6.1　一些基本概念　103
4.6.2　嵌套實(shí)體　105
4.6.3　沒有映射到的一些東西　106
4.7　列族高級(jí)配置　107
4.7.1　可配置的數(shù)據(jù)塊大小　107
4.7.2　數(shù)據(jù)塊緩存　108
4.7.3　激進(jìn)緩存　108
4.7.4　布隆過濾器　108
4.7.5　生存時(shí)間(TTL)　109
4.7.6　壓縮　110
4.7.7　單元時(shí)間版本　110
4.8　過濾數(shù)據(jù)　111
4.8.1　實(shí)現(xiàn)一個(gè)過濾器　113
4.8.2　預(yù)裝過濾器　115
4.9　小結(jié)　118

第5章　使用協(xié)處理器擴(kuò)展HBase　120
5.1　兩種協(xié)處理器　121
5.1.1　Observer協(xié)處理器　121
5.1.2　endpoint協(xié)處理器　123
5.2　實(shí)現(xiàn)一個(gè)observer　124
5.2.1　修改模式　124
5.2.2　從HBase開始　126
5.2.3　安裝observer　128
5.2.4　其他安裝選項(xiàng)　130
5.3　實(shí)現(xiàn)一個(gè)endpoint　131
5.3.1　為endpoint定義接口　131
5.3.2　實(shí)現(xiàn)endpoint服務(wù)器　132
5.3.3　實(shí)現(xiàn)endpoint客戶端　133
5.3.4　部署endpoint服務(wù)器　135
5.3.5　試運(yùn)行　136
5.4　小結(jié)　136

第6章　其他的HBase客戶端選擇　137
6.1　在UNIX里使用HBase Shell腳本　138
6.1.1　準(zhǔn)備HBase Shell　138
6.1.2　使用UNIX Shell腳本創(chuàng)建表模式　139
6.2　使用JRuby進(jìn)行HBase Shell編程　141
6.2.1　準(zhǔn)備HBase Shell　141
6.2.2　訪問TwitBase的users表　142
6.3　通過REST訪問HBase　144
6.3.1　啟動(dòng)HBase REST服務(wù)　145
6.3.2　訪問TwitBase的users表　146
6.4　通過Python使用HBase Thrift網(wǎng)關(guān)　149
6.4.1　生成Python語言的HBase Thrift客戶端庫　151
6.4.2　啟動(dòng)HBase Thrift服務(wù)　152
6.4.3　掃描TwitBaseuser表　153
6.5　asynchbase：另外一種HBase Java客戶端　156
6.5.1　創(chuàng)建一個(gè)asynchbase項(xiàng)目　157
6.5.2　改變TwitBase的密碼策略　159
6.5.3　試運(yùn)行　171
6.6　小結(jié)　172

第三部分　應(yīng)用系統(tǒng)實(shí)例

第7章　通過實(shí)例學(xué)習(xí)HBase：OpenTSDB　175
7.1　OpenTSDB概述　176
7.1.1　挑戰(zhàn)：基礎(chǔ)設(shè)施監(jiān)控　177
7.1.2　數(shù)據(jù)：時(shí)間序列　178
7.1.3　存儲(chǔ)：HBase　179
7.2　設(shè)計(jì)一個(gè)HBase應(yīng)用系統(tǒng)　180
7.2.1　模式設(shè)計(jì)　180
7.2.2　應(yīng)用架構(gòu)　184
7.3　實(shí)現(xiàn)一個(gè)HBase應(yīng)用系統(tǒng)　187
7.3.1　存儲(chǔ)數(shù)據(jù)　187
7.3.2　查詢數(shù)據(jù)　192
7.4　小結(jié)　196

第8章　在HBase上查詢地理信息系統(tǒng)　197
8.1　運(yùn)用地理數(shù)據(jù)　197
8.2　設(shè)計(jì)一個(gè)空間索引　199
8.2.1　從復(fù)合行鍵開始　201
8.2.2　介紹geohash　202
8.2.3　理解geohash　205
8.2.4　在有空間感知特性的行鍵里使用geohash　206
8.3　實(shí)現(xiàn)最近鄰居查詢　210
8.4　把計(jì)算工作推往服務(wù)器端　215
8.4.1　基于查詢多邊形創(chuàng)建一次geohash掃描　217
8.4.2　區(qū)域內(nèi)查詢第一幕：客戶端　222
8.4.3　區(qū)域內(nèi)查詢第二幕：WithinFilter　224
8.5　小結(jié)　228

第四部分　讓HBase運(yùn)轉(zhuǎn)起來

第9章　部署HBase　233
9.1　規(guī)劃集群　234
9.1.1　原型集群　235
9.1.2　小型生產(chǎn)集群(10～20臺(tái)服務(wù)器)　235
9.1.3　中型生產(chǎn)集群(50臺(tái)以下服務(wù)器)　236
9.1.4　大型生產(chǎn)集群(超過50臺(tái)服務(wù)器)　237
9.1.5　Hadoop Master節(jié)點(diǎn)　237
9.1.6　HBase Master　238
9.1.7　Hadoop DataNode和HBase RegionServer　238
9.1.8　ZooKeeper　239
9.1.9　采用云服務(wù)怎么樣？　240
9.2　部署軟件　242
9.2.1　Whirr：在云端部署　242
9.3　發(fā)行版本　244
9.3.1　使用原生Apache發(fā)行版本　244
9.3.2　使用Cloudera的CDH發(fā)行版本　245
9.4　配置　246
9.4.1　HBase配置　246
9.4.2　與HBase有關(guān)的Hadoop配置參數(shù)　252
9.4.3　操作系統(tǒng)配置　253
9.5　管理守護(hù)進(jìn)程　254
9.6　小結(jié)　255

第10章　運(yùn)維　256
10.1　監(jiān)控你的集群　257
10.1.1　HBase如何輸出監(jiān)控指標(biāo)　257
10.1.2　收集監(jiān)控指標(biāo)和圖形展示　258
10.1.3　HBase輸出的監(jiān)控指標(biāo)　260
10.1.4　應(yīng)用端監(jiān)控　264
10.2　HBase集群的性能　265
10.2.1　性能測(cè)試　265
10.2.2　什么影響了HBase的性能　268
10.2.3　優(yōu)化支撐系統(tǒng)　269
10.2.4　優(yōu)化HBase　270
10.3　集群管理　274
10.3.1　啟動(dòng)和停止HBase　274
10.3.2　優(yōu)雅停止和讓節(jié)點(diǎn)退役　275
10.3.3　增加節(jié)點(diǎn)　276
10.3.4　滾動(dòng)重啟和升級(jí)　276
10.3.5　bin/hbase和HbaseShell　277
10.3.6　維護(hù)一致性——hbck　283
10.3.7　查看HFile和HLog　286
10.3.8　預(yù)先拆分表　288
10.4　備份和復(fù)制　290
10.4.1　集群間復(fù)制　290
10.4.2　使用MapReduce作業(yè)進(jìn)行備份　294
10.4.3　備份根目錄　298
10.5　小結(jié)　299

附錄A　探索HBase系統(tǒng)　300
附錄B　更多關(guān)于HDFS的工作原理　307