目錄
前言
符號(hào)表
第1章 引言 1
1.1 簡(jiǎn)介 1
1.2 貝葉斯統(tǒng)計(jì) 4
1.2.1 基本概念 4
1.2.2 貝葉斯推斷 8
1.3 本書主要內(nèi)容 10
1.4 Python、R與Julia編程環(huán)境搭建 10
1.4.1 Python環(huán)境搭建 10
1.4.2 R 環(huán)境搭建 15
1.4.3 Julia 環(huán)境搭建 21
第2章 概率論基礎(chǔ) 29
2.1 事件、劃分和概率 29
2.1.1 事件與劃分 29
2.1.2 概率函數(shù) 30
2.1.3 條件概率 31
2.1.4 信念函數(shù) 33
2.2 隨機(jī)變量及其分布 34
2.2.1 離散型隨機(jī)變量 34
2.2.2 連續(xù)型隨機(jī)變量 37
2.2.3 指數(shù)族 47
2.3 多維隨機(jī)變量及其分布 48
2.3.1 多維隨機(jī)變量的聯(lián)合分布 48
2.3.2 邊際分布與隨機(jī)變量的獨(dú)立性 49
2.3.3 條件分布 51
2.3.4 常見(jiàn)的多維隨機(jī)變量——多元正態(tài)分布 51
2.4 隨機(jī)變量的特征數(shù) 52
2.4.1 一維隨機(jī)變量的期望與方差 52
2.4.2 n 維隨機(jī)變量的期望與協(xié)方差矩陣 54
2.4.3 常用概率分布及其期望與方差 55
2.5 習(xí)題 57
第3章 貝葉斯推斷基礎(chǔ) 59
3.1 條件方法 59
3.2 后驗(yàn)分布的計(jì)算 60
3.3 點(diǎn)估計(jì) 60
3.3.1 矩估計(jì) 60
3.3.2 極大似然估計(jì) 63
3.3.3 貝葉斯估計(jì) 67
3.3.4 常用概率分布的參數(shù)估計(jì) 73
3.4 區(qū)間估計(jì) 73
3.4.1 可信區(qū)間 73
3.4.2 最大后驗(yàn)密度可信區(qū)間 77
3.5 假設(shè)檢驗(yàn) 81
3.5.1 貝葉斯假設(shè)檢驗(yàn)與貝葉斯因子 82
3.5.2 簡(jiǎn)單假設(shè)對(duì)簡(jiǎn)單假設(shè) 82
3.5.3 復(fù)雜假設(shè)對(duì)復(fù)雜假設(shè) 83
3.5.4 簡(jiǎn)單原假設(shè)對(duì)復(fù)雜備擇假設(shè) 86
3.6 預(yù)測(cè) 92
3.6.1 預(yù)測(cè)原理 92
3.6.2 統(tǒng)計(jì)預(yù)測(cè)示例 93
3.7 似然原理 96
3.8 Python、R與Julia的貝葉斯統(tǒng)計(jì)庫(kù)介紹與應(yīng)用 100
3.8.1 Python的貝葉斯統(tǒng)計(jì)庫(kù)介紹與應(yīng)用 100
3.8.2 R的貝葉斯統(tǒng)計(jì)庫(kù)介紹與應(yīng)用 102
3.8.3 Julia的貝葉斯統(tǒng)計(jì)庫(kù)介紹與應(yīng)用 103
3.9 習(xí)題 104
第4章 先驗(yàn)分布的確定 106
4.1 共軛先驗(yàn)分布 106
4.1.1 共軛先驗(yàn)分布的定義 106
4.1.2 一些關(guān)于共軛先驗(yàn)分布的結(jié)論 108
4.1.3 常用的共軛先驗(yàn)分布 109
4.2 主觀概率 111
4.2.1 引言及定義 111
4.2.2 確定主觀概率的方法 111
4.3 利用先驗(yàn)信息確定先驗(yàn)分布 112
4.3.1 直方圖法 112
4.3.2 選定先驗(yàn)密度函數(shù)形式再估計(jì)其超參數(shù) 113
4.3.3 定分度法與變分度法 114
4.4 無(wú)信息先驗(yàn)分布 115
4.4.1 貝葉斯假設(shè) 115
4.4.2 位置參數(shù)的無(wú)信息先驗(yàn) 116
4.4.3 尺度參數(shù)的無(wú)信息先驗(yàn) 117
4.4.4 Jeffreys先驗(yàn).119
4.4.5 Reference先驗(yàn) 121
4.5 有信息先驗(yàn)分布 122
4.5.1 指數(shù)先驗(yàn) 122
4.5.2 導(dǎo)出先驗(yàn) 123
4.5.3 最大熵先驗(yàn) 123
4.5.4 混合共軛先驗(yàn) 127
4.6 分層先驗(yàn) 128
4.7 習(xí)題 130
第5章 貝葉斯計(jì)算 131
5.1 馬爾可夫鏈蒙特卡羅方法介紹 131
5.1.1 蒙特卡羅法 131
5.1.2 馬爾可夫鏈 135
5.1.3 MCMC 138
5.2 貝葉斯分析中的直接抽樣方法 139
5.2.1 格子點(diǎn)抽樣法 139
5.2.2 多參數(shù)模型中的抽樣 141
5.3 Gibbs抽樣 148
5.3.1 二階段Gibbs抽樣 148
5.3.2 多階段Gibbs抽樣 151
5.4 Metropolis-Hastings算法 154
5.4.1 Metropolis抽樣 156
5.4.2 隨機(jī)游動(dòng)Metropolis抽樣 158
5.4.3 獨(dú)立性抽樣法 159
5.4.4 逐分量MH算法 161
5.5 哈密頓蒙特卡羅方法162
5.5.1 哈密頓動(dòng)力學(xué)和目標(biāo)分布 162
5.5.2 HMC 164
5.6 MCMC收斂性診斷 169
5.6.1 收斂性診斷圖 170
5.6.2 收斂性指標(biāo) 171
5.7 使用 Python、R與Julia實(shí)現(xiàn)MCMC 171
5.8 習(xí)題 178
第6章 貝葉斯線性模型 180
6.1 線性回歸模型 180
6.1.1 正態(tài)線性回歸模型 180
6.1.2 似不相關(guān)回歸模型 184
6.1.3 泊松回歸模型 184
6.2 回歸模型的貝葉斯估計(jì) 186
6.2.1 Jefferys先驗(yàn) 186
6.2.2 半共軛先驗(yàn)分布 187
6.2.3 無(wú)信息先驗(yàn)和弱信息先驗(yàn)分布 188
6.2.4 廣義線性模型的有信息先驗(yàn)分布 193
6.3 其他統(tǒng)計(jì)模型中的貝葉斯方法 204
6.3.1 非參數(shù)回歸 204
6.3.2 異方差模型 206
6.3.3 非正態(tài)誤差模型 207
6.4 習(xí)題 209
第7章 貝葉斯神經(jīng)網(wǎng)絡(luò) 210
7.1 神經(jīng)網(wǎng)絡(luò) 210
7.2 貝葉斯神經(jīng)網(wǎng)絡(luò) 212
7.3 推斷方法 214
7.3.1 變分推斷 214
7.3.2 蒙特卡羅推斷 215
7.4 使用 Python、R與Julia構(gòu)建貝葉斯神經(jīng)網(wǎng)絡(luò) 217
7.4.1 使用Python構(gòu)建貝葉斯神經(jīng)網(wǎng)絡(luò).217
7.4.2 使用R構(gòu)建貝葉斯前饋神經(jīng)網(wǎng)絡(luò) 222
7.4.3 使用Julia構(gòu)建貝葉斯神經(jīng)網(wǎng)絡(luò) 228
7.5 習(xí)題 231
第8章 模型選擇與診斷 233
8.1 模型擬合能力的指標(biāo) 233
8.1.1 AIC 234
8.1.2 WAIC 235
8.1.3 DIC 235
8.1.4 BIC 237
8.2 模型預(yù)測(cè)能力的指標(biāo) 245
8.2.1 交叉驗(yàn)證 245
8.2.2 對(duì)數(shù)偽邊際似然 247
8.3 貝葉斯框架下特有指標(biāo) 250
8.3.1 貝葉斯p-值 250
8.3.2 貝葉斯因子 252
8.4 收縮先驗(yàn) 253
8.4.1 spike-and-slab先驗(yàn) 253
8.4.2 連續(xù)收縮先驗(yàn) 258
8.5 習(xí)題 267
第9章 實(shí)際案例與應(yīng)用 269
9.1 貝葉斯統(tǒng)計(jì)在生態(tài)學(xué)中的應(yīng)用 269
9.1.1 貝葉斯分層模型 269
9.1.2 利用貝葉斯分層模型估計(jì)物種分布 271
9.1.3 模型及算法實(shí)現(xiàn) 273
9.1.4 結(jié)果分析 276
9.2 貝葉斯統(tǒng)計(jì)在生存分析中的應(yīng)用 278
9.2.1 潛高斯模型 278
9.2.2 變量的邊際分布 279
9.2.3 Cox比例風(fēng)險(xiǎn)模型下的INLA 282
9.3 貝葉斯統(tǒng)計(jì)在教育測(cè)量中的應(yīng)用 287
9.3.1 貝葉斯IRT模型 287
9.3.2 潛在類別模型 288
9.3.3 模型與算法實(shí)現(xiàn) 290
9.3.4 結(jié)果分析 296
參考文獻(xiàn) 298