本書全面介紹了圖神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)和前沿內(nèi)容,以及圖表示學(xué)習(xí)的基本概念和定義,并討論了高級(jí)圖表示學(xué)習(xí)方法的發(fā)展,旨在幫助研究人員和從業(yè)者了解圖神經(jīng)網(wǎng)絡(luò)的基本問題。此外,本書探討了圖神經(jīng)網(wǎng)絡(luò)的幾個(gè)前沿主題,包括利用圖數(shù)據(jù)描述社會(huì)科學(xué)、化學(xué)和生物學(xué)等領(lǐng)域的真實(shí)數(shù)據(jù)的關(guān)系,還介紹了圖神經(jīng)網(wǎng)絡(luò)的若干前沿趨勢(shì),能夠幫助讀者進(jìn)一步掌握?qǐng)D神經(jīng)網(wǎng)絡(luò)所涉及的技術(shù)。
本書適合所有想了解圖神經(jīng)網(wǎng)絡(luò)基本問題和技術(shù)的人,包括但不限于高等院校計(jì)算機(jī)專業(yè)高年級(jí)本科生及研究生、科研人員以及相關(guān)從業(yè)者。
1. 本書全面介紹了圖神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)和前沿內(nèi)容,以及圖表示學(xué)習(xí)的基本概念和定義,并討論了高級(jí)圖表示學(xué)習(xí)方法的發(fā)展;
2. 國(guó)內(nèi)圖領(lǐng)域研究領(lǐng)域優(yōu)秀團(tuán)隊(duì)核心成員共同編寫,適合所有想了解圖神經(jīng)網(wǎng)絡(luò)基本問題和技術(shù)的人,包括但不限于高等院校計(jì)算機(jī)專業(yè)高年級(jí)本科生及研究生、科研人員以及相關(guān)從業(yè)者。
3. 涵蓋圖神經(jīng)網(wǎng)絡(luò)的幾個(gè)前沿主題,例如利用圖數(shù)據(jù)描述社會(huì)科學(xué)、化學(xué)和生物學(xué)等領(lǐng)域的真實(shí)數(shù)據(jù)的關(guān)系等。
石川 北京郵電大學(xué)教授,智能通信軟件與多媒體北京市重點(diǎn)實(shí)驗(yàn)室副主任。主要研究方向?yàn)閿?shù)據(jù)挖掘、機(jī)器學(xué)習(xí)、人工智能和大數(shù)據(jù)分析。近 5 年來,以第一作者或通訊作者的身份在 CCF A 類期刊和相關(guān)會(huì)議上發(fā)表論文 60 余篇,出版中、英文專著 5 部。相關(guān)研究成果廣泛應(yīng)用于頭部 IT 企業(yè)。獲得中國(guó)電子學(xué)會(huì)科學(xué)技術(shù)科技進(jìn)步獎(jiǎng)一等獎(jiǎng)、北京市自然科學(xué)二等獎(jiǎng)。
王嘯 北京航空航天大學(xué)教授,博士生導(dǎo)師。研究方向?yàn)閿?shù)據(jù)挖掘與機(jī)器學(xué)習(xí)。主持國(guó)家自然科學(xué)基金優(yōu)秀青年基金等項(xiàng)目,發(fā)表論文 100 余篇,3 次獲得 / 提名 CCF A/B 類等國(guó)際會(huì)議論文獎(jiǎng)。榮獲教育部自然科學(xué)獎(jiǎng)一等獎(jiǎng)、中國(guó)電子學(xué)會(huì)科學(xué)技術(shù)進(jìn)步獎(jiǎng)一等獎(jiǎng)、吳文俊人工智能優(yōu)秀青年獎(jiǎng)和 ACM 中國(guó)新星提名獎(jiǎng)。曾入選斯坦福大學(xué)發(fā)布的“全球前 2% 頂尖科學(xué)家”和 AMiner 評(píng)選的“AI 2000 最具影響力學(xué)者”。
楊成 北京郵電大學(xué)副教授,研究方向?yàn)閿?shù)據(jù)挖掘和自然語言處理。發(fā)表相關(guān)領(lǐng)域 CCF A/B 類論文 50 余篇,相關(guān)成果獲得教育部自然科學(xué)獎(jiǎng)一等獎(jiǎng)。曾獲中文信息學(xué)會(huì)優(yōu)秀博士論文獎(jiǎng),入選 AMiner 評(píng)選的“AI 2000 最具影響力學(xué)者”和百度發(fā)布的首屆“AI 華人青年學(xué)者百強(qiáng)”榜單。
第 1 章 概述 1
1.1 基本概念 1
1.1.1 圖的定義和屬性 1
1.1.2 復(fù)雜圖 3
1.1.3 圖上的計(jì)算任務(wù) 5
1.2 圖神經(jīng)網(wǎng)絡(luò)的發(fā)展 6
1.2.1 圖表示學(xué)習(xí)的歷史 6
1.2.2 圖神經(jīng)網(wǎng)絡(luò)的前沿 7
1.3 本書的組織結(jié)構(gòu) 8
第 2 章 基礎(chǔ)圖神經(jīng)網(wǎng)絡(luò) 10
2.1 引言 10
2.2 圖卷積網(wǎng)絡(luò) 11
2.2.1 概述 11
2.2.2 GCN 模型 12
2.3 歸納式圖卷積網(wǎng)絡(luò) 13
2.3.1 概述 14
2.3.2 GraphSAGE 模型 14
2.4 圖注意力網(wǎng)絡(luò) 16
2.4.1 概述 17
2.4.2 GAT 模型 17
2.5 異質(zhì)圖注意力網(wǎng)絡(luò) 19
2.5.1 概述 19
2.5.2 HAN 模型 19
第 3 章 同質(zhì)圖神經(jīng)網(wǎng)絡(luò) 23
3.1 引言 23
3.2 自適應(yīng)多通道圖卷積網(wǎng)絡(luò) 24
3.2.1 概述 24
3.2.2 實(shí)驗(yàn)觀察 24
3.2.3 AM-GCN 模型 25
3.2.4 實(shí)驗(yàn) 30
3.3 融合高低頻信息的圖卷積網(wǎng)絡(luò) 32
3.3.1 概述 32
3.3.2 實(shí)驗(yàn)觀察 32
3.3.3 FAGCN 模型 33
3.3.4 實(shí)驗(yàn) 35
3.4 圖結(jié)構(gòu)估計(jì)神經(jīng)網(wǎng)絡(luò) 37
3.4.1 概述 37
3.4.2 GEM 模型 37
3.4.3 實(shí)驗(yàn) 43
3.5 基于統(tǒng)一優(yōu)化框架的圖神經(jīng)網(wǎng)絡(luò) 44
3.5.1 概述 44
3.5.2 預(yù)備知識(shí) 45
3.5.3 GNN-LF/HF 模型 46
3.5.4 實(shí)驗(yàn) 50
3.6 本章小結(jié) 51
3.7 擴(kuò)展閱讀 51
第 4 章 異質(zhì)圖神經(jīng)網(wǎng)絡(luò) 53
4.1 引言 53
4.2 異質(zhì)圖傳播網(wǎng)絡(luò)54
4.2.1 概述 54
4.2.2 HPN 模型 55
4.2.3 實(shí)驗(yàn) 58
4.3 基于距離編碼的異質(zhì)圖神經(jīng)網(wǎng)絡(luò) 60
4.3.1 概述 60
4.3.2 DHN 模型 61
4.3.3 實(shí)驗(yàn) 64
4.4 基于協(xié)同對(duì)比學(xué)習(xí)的自監(jiān)督異質(zhì)圖神經(jīng)網(wǎng)絡(luò) 66
4.4.1 概述 66
4.4.2 HeCo 模型 66
4.4.3 實(shí)驗(yàn) 71
4.5 本章小結(jié) 73
4.6 擴(kuò)展閱讀 74
第 5 章 動(dòng)態(tài)圖神經(jīng)網(wǎng)絡(luò) 75
5.1 引言 75
5.2 基于微觀禿旯鄱緣耐急硎狙� 75
5.2.1 概述 75
5.2.2 M2DNE 模型 76
5.2.3 實(shí)驗(yàn) 79
5.3 基于異質(zhì)霍克斯過程的動(dòng)態(tài)異質(zhì)圖表示學(xué)習(xí) 81
5.3.1 概述 81
5.3.2 HPGE 模型 82
5.3.3 實(shí)驗(yàn) 85
5.4 基于動(dòng)態(tài)元路徑的時(shí)序異質(zhì)圖神經(jīng)網(wǎng)絡(luò) 87
5.4.1 概述 87
5.4.2 DyMGNN 模型 88
5.4.3 實(shí)驗(yàn) 91
5.5 本章小結(jié) 93
5.6 擴(kuò)展閱讀 93
第 6 章 雙曲圖神經(jīng)網(wǎng)絡(luò) 94
6.1 引言 94
6.2 雙曲圖注意力網(wǎng)絡(luò) 95
6.2.1 概述 95
6.2.2 HAT 模型 95
6.2.3 實(shí)驗(yàn) 99
6.3 洛倫茲圖卷積網(wǎng)絡(luò) 101
6.3.1 概述 101
6.3.2 LGCN 模型 101
6.3.3 實(shí)驗(yàn) 104
6.4 雙曲異質(zhì)圖表示 106
6.4.1 概述 106
6.4.2 HHNE 模型 107
6.4.3 實(shí)驗(yàn) 109
6.5 本章小結(jié) 112
6.6 擴(kuò)展閱讀 112
第 7 章 圖神經(jīng)網(wǎng)絡(luò)的知識(shí)蒸餾 113
7.1 引言 113
7.2 圖神經(jīng)網(wǎng)絡(luò)的先驗(yàn)知識(shí)蒸餾 114
7.2.1 概述 114
7.2.2 CPF 框架 114
7.2.3 實(shí)驗(yàn) 117
7.3 溫度自適應(yīng)的圖神經(jīng)網(wǎng)絡(luò)知識(shí)蒸餾 119
7.3.1 概述 119
7.3.2 LTD 框架 120
7.3.3 實(shí)驗(yàn) 123
7.4 圖神經(jīng)網(wǎng)絡(luò)的無數(shù)據(jù)對(duì)抗知識(shí)蒸餾 124
7.4.1 概述 124
7.4.2 DFAD-GNN 框架 124
7.4.3 實(shí)驗(yàn) 127
7.5 本章小結(jié) 129
7.6 擴(kuò)展閱讀 130
第 8 章 圖神經(jīng)網(wǎng)絡(luò)平臺(tái)和實(shí)踐 131
8.1 引言 131
8.2 基礎(chǔ)知識(shí) 132
8.2.1 深度學(xué)習(xí)平臺(tái) 132
8.2.2 圖神經(jīng)網(wǎng)絡(luò)平臺(tái) 136
8.2.3 GammaGL 平臺(tái) 139
8.3 圖神經(jīng)網(wǎng)絡(luò)在 GammaGL 上的實(shí)踐 142
8.3.1 創(chuàng)建自己的圖 142
8.3.2 創(chuàng)建消息傳遞網(wǎng)絡(luò) 144
8.3.3 高級(jí)小批量 146
8.3.4 GIN 實(shí)踐 146
8.3.5 GraphSAGE 實(shí)踐 148
8.3.6 HAN 實(shí)踐 151
8.4 本章小結(jié) 153
第 9 章 未來方向和總結(jié) 154
9.1 未來方向 154
9.1.1 自監(jiān)督學(xué)習(xí) 154
9.1.2 魯棒性 154
9.1.3 可解釋性 155
9.1.4 公平性 156
9.1.5 自然科學(xué)應(yīng)用 156
9.2 總結(jié) 157
參考文獻(xiàn) 159