《信息論和編碼理論》介紹信息論和編碼理論,包括信息論中仙農(nóng)的幾個(gè)重要定理,如:信源的熵、信息的壓縮、信息論中的信道編碼定理、信息論在實(shí)際信道中的應(yīng)用實(shí)例;最后介紹幾類有廣泛用途的線性碼,包括線性等重碼、一類二重量碼及編碼理論中的極大距離可分碼(簡(jiǎn)稱MDS碼)。
《信息論和編碼理論》內(nèi)容結(jié)構(gòu)嚴(yán)謹(jǐn),注重信息論和糾錯(cuò)編碼理論的相互統(tǒng)一。
《信息論和編碼理論》可作為高等院校數(shù)學(xué)系高年級(jí)本科生和低年級(jí)研究生的教材,也可作為信息工程類專業(yè)學(xué)生的參考用書。
信息論和編碼理論是隨著計(jì)算機(jī)和通信技術(shù)的發(fā)展而興起的新學(xué)科。1948年,美國(guó)人仙農(nóng)在論文中詳細(xì)闡述了通信中的數(shù)學(xué)理論,引起了通信領(lǐng)域的重大理論突破,奠定了信息論的基礎(chǔ)。仙農(nóng)給出的信道編碼定理極大地促進(jìn)了編碼理論的發(fā)展,信息的傳輸也自然涉及信息的安全,從而又促進(jìn)了密碼學(xué)的發(fā)展。信息論、編碼理論可以看成計(jì)算機(jī)、通信和數(shù)學(xué)的交叉學(xué)科,有著很強(qiáng)的實(shí)際背景,同時(shí)又是廣泛應(yīng)用數(shù)學(xué)理論的系統(tǒng)科學(xué)。當(dāng)前信息論、編碼理論與密碼學(xué)已發(fā)展成密切聯(lián)系同時(shí)又相對(duì)獨(dú)立的分支。本書介紹信息論和編碼理論的基本內(nèi)容,目的是使讀者了解這個(gè)領(lǐng)域的基本概念、思想和方法。
本書的編寫參考了傳統(tǒng)的信息論和編碼理論教材,同時(shí)也加入了近期一些新的研究成果。本書內(nèi)容結(jié)構(gòu)嚴(yán)謹(jǐn),注重信息論和糾錯(cuò)編碼理論的相互統(tǒng)一。糾錯(cuò)編碼理論可以看作是信息論中信道編碼定理的具體實(shí)現(xiàn),而信道編碼定理為糾錯(cuò)編碼理論的發(fā)展提供了理論依據(jù)。本書詳細(xì)敘述了這些基本關(guān)系,內(nèi)容連貫,涉及的數(shù)學(xué)工具易于理解,適合教學(xué)和自學(xué)兩用。本書的符號(hào)遵循本領(lǐng)域書籍的習(xí)慣,矩陣和向量統(tǒng)一用白斜體。
本書適用對(duì)象是數(shù)學(xué)系高年級(jí)本科生和低年級(jí)研究生,也可作為信息工程類專業(yè)學(xué)生的參考用書。
由于作者學(xué)識(shí)水平有限,書中難免存在錯(cuò)誤與不妥之處,懇請(qǐng)讀者批評(píng)指正。
第1章 信源的熵
1.1 信息論的奠定
1.2 熵的概念
練習(xí)題
第2章 信源編碼
2.1 可變長(zhǎng)度編碼
2.1.1 唯一可譯碼
2.1.2 即時(shí)碼和前綴性質(zhì)
2.1.3 唯一可譯碼和McMillan定理
2.2 霍夫曼碼
2.3 霍夫曼編碼定理的證明
2.4 信源編碼定理
練習(xí)題
第3章 有噪信道編碼
3.1 離散無記憶信道和條件熵
3.1.1 離散無記憶信道
3.1.2 條件熵
3.1.3 一些特殊的信道
3.2 信道容量
3.3 譯碼錯(cuò)誤概率
3.4 信道編碼定理及逆定理
3.4.1 信道編碼定理的逆定理的弱形式
3.4.2 信道編碼定理
3.4.3 信道編碼定理的逆定理的強(qiáng)形式
練習(xí)題
第4章 線性碼
4.1 碼的界
4.2 線性碼的基本概念
4.3 極大距離可分碼
練習(xí)題
第5章 線性碼和信息安全
5.1 碼C與竊聽者獲取的數(shù)據(jù)的關(guān)系
5.2 相對(duì)廣義漢明重量
練習(xí)題
第6章 不超過兩個(gè)重量的線性碼
6.1 射影幾何介紹
6.2 線性碼與射影幾何的關(guān)系
6.3 線性等重碼
6.4 一類二重量碼
6.4.1 二重量碼的結(jié)構(gòu)
6.4.2 二重量碼子碼支撐重量分布
練習(xí)題
參考文獻(xiàn)
索引