1.1信息的概念
1.2信息分類
1.3信息論的研究目的和意義
第二章信息源和信息熵
2.1離散信息源和信息熵
2.1.1離散源的數學模型和統計特性
2.1.2自我信息和平均自我信息(熵)
2.1.3熵函數的基本性質和最大熵定理
2.1.4聯合熵和條件熵
2.1.5互信息
2.2離散序列源:
2.2.1離散序列源數學模型
2.2.2離散序列信息源的信息熵
馬爾可夫信息源
源冗余
2.3連續來源
2.3.1連續信息源的熵
2.3.2連續源的最大熵和熵功率
運用
第三章信息率失真函數
3.1失真測量
3.1.1失真函數和平均失真
3.1.2信息率失真函數的定義
3.2離散源的信息率失真函數
3.2.1信息率失真函數的性質
3.2.2信息率失真函數的計算
3.3連續源的信息率失真函數
3.3.1信息率失真函數的定義和性質
3.3.2信息率失真函數的計算
運用
第4章渠道和渠道容量
4.1通道的分類和數學模型
4.1.1通道的分類
4.1.2通道的數學模型
4.1.3通道容量的定義
4.2信道容量和信道冗余的成本函數
4.2.1渠道容量成本函數
通道冗余
4.3離散信道及其容量計算
4.3.1單符號離散信道的信道容量
4.3.2多符號離散信道的信道容量
4.4連續通道及其容量
4.4.1時間離散信道的信道容量
4.4.2時間連續通道的通道容量
4.4.3頻率、時間和功率有限的AWGN信道容量。
4.5信道容量C和信息率失真函數R(D)之間的差異
4.6多用戶通道
4.6.1多通道接入
廣播頻道
運用
第5章香農的三個定理
5.1香農第壹定理
5.2香農第二定理
5.3香農第三定理
第六章無失真信源編碼
6.1源代碼概述
6.1.1源代碼的通用模型
6.1.2信息源冗余的原因
6.2無失真信源編碼概述
6.2.1編碼相關概念
6.2.2幾個簡單的源編碼器
幾種常見的代碼
6.3等長碼和等長信源編碼定理
6.3.1無損編碼條件
6.3.2源序列的漸近均衡
6.3.3源序列分組定理
6.3.4漸近均分特性
6.3.5等長編碼定理
6.4可變長度編碼
6.4.1代碼樹
不同的前綴
6.4.3卡夫-麥克米倫不等式
6.4.4可變長度編碼定理
6.5最佳可變長度編碼(霍夫曼編碼)
6.5.1二進制霍夫曼編碼
6.5.2多進制霍夫曼編碼
運用
第七章失真受限信源編碼定理
7.1失真受限信源編碼概述
7.2失真受限信源編碼的逆定理
7.3保真度標準下的速率壓縮標準
7.3.1語音壓縮編碼標準
7.3.2圖像壓縮編碼標準
7.4幾種常用的有損壓縮編碼技術
7.4.1差分脈沖編碼調制(DPCM)
預測編碼
7.4.3正交變換編碼
7.4.4小波變換編碼
運用
第八章信道編碼
8.1信道編碼的基本概念
8.1.1檢錯糾錯原理
8.1.2錯誤檢測和糾正能力的判斷
8.1.3信道碼的分類
8.1.4常見的簡單錯誤檢測和糾正代碼
8.2錯誤概率
8.2.1解碼規則概念
8.2.2錯誤概率和解碼規則
8.2.3三個解碼標準
8.2.4錯誤概率和編碼方法
8.3線性分組碼
8.3.1線性分組碼基本概念
8.3 12檢查矩陣和生成矩陣
8.3.3漢明碼
8.3.4線性分組碼的解碼
8.4循環碼
8.4.1循環碼定義和多項式描述
8.4.2代碼多項式運算
8.4.3生成多項式和生成循環碼矩陣
8.4.4循環碼校驗矩陣
8.4.5循環碼的編譯碼方法
8.5卷積碼
8.5.1卷積碼的概念
卷積碼的編碼
8.5.3卷積碼的圖形表示
卷積碼的解碼
運用
附錄a常見概率公式
附錄B詹森不等式
參考