信息论基础2025|PDF|Epub|mobi|kindle电子书版本百度云盘下载

信息论基础PDF格式电子书版下载

注意：本站所有压缩包均有解压码： 点击下载压缩包解压工具

第1章 绪论1

1.1 信息的概念1

1.1.1 信息1

1.1.2 香农“信息”的定义3

1.1.3 “信息”的度量4

1.2 信息论的形成和发展7

1.3 信息论的研究范畴10

1.3.1 通信系统模型10

1.3.2 信息论的研究内容14

第2章 离散信源及其信息度量18

2.1 信源的分类及描述18

2.2 信源的数学模型18

2.2.1 单符号离散信源19

2.2.2 简单的连续信源20

2.2.3 多符号离散信源20

2.2.4 多维连续平稳信源和波形信源21

2.3 信息的度量和信源熵22

2.3.1 自信息、联合自信息与条件自信息22

2.3.2 互信息和条件互信息25

2.3.3 信息熵28

2.4 信源熵的基本性质和定理32

2.5 离散无记忆扩展信源36

2.6 离散平稳信源38

2.6.1 离散平稳信源的数学模型39

2.6.2 离散平稳信源的信息熵和极限熵39

2.7 马尔可夫信源46

2.7.1 马尔可夫信源的定义47

2.7.2 马尔可夫信源的信息熵50

2.8 信源的相关性和剩余度54

习题57

第3章 离散信道及其信道容量61

3.1 信道的分类及其描述61

3.2 单符号离散信道的数学模型62

3.3 平均互信息及其特性66

3.3.1 平均互信息的定义66

3.3.2 损失熵和噪声熵67

3.3.3 平均互信息的特性69

3.4 信道容量及其计算方法75

3.4.1 信道容量的定义75

3.4.2 无噪信道的信道容量76

3.4.3 对称离散信道的信道容量77

3.4.4 准对称离散信道的信道容量80

3.4.5 一般离散信道的信道容量81

3.5 多符号离散信道的数学模型84

3.6 离散无记忆扩展信道的信道容量88

3.7 组合信道及其信道容量90

3.7.1 独立并联信道及其信道容量90

3.7.2 串联信道及其信道容量91

3.8 信源与信道的匹配93

习题94

第4章 无失真信源编码98

4.1 信源编码器98

4.2 无失真离散信源编码定理102

4.2.1 无失真定长信源编码定理103

4.2.2 无失真变长信源编码定理107

4.3 霍夫曼码和其他编码方法110

4.3.1 唯一可译码和即时码110

4.3.2 香农码112

4.3.3 霍夫曼码114

4.3.4 费诺码121

4.4 算术码122

4.4.1 香农-费诺-埃利斯码122

4.4.2 算术码124

习题127

第5章 波形信源和波形信道130

5.1 波形信源的统计特性和处理方法130

5.1.1 波形信源的统计特性130

5.1.2 随机波形信源的处理方法131

5.2 连续信源的信息度量132

5.2.1 连续信源的熵及其性质132

5.2.2 连续信源的最大熵135

5.2.3 熵功率138

5.3 波形信源的信息度量139

5.4 波形信道的分类和处理方法140

5.4.1 波形信道的分类140

5.4.2 波形信道的处理方法142

5.5 连续信道的信道容量143

5.5.1 连续信道的平均互信息143

5.5.2 连续信道的信道容量146

5.6 波形信道的信道容量150

5.6.1 波形信道的信息传输速率150

5.6.2 波形信道的信道容量151

习题154

第6章 限失真信源编码156

6.1 失真测度156

6.1.1 失真函数157

6.1.2 平均失真160

6.1.3 保真度准则161

6.2 信息率失真函数161

6.2.1 信息率失真函数的定义163

6.2.2 R（D）函数的性质163

6.2.3 R（D）函数的计算166

6.3 限失真信源编码定理169

习题171

第7章 有噪信道编码174

7.1 有噪信道编码定理174

7.1.1 平均错误概率174

7.1.2 信道编码的基本思想178

7.1.3 有噪信道编码定理180

7.1.4 信道编码的途径182

7.2 联合信源信道编码定理183

7.3 信道编码的基本原理187

7.3.1 信道编码的一般方法187

7.3.2 信道编码的检错和纠错能力188

7.3.3 最小汉明距离译码190

7.4 线性分组码191

7.4.1 线性分组码的编码192

7.4.2 线性分组码的译码196

7.4.3 完备码和汉明码198

7.4.4 循环码198

7.5 卷积码201

7.5.1 卷积码的解析表示201

7.5.2 卷积码的图形描述204

7.5.3 卷积码的译码方法206

7.5.4 递归型系统卷积码210

7.6 Turbo码211

7.6.1 Turbo编码211

7.6.2 Turbo译码212

习题217

第8章 网络信息论初步221

8.1 多用户信道221

8.1.1 多址接入信道222

8.1.2 广播信道226

8.1.3 相关信源的多用户信道问题227

8.2 无线信道230

8.2.1 信道模型230

8.2.2 圆对称复数高斯随机矢量231

8.2.3 MIMO高斯信道容量232

附录 概率论基础知识概要234

参考文献235