信息论基础PDF|Epub|txt|kindle电子书版本网盘下载

信息论基础PDF格式电子书版下载

注意：本站所有压缩包均有解压码： 点击下载压缩包解压工具

第一章　信息论概述1

第一节　信息的概念1

一、信息的定义1

二、信息的特征2

第二节　信息论简介3

一、通信系统模型4

二、信息论研究的主要内容6

三、信息论的一些应用成果6

习题一9

第二章　信息论的基本概念10

第一节　预备知识10

一、概率论基础知识回顾10

二、凸函数及其性质12

三、Jensen不等式13

第二节　离散熵13

一、自信息13

二、信息熵的定义15

三、熵函数的性质17

四、联合熵与条件熵21

第三节　离散互信息24

一、事件的互信息24

二、随机变量的互信息26

三、互信息函数的性质27

四、联合互信息与条件互信息31

第四节　连续随机变量下的信息熵与互信息33

一、连续随机变量下的微分熵33

二、连续随机变量下的互信息37

习题二39

第三章　信源的熵率及冗余度44

第一节　信源的分类及其数学模型44

第二节　离散平稳信源的熵率45

一、离散平稳信源的定义45

二、离散平稳无记忆信源47

三、离散平稳有记忆信源47

第三节　马尔可夫信源的熵率50

一、马尔可夫链的基本概念51

二、马尔可夫信源的熵率54

第四节　信源的冗余度58

一、离散信源的冗余度58

二、连续信源的最大熵与熵功率61

习题三64

第四章　信道及信道容量的计算67

第一节　信道的分类及其数学模型67

一、信道的分类67

二、离散单符号信道的数学模型68

第二节　信道容量及其计算方法70

一、信道容量的概念70

二、几种特殊信道的信道容量72

三、离散对称信道的信道容量73

四、一般离散信道的信道容量77

五、信道容量定理81

六、信道容量的迭代算法85

第三节　离散无记忆扩展信道及其信道容量88

第四节　组合信道及其信道容量91

一、独立并联信道91

二、级联信道92

第五节　连续信道及其信道容量92

一、高斯加性信道的信道容量92

二、多维高斯加性信道的信道容量94

第六节　波形信道及其信道容量95

习题四96

第五章　无失真信源编码100

第一节　信源编码的基本概念100

一、编码器100

二、码的分类102

第二节　渐近等分割性和ε典型序列104

一、预备知识104

二、渐近等分割性和ε典型序列105

第三节　信源的定长编码定理109

第四节　信源的变长编码定理113

一、Kraft不等式和McMillan不等式114

二、唯一可译码的判别准则117

三、无失真变长编码定理118

四、香农第一编码定理120

第五节　霍夫曼码和其他编码方法124

一、香农编码124

二、香农—费诺—埃利斯编码125

三、霍夫曼编码125

四、费诺编码129

第六节　实用的无失真信源编码方法131

一、游程编码131

二、算术码133

三、LZW码134

习题五137

第六章　信道编码141

第一节　信道编码的基本概念141

一、错误概率与译码规则142

二、错误概率与编码方法146

第二节　有噪信道编码定理153

一、有噪信道编码定理153

二、有噪信道编码逆定理156

三、错误概率的上界157

第三节　纠错编码158

一、纠错编码分类158

二、纠错编码的基本概念160

第四节　几种重要的纠错码161

一、线性分组码161

二、汉明码172

三、循环码173

四、卷积码177

习题六181

第七章　信息率失真函数与熵压缩编码184

第一节　失真测度185

一、失真函数185

二、平均失真187

第二节　信息率失真函数188

一、D失真许可信道188

二、信息率失真函数的定义188

三、信息率失真函数R（D）的性质189

第三节　信息率失真函数的计算194

一、应用参量表示式计算R（D）194

二、二元信源和离散等概信源的R（D）函数200

第四节　限失真信源编码定理202

一、限失真信源编码定理202

二、限失真信源编码逆定理206

第五节　熵压缩编码具体方法207

一、标量量化207

二、矢量量化208

三、变换编码209

四、预测编码209

习题七210

实验设计213

习题参考答案217

参考文献223