信息论与编码 第二版作 者: 傅祖芸 著出版时间: 2014内容简介 本书系统地论述信息论与纠错编码的基本理论。共有9章,内容包括:信息的定义和度量,离散信源和连续信源的信息熵,信道和信道容量,平均失真度和信息率失真函数,三个香农信息论的基本定理:无失真信源编码定理、限失真信源编码定理和信道编码定理,若干种常见实用的无失真信源压缩编码的方法,以及信道纠错编码的基本内容和分析方法。本书深入浅出、概念清晰、系统性和可读性强。目 录第1章 绪论1.1 信息的概念1.2 信息论研究的对象、目的和内容 1.3 信息论发展简史与信息科学第2章 离散信源及其信息测度2.1 信源的数学模型及分类2.2 离散信源的信息熵 2.2.1 自信息 2.2.2 信息熵 2.3 信息熵的基本性质2.4 信息熵的唯一性定理 2.5 离散无记忆的扩展信源 2.6 离散平稳信源 2.6.1 离散平稳信源的数学定义2.6.2 离散二维平稳信源及其信息熵2.6.3 离散平稳信源的极限熵 2.7 马尔可夫信源 2.7.1 马尔可夫信源和m阶马尔可夫信源的定义2.7.2 m阶马尔可夫信源的信息熵 2.8 信源冗余度与自然语言的熵 2.9 意义信息和加权熵 习题 第3章 离散信道及其信道容量3.1 信道的数学模型及分类3.1.1 信道的分类 3.1.2 离散信道的数学模型3.1.3 单符号离散信道的数学模型3.2 平均互信息及平均条件互信息 3.2.1 信道疑义度 3.2.2 平均互信息 3.2.3 平均条件互信息3.3 平均互信息的特性 3.4 信道容量及其一般计算方法3.4.1 离散无噪信道的信道容量3.4.2 对称离散信道的信道容量3.4.3 准对称信道的信道容量 3.4.4 一般离散信道的信道容量3.5 离散无记忆扩展信道及其信道容量3.6 独立并联信道及其信道容量 3.7 串联信道的互信息和数据处理定理3.8 信源与信道的匹配 习题 第4章 波形信源和波形信道4.1 连续信源和波形信源的信息测度4.1.1 连续信源的差熵 4.1.2 连续平稳信源和波形信源的差熵 4.1.3 两种特殊连续信源的差熵 4.2 连续信源熵的性质及最大差熵定理 4.2.1 差熵的性质 4.2.2 具有最大差熵的连续信源4.3 熵功率 4.4 连续信道和波形信道的信息传输率4.4.1 连续信道和波形信道的分类 4.4.2 连续信道和波形信道的信息传输率4.4.3 连续信道平均互信息的特性 4.5 高斯加性波形信道的信道容量 4.5.1 单符号高斯加性信道 4.5.2 限带高斯白噪声加性波形信道习题 第5章 无失真信源编码定理5.1 编码器 5.2 等长码 5.3 渐近等分割性和ε典型序列5.4 等长信源编码定理 5.5 变长码 5.5.1 唯一可译变长码与即时码5.5.2 即时码的树图构造法 5.5.3 克拉夫特 (Kraft)不等式5.5.4 唯一可译变长码的判断法 5.6 变长信源编码定理 习题 第6章 有噪信道编码定理6.1 错误概率和译码规则6.2 错误概率与编码方法*6.3 联合ε典型序列 6.4 有噪信道编码定理 6.5 联合信源信道编码定理习题 第7章 保真度准则下的信源编码7.1 失真度和平均失真度 7.1.1 失真度 7.1.2 平均失真度7.2 信息率失真函数及其性质7.2.1 信息率失真函数 7.2.2 信息率失真函数的性质 7.3 信息率失真函数的参量表述及其计算7.4 二元信源和离散对称信源的R(D) 函数7.4.1 二元对称信源的R(D)函数 7.4.2 离散对称信源的R(D)函数 7.5 连续信源的信息率失真函数 7.5.1 连续信源的信息率失真函数7.5.2 高斯信源的信息率失真函数7.6 保真度准则下的信源编码定理7.7 联合有失真信源信道编码定理7.8 限失真信源编码定理的实用意义习题 第8章 无失真的信源编码8.1 霍夫曼(Huffman)码 8.1.1 二元霍夫曼码 8.1.2 r元霍夫曼码8.1.3 霍夫曼码的最佳性 8.2 费诺(Fano)码 8.3 香农―费诺―埃利斯码8.4 游程编码和MH编码 8.4.1 游程编码 8.4.2 MH编码 8.5 算术编码 8.6 字典码 8.6.1 LZ-77编码算法8.6.2 LZ-78编码算法8.6.3 LZW编码算法 8.6.4 K?Y(Kieffer?Yang)编码算法 8.6.5 LZ复杂度和LZ码性能分析 习题 第9章 信道的纠错编码9.1 差错控制的基本形式9.2 纠错码分类与基本概念 9.2.1 纠错码的分类 9.2.2 纠错码的基本概念及其纠错能力9.3 线性分组码的数学基础 9.3.1 群论基础 9.3.2 环与域 9.3.3 多项式理论9.3.4 有限域的性质和代数结构9.3.5 有限域上的线性代数 9.4 线性分组码 9.4.1 生成矩阵与一致校验矩阵9.4.2 伴随式及标准阵列译码 9.4.3 缩短码、扩展码和增删码 9.4.4 汉明码 9.5 循环码 9.5.1 循环码结构及其描述*9.5.2 由生成多项式的根定义循环码 9.5.3 循环码的译码 9.6 BCH码 9.6.1 BCH码的结构及其描述*9.6.2 RS码和Goppa码9.7 卷积码 9.7.1 卷积码的解析表示 9.7.2 卷积码的图表示 9.8 分组码性能分析 习题 附录A 凸函数和詹森不等式 附录B 随机过程B.1 随机过程的基本概念B.2 马尔可夫链 B.3 平稳随机过程 附录C 熵函数的函数表附录D LDPC码简介D.1 LDPC码的基本概念 D.2 LDPC码编码算法 D.3 LDPC码译码方法 D.4 校验矩阵的构造方法 D.5 LDPC码的应用与展望参考书目及文献 上一篇: 数字音频技术 第六版 下一篇: 思科网络实验室CCNP(交换技术)实验指南