[百度网盘]Shannon信息熵定理 PDF

篇初等篇引言从称重问题谈起∥3S0从一道高考试题谈起/3Span>问题S2推广pan>S3推广2S4推广3S5讨论章信息论的历史Span>历史背景2信息是什么∥553如行通信/∥57篇基础篇章初等概念/∥63Span>引言S2信息s3熵∥78熵函数的数学质∥83S4S5熵和编码∥87S6 Shannon-Fano编码 /∥88S7 Shannon-Fano编码比优编码差多少8码的扩展/∥92S9扩展的一个例子∥95S10 Markov过程的熵 /∥99S11Markov过程的一个实例S12伴随系统 ∥104S 13信息通道∥106S 14小结∥108第三章H（X）的基本质/∥110S1 引言 ∥1102基本不等式∥11pan>83无干扰情况下的翻码定理∥119第四章熵与交互信息/∥129pan>熵与信息的度量∥129S2熵的基本质/∥133第五章更多的概念∥139pan>条件熵∥139S2联合熵∥14pan>3各种熵的质∥14pan>S4互信息∥146S5李天岩谈熵∥157第六章相对熵密度与任意信源的若干极限质∥194第七章一个变量序列熵率不存在的例子第三篇基本定理篇第八章信息量与熵∥225Span>信息量的数学表达式∥225S2离散变数的熵的质∥232连续变数的熵的质∥235S3Shannon的基本定理 ∥240第九章引言 /240Span>S2判决准则 ∥24pan>S3二元对称信道∥245S4编码S5对码均∥25pan>S6一般情况下的Shannon定理/254S7Fano上界 ∥255S8Shannon定理的逆定理 ∥257第十章关于有限Markov链相对熵密度和条件熵的一类极限定理∥260第十一章任意信源和的一类Shannon-McMillan定理 /282第十二章离散信源的无失真编码∥294S1Shannon定理S2变长码的编码方法第十三章离散无记忆信道pan>离散无记忆信道的编码定理及错误界指数的质/∥314s2错误界指数E（R）的计算∥329……
S4反思熵的定义式、单位、量纲/∥1095附录三文学与信息论∥1100Span>信息论的基本原理及与文学的关系附录四西方信息研路述评/∥1115附录五有限传输设备系统的Feinstein引理/∥1157Span>引言 /∥1157S2Shannon引理S3 有限传输设备系统的Feinstein引理的证明∥117pan>S4专线组的大小