信息论与编码技术 第6章有噪信道编码定理 苗付友 mfy@ustc.edu.cn 2019年12月
苗付友 mfy@ustc.edu.cn 2019年12月
在有噪信道中,怎么能使消息通过传输后 发生的错误最少? 在有噪信道中,无错误传输的可达的最大 信息传输率是多少? 0(0 ash mfy@ustc.edu.cn 信息论与编码技术-信道纠错编码 2/
mfy@ustc.edu.cn 信息论与编码技术-信道纠错编码 2/ 在有噪信道中，怎么能使消息通过传输后 发生的错误最少？ 在有噪信道中，无错误传输的可达的最大 信息传输率是多少？
主要内容 6.1平均错误概率和译码规则 62平均错误概率与编码方法 63联合e典型序列 6.4有噪信道编码定理 6.5联合信源信道编码定理 0(0 ash mfy@ustc.edu.cn 信息论与编码技术-信道纠错编码 3/
mfy@ustc.edu.cn 信息论与编码技术-信道纠错编码 3/ 6.1 平均错误概率和译码规则 6.2 平均错误概率与编码方法 6.3 联合𝜀典型序列 6.4 有噪信道编码定理 6.5 联合信源信道编码定理
对于无噪无损信道只要对信源进行适当的编码《(总 能以信道容量无差错的传递信息。但是一般信道总会存在 噪声和干扰,那么在有噪信道中进行无错传输可以达到的 最大信息传输率是多少呢? 编码器 信道 译码器 信源编码器 信源译码器 图61编码信道 信道编码的对象:信源编码器输出的数字序列(信 息序列)M,通常是0、1符号构成的序列。信源经过变 长编码后,编码的码符号往往等概率分布。因此信道编 码中的信源往往被认为是等概论出现。 信道编码: 数字序列M增加的 数字序列X 无规律性)多余码元 (有规律性) mfy@ustc.edu.cn 信息论与编码技术-信道纠错编码
mfy@ustc.edu.cn 信息论与编码技术-信道纠错编码 4/ 图6.1 编码信道 信道编码的对象：信源编码器输出的数字序列（信 息序列）M, 通常是0、1符号构成的序列。信源经过变 长编码后，编码的码符号往往等概率分布。因此信道编 码中的信源往往被认为是等概论出现。 信道编码： 数字序列M （无规律性） 增加的 多余码元 数字序列X （有规律性） ＋ 对于无噪无损信道只要对信源进行适当的编码，总 能以信道容量无差错的传递信息。但是一般信道总会存在 噪声和干扰，那么在有噪信道中进行无错传输可以达到的 最大信息传输率是多少呢？
61平均错误概率和译码规则约 为了减少错误,提高通信的可靠性,就必须分析错误概 率与哪些因素有关,有没有办法控制,能控制到什么程度。 在有噪信道中传输消息是会发生错误的。错误概率与信道 统计特性有关。信道的统计特性可由信道的转移矩阵来描述。 例:有一个BSC信道,如图所示013:0 若收到“0”译作“0”,收到“1” 译作“1”,则平均错误概率为:2/3 E =P(0)P0+P(1)2 3 0(0 ash mfy@ustc.edu.cn 信息论与编码技术-信道纠错编码 5/
mfy@ustc.edu.cn 信息论与编码技术-信道纠错编码 5/ 为了减少错误，提高通信的可靠性，就必须分析错误概 率与哪些因素有关，有没有办法控制，能控制到什么程度。 在有噪信道中传输消息是会发生错误的。错误概率与信道 统计特性有关。信道的统计特性可由信道的转移矩阵来描述。 0 1 0 1 1/3 1/3 2/3 2/3 例：有一个BSC信道，如图所示 若收到“0”译作“0”，收到“1” 译作“1”，则平均错误概率为： (0) (1) 2 (0) (1) 3 P P P P P E e e = + =