信息论第6章有噪信道编码.pptx

《信息论第6章有噪信道编码.pptx》由会员分享，可在线阅读，更多相关《信息论第6章有噪信道编码.pptx（10页珍藏版）》请在得力文库 - 分享文档赚钱的网站上搜索。

1、错误概率与信道的统计特性有关,但并不是唯一相关的因素,译码方法的选择也会影响错误率。信道统计特性信道统计特性信道统计特性用信道传递矩阵来描述,该矩阵确定了哪些是正确传递概率,哪些是错误传递概率.译码规则译码规则 通信过程并非到信道输出端就结束,还要经过译码过程(或判决过程)才到达消息的终端(收信者).1第六章 有噪信道编码 最小错误概率准则选择译码函数F(bj)=a*并使之满足条件:p(a*|bj)p(ai|bj)（对所有aia*）2译译码规则的选择依据码规则的选择依据:使平均错误概率最小。使平均错误概率最小。极大似然译码准则选择译码函数F(bj)=a*,使满足p(bj|a*)p(a*)p(b

2、j|ai)p(ai)，即p(a*bj)p(aibj)。有有噪信道编码定理噪信道编码定理 香农第二定理香农第二定理定定理理1 设有一离散无记忆平稳信道，其信道容量为设有一离散无记忆平稳信道，其信道容量为C，只要待传送的信息传输率只要待传送的信息传输率 RC，则存在一种编码，则存在一种编码，当输入序列长度当输入序列长度n足够大时，使译码错误概率任意小。足够大时，使译码错误概率任意小。物理含义：物理含义：(1)(1)只要只要R RC C，就可以在有噪信道中以任意小，就可以在有噪信道中以任意小的错误概率的错误概率(p pE E)传输信息；传输信息；(2)(2)当输入序列长度当输入序列长度n n足够大时

3、，可以以任意接足够大时，可以以任意接近信道容量近信道容量C C的信息传输率传递信息。的信息传输率传递信息。3定定理理2 有噪信道编码定理的逆定理有噪信道编码定理的逆定理 设有一离散无记忆平稳信道，其信道容量为设有一离散无记忆平稳信道，其信道容量为C，对于任意，对于任意 0，若若要选用码字总数要选用码字总数M=2n(C+)，则无则无论论n取多大取多大，也找不到一种编码，使译码错误概率，也找不到一种编码，使译码错误概率任意小。任意小。物理含义：在任何信道中，信道容量在任何信道中，信道容量C是进行可靠传输的最大是进行可靠传输的最大信息传输率。要想使信息传输率大于信道容量而又信息传输率。要想使信息传输率大于信道容量而又无错误地传输消息是不可能的无错误地传输消息是不可能的。4差差错控制方式错控制方式差错控制方式一般可以分为四种类型：检错重发（ARQ）前向纠错（FEC）混合纠错检错（HEC）信息反馈（IRQ）汉明距离与最大似然译码汉明距离与最大似然译码定理 对于一个二进制对称信道，如果信道输入码字为等概率分布，则其最大似然译码可以等价于最小汉明距离译码。定理分组码最小汉明距离与检错和纠错能力的关系:1）(e为检错个数)用于检错重发ARQ2）(t为纠错个数）用于FEC 3）（et）用于HEC（又检又纠）检错和纠错能力8910