离散信源的率失真函数的计算课件.ppt

《离散信源的率失真函数的计算课件.ppt》由会员分享，可在线阅读，更多相关《离散信源的率失真函数的计算课件.ppt（31页珍藏版）》请在得力文库 - 分享文档赚钱的网站上搜索。

1、1第六章 信息率失真函数6.2 离散信源的率失真函数的计算6.2 离散信源的率失真函数的计算离散信源的率失真函数的计算一、一、问题的数学描述问题的数学描述二、二、率失真函数的求解及参数式率失真函数的求解及参数式三三、特殊特殊离散信源的率失真函数的计算举例离散信源的率失真函数的计算举例2第六章 信息率失真函数6.2 离散信源的率失真函数的计算一、一、问题的数学描述问题的数学描述目标目标函数函数约束约束条件条件其中其中 已知已知 以及以及 D，求求 ，使使 R 最小最小，得得3第六章 信息率失真函数6.2 离散信源的率失真函数的计算二、二、率失真函数的求解及参数式率失真函数的求解及参数式1.Lag

2、range 乘子法的求解过程分析乘子法的求解过程分析(1)记记()()其变量的个数为其变量的个数为 个。个。目标函数目标函数 的条件极值问题转化为的条件极值问题转化为 函数函数 的无条件极值问题。的无条件极值问题。下面分别令下面分别令进行求解。进行求解。则则4第六章 信息率失真函数6.2 离散信源的率失真函数的计算可知对任意固定的可知对任意固定的 i,j，有有由由且且二、二、率失真函数的求解及参数式率失真函数的求解及参数式1.Lagrange 乘子法的求解过程分析乘子法的求解过程分析(1)记记()()5第六章 信息率失真函数6.2 离散信源的率失真函数的计算即即(2)对任意固定的对任意固定的

3、i,j，令令得得二、二、率失真函数的求解及参数式率失真函数的求解及参数式1.Lagrange 乘子法的求解过程分析乘子法的求解过程分析(1)记记()()6第六章 信息率失真函数6.2 离散信源的率失真函数的计算(2)得得即即二、二、率失真函数的求解及参数式率失真函数的求解及参数式1.Lagrange 乘子法的求解过程分析乘子法的求解过程分析(1)记记()()令令7第六章 信息率失真函数6.2 离散信源的率失真函数的计算(3)再再令令得得二、二、率失真函数的求解及参数式率失真函数的求解及参数式1.Lagrange 乘子法的求解过程分析乘子法的求解过程分析(1)记记()()8第六章 信息率失真函数

4、6.2 离散信源的率失真函数的计算二、二、率失真函数的求解及参数式率失真函数的求解及参数式1.Lagrange 乘子法的求解过程分析乘子法的求解过程分析(4)从而从而得到得到 个方程个方程9第六章 信息率失真函数6.2 离散信源的率失真函数的计算二、二、率失真函数的求解及参数式率失真函数的求解及参数式1.Lagrange 乘子法的求解过程分析乘子法的求解过程分析(5)将将(A)式两边乘式两边乘 再对再对 i 求和，得求和，得由由(A)有有10第六章 信息率失真函数6.2 离散信源的率失真函数的计算二、二、率失真函数的求解及参数式率失真函数的求解及参数式1.Lagrange 乘子法的求解过程分析

5、乘子法的求解过程分析(6)将将(A)式两边直接对式两边直接对 j 求和，得求和，得(A)(B)即即11第六章 信息率失真函数6.2 离散信源的率失真函数的计算二、二、率失真函数的求解及参数式率失真函数的求解及参数式1.Lagrange 乘子法的求解过程分析乘子法的求解过程分析(A)(B)(C)(D)加上加上 由上述式子即可得到由上述式子即可得到率失真函数的求解步骤。率失真函数的求解步骤。12第六章 信息率失真函数6.2 离散信源的率失真函数的计算(A)(B)(C)(D)得得(4)由由求求(2)由由求求(1)由由求求(3)由由二、二、率失真函数的求解及参数式率失真函数的求解及参数式2.简明的简明

6、的求解步骤及参数式求解步骤及参数式步骤步骤得得(5)由由13第六章 信息率失真函数6.2 离散信源的率失真函数的计算二、二、率失真函数的求解及参数式率失真函数的求解及参数式2.简明的简明的求解步骤及参数式求解步骤及参数式参数式参数式有有由由(1)(2)14第六章 信息率失真函数6.2 离散信源的率失真函数的计算二、二、率失真函数的求解及参数式率失真函数的求解及参数式2.简明的简明的求解步骤及参数式求解步骤及参数式参数式参数式其中，其中，(B)(C)前面的前面的(A)式则用来得到实验信道的转移概率。式则用来得到实验信道的转移概率。15第六章 信息率失真函数6.2 离散信源的率失真函数的计算二、二

7、、率失真函数的求解及参数式率失真函数的求解及参数式3.参数参数 s 的的(几何几何)意义意义分析分析有有(1)由由 将将 的两边对的两边对 s 求导，得求导，得16第六章 信息率失真函数6.2 离散信源的率失真函数的计算二、二、率失真函数的求解及参数式率失真函数的求解及参数式3.参数参数 s 的的(几何几何)意义意义参数参数 s 为率失真函数的斜率。为率失真函数的斜率。结论结论有有(2)由由分析分析(1)17第六章 信息率失真函数6.2 离散信源的率失真函数的计算三三、特殊特殊离散信源的率失真函数的计算举例离散信源的率失真函数的计算举例设某信源为设某信源为失真矩阵为失真矩阵为例例编码后的输出为

8、编码后的输出为信源的概率分布为信源的概率分布为求求率失真函数率失真函数其中其中(1)求求解解18第六章 信息率失真函数6.2 离散信源的率失真函数的计算(2)求率失真函数的参数式求率失真函数的参数式.解解由由有有其中其中代入已知条件即得代入已知条件即得求解得求解得19第六章 信息率失真函数6.2 离散信源的率失真函数的计算(2)求率失真函数的参数式求率失真函数的参数式.解解由由有有其中其中代入已知条件即得代入已知条件即得求解得求解得20第六章 信息率失真函数6.2 离散信源的率失真函数的计算(2)求率失真函数的参数式求率失真函数的参数式.解解21第六章 信息率失真函数6.2 离散信源的率失真函

9、数的计算(2)求率失真函数的参数式求率失真函数的参数式.解解22第六章 信息率失真函数6.2 离散信源的率失真函数的计算(3)求率失真函数求率失真函数解解(1)(2)由由(1)式得式得代入代入(2)式即得式即得记记则得则得23第六章 信息率失真函数6.2 离散信源的率失真函数的计算率失真函数率失真函数 R(D)的曲线图的曲线图p=0.5p=0.3p=0.2p=0.10.10.20.30.40.50D0.20.40.60.81.0R(D)解解(4)画出率失真函数画出率失真函数 的图形的图形.H(X)=1.000(bit)H(X)=0.881(bit)H(X)=0.722(bit)H(X)=0.4

10、69(bit)24第六章 信息率失真函数6.2 离散信源的率失真函数的计算(5)求实验信道的输出符号求实验信道的输出符号 Y 的概率分布的概率分布.解解由由有有此外还可得此外还可得25第六章 信息率失真函数6.2 离散信源的率失真函数的计算(6)求实验信道的转移概率求实验信道的转移概率.解解由由有有26第六章 信息率失真函数6.2 离散信源的率失真函数的计算编码后的输出符号为编码后的输出符号为设信源设信源 为等概分布，即为等概分布，即失真矩阵为失真矩阵为例例求求率失真函数率失真函数(1)求求解解27第六章 信息率失真函数6.2 离散信源的率失真函数的计算(2)求率失真函数的参数式求率失真函数的

11、参数式.解解由由及已知条件，有及已知条件，有求解得求解得28第六章 信息率失真函数6.2 离散信源的率失真函数的计算(2)求率失真函数的参数式求率失真函数的参数式.解解求解得求解得由由及已知条件，有及已知条件，有其中其中29第六章 信息率失真函数6.2 离散信源的率失真函数的计算(2)求率失真函数的参数式求率失真函数的参数式.解解30第六章 信息率失真函数6.2 离散信源的率失真函数的计算(3)求率失真函数求率失真函数解解(1)(2)由由(1)式得式得代入代入(2)式即得式即得记记则得则得31第六章 信息率失真函数6.2 离散信源的率失真函数的计算(4)求实验信道的转移概率求实验信道的转移概率.解解由由有有由由得得当当 时，时，当当 时。时。