第三章习题课.ppt
2020/7/17,1,子曰：“不愤不启，不悱不发，举一隅不以三隅反，则不复也” 孔子,油瘁渴戌色漏氮娃蝉愈夕椒歌盖徒揪矽要休慕族拭躲锯柒精仙暑刁泌盖卓第三章习题课第三章习题课,2020/7/17,2,信道容量 C：在信道中最大的信息传输速率，单位是比特/信道符号。 单位时间的信道容量 Ct：若信道平均传输一个符号需要 t 秒钟，则单位时间的信道容量为 Ct 实际是信道的最大信息传输速率。,第三章总结,彤匠观仪孔症葵澄酪谣崭趴互著遏匙尉散刊馒邀坛萝帘晓羔弃牢取圆束剐第三章习题课第三章习题课,2020/7/17,3,求信道容量的方法 当信道特性 p(yj /xi) 固定后，I(X;Y) 随信源概率分布 p(xi) 的变化而变化。 调整 p(xi)，在接收端就能获得不同的信息量。由平均互信息的性质已知，I(X;Y) 是 p(xi) 的上凸函数，因此总能找到一种概率分布 p(xi)（即某一种信源），使信道所能传送的信息率为最大。 C 和 Ct 都是求平均互信息 I(X;Y) 的条件极大值问题，当输入信源概率分布 p(xi) 调整好以后， C 和 Ct 已与 p(xi) 无关，而仅仅是信道转移概率的函数，只与信道统计特性有关； 信道容量是完全描述信道特性的参量； 信道容量是信道能够传送的最大信息量。,媚骇溅垂缠耕爬肄汝蛋似表援烂购忽痰酞柯焰御邵褪只陡囚熄些绞冻舒瓣第三章习题课第三章习题课,2020/7/17,4,习题1,1.设信源 通过一干扰信道，接收符号为Y=y1,y2,信道传递概率如下图所示。求 信源X中事件x1和x2分别含有的信息量。 收到消息yj (j=1,2)后，获得的关于xi (i=1,2)的信息量。 信源X和信源Y的信息熵。 信道疑义度H(X/Y)和噪声熵H(Y/X)。 接收到消息Y后获得的平均互信息。,始嚎社汗张绘锨程番羹嗣窜口矽份钞诊质奋汕准智熄践俱坝泞辰汾闸拙辰第三章习题课第三章习题课,2020/7/17,5,习题1,解答：,互信息可以为正值也可以为负值，负值表明由于噪声的存在，接收到一个消息后，对另一个消息是否出现的不确定性反而增加了。,划轩淋赫蚂芭楞呀豁俏烧撒无鹤誊垒罐崔荒缅了蹭扳油污瘫拓舒聂冯踞茵第三章习题课第三章习题课,2020/7/17,6,习题1,解答：,棵佃遣摈捡北悯豫戊楔远暂琢蹬封剧堑驾骗易请音畔痕篆敝娱瞻滦隙草哇第三章习题课第三章习题课,2020/7/17,7,习题2,2.设二元对称信道的传递概率为 若P(0)=3/4,P(1)=1/4,求H(X),H(X/Y),H(Y/X)和I(X;Y)。 求该信道的信道容量及达到信道容量时的输入概率分布。,媒腔枪密斩毛竣澄囱骏熟翌化伐捷披捕扛渣卞善赊活纤兰从贯肘凌灼乘换第三章习题课第三章习题课,2020/7/17,8,习题2,艘伯瑞钱锣拦兜盘惧丧毗堂恒挟棕刹绰珠屋阎厅仓衡糯褂猜讯毋嗅遇鄙娥第三章习题课第三章习题课,2020/7/17,9,习题3,3.有一个二元对称信道，其信道矩阵如下图所示。设该信道以1500个二元符号/秒的速度传输输入符号。现有一消息序列共有14000个二元符号，并设在这消息中P(0)=P(1)=1/2。问从信息传输的角度来考虑，10秒钟内能否将这消息序列无失真地传送完？,倍奠鸿隋应秸辕持焚允萍爵歉吱矽呕隙钮棋胀牙麻映限蔷腿佩绘痈涪馅助第三章习题课第三章习题课,2020/7/17,10,习题3,解答：消息是一个二元序列，且为等概率分布，即P(0)=P(1)=1/2，故信源的熵为H(X)=1(bit/symbol)。则该消息序列含有的信息量14000(bit/symbol)。 下面计算该二元对称信道能传输的最大的信息传输速率： 信道传递矩阵为： 信道容量（最大信息传输率）为： C=1-H(P)=1-H(0.98)0.8586bit/symbol,磨吾圈八噬嵌凶着陆檬脯围侦毒镍硕狙吼联庇蓟惟单越红葡囱团会挽俞斟第三章习题课第三章习题课,2020/7/17,11,习题3,得最大信息传输速率为： Rt 1500符号/秒 0.8586比特/符号 1287.9比特/秒 1.288103比特/秒 此信道10秒钟内能无失真传输得最大信息量10 Rt 1.288104比特 可见，此信道10秒内能无失真传输得最大信息量小于这消息序列所含有的信息量，故从信息传输的角度来考虑，不可能在10秒钟内将这消息无失真的传送完。,文医籍桌胡跌具挣域蹭坎答象奇靖邵饯界汾转谐拱宽臂惋裕傻菊孩攀欠住第三章习题课第三章习题课,2020/7/17,12,习题4,4.求下图中信道的信道容量及其最佳的输入概率分布。,（a） (b),佳强疾袒愈颖著蔓养紫桔赚岁冒秤呢付因广颊蹿掂急攘普绒固梳乃捎陶噶第三章习题课第三章习题课,2020/7/17,13,习题4,解答：图中两个信道的信道矩阵分别为 均满足对称性，所以这两个信道是对称离散信道。由对称离散信道的信道容量公式得： 最佳输入分布（即达到信道容量的输入分布）是等概率分布,两揍池铜缮厘每醒翻纫振藉瓢介茶艺离耿敷蝴型膘缠赋涩局粥雷指饿果豺第三章习题课第三章习题课,2020/7/17,14,习题5,5.求下图中信道的信道容量及其最佳的输入概率分布。并求当=0和1/2时的信道容量C。,邱坚畴冀臆颂延塑之代阑清枯产搪恬腊赋纫瘩笑丝柞腿埔知勋陆贺皇兔茄第三章习题课第三章习题课,2020/7/17,15,习题5,解答：图中信道的信道矩阵如下 此信道为一般信道。,责编嘉笆焙盗呛问暂坎累熬琐眨高词虏喇渊畅难沧脂妄疡农着椿绣智毗该第三章习题课第三章习题课,2020/7/17,16,习题5,碘移亿蓬萍属剖阶氟仿丹璃铂疾瘁叛尖梁豪吹戒陪投棠颗肛旭躬轨芥涣舔第三章习题课第三章习题课,2020/7/17,17,习题5,桶球哀捡腰鼻苗斤励袖蔓趟驴八酌札班种神窘裁晤扬刃孪矫拧筷镰泪豺宜第三章习题课第三章习题课,2020/7/17,18,练习题1,若已知信道输入分布为等概率分布，且有如下两个信道，其转移概率矩阵分别为： 试求这两个信道的信道容量，并问这两个信道是否有噪声？,菠李翔吩葡瑟隔熔萄淄舱窿徊葱玲撼慕侮狸蹄缄悉炯侵碾钟勇肯乔刨舍大第三章习题课第三章习题课,2020/7/17,19,练习题1,故酋达给虾负吻升日综啼集曰发宫驰树霄酸锣牵挖冬筒沃拽颂兑凳钻刹锑第三章习题课第三章习题课,2020/7/17,20,练习题2,设有一离散级联信道如下图所示： 试求(1)X与Y之间的信道容量C1 (2) Y与Z 之间的信道容量C2 (3) X与Z之间的信道容量C3，及其输入分布,纷蕊儒击淳测走瓣拧惯础沾魏细僳逼溅乐孽皮花帜克派脸卉栅瞥势擦证竿第三章习题课第三章习题课,2020/7/17,21,练习题2,贿诀皇狠链郡痹锌搪邢狡录拇袁训掣蚁冲驰怠蛰峰裳东擎荣瑰掉辅扩暖械第三章习题课第三章习题课,
