首页 范文大全 古典文学 职场知识 中国文学 公文书信 外国名著 寓言童话 百家讲坛 散文/诗歌 美文欣赏 礼仪知识 民俗风情
  • 工作总结
  • 工作计划
  • 心得体会
  • 竞聘演讲
  • 会议发言
  • 爱国演讲
  • 就职演说
  • 开业开幕
  • 思想学习
  • 征文演讲
  • 经验材料
  • 述职报告
  • 调研报告
  • 工作汇报
  • 年终总结
  • 申报材料
  • 学习体会
  • 企划方案
  • 活动方案
  • 技巧经验
  • 模板范例
  • 思想宣传
  • 经济工作
  • 工作报告
  • 组织人事
  • 反腐倡廉
  • 慰问贺电
  • 先进事迹
  • 思想汇报
  • 入党申请书
  • 党会发言
  • 先进性教育
  • 入团申请书
  • 个人简历
  • 演讲稿
  • 调查报告
  • 实习报告
  • 和谐社会
  • 观后感
  • 读后感
  • 作文范文
  • 自我鉴定
  • 讲话稿
  • 自查报告
  • 《信息论》试题及答案

    时间:2020-07-16 11:52:55 来源:蒲公英阅读网 本文已影响 蒲公英阅读网手机站

    相关热词搜索:信息论 试题 答案

     期终练习 一、某地区得人群中,10%就是胖子,80%不胖不瘦,10%就是瘦子。已知胖子得高血压得概率就是 15%,不胖不瘦者得高血压得概率就是 10%,瘦子得高血压得概率就是 5%,则“该地区得某一位高血压者就是胖子"这句话包含了多少信息量。

     解:设事件 A:某人就是胖子;

      B:某人就是不胖不瘦

     C:某人就是瘦子

     D:某人就是高血压者 根据题意,可知:P(A)=0、1

      P(B)=0、8

     P(C)=0、1 P(D|A)=0、15

     P(D|B)=0、1

     P(D|C)=0、05

      而“该地区得某一位高血压者就是胖子" 这一消息表明在 D 事件发生得条件下,A 事件得发生,故其概率为 P(A|D) 根据贝叶斯定律,可得:

     P(D)=P(A)* P(D|A)+P(B)* P(D|B)+P(C)* P(D|C)=0、1

     P(A|D)=P(AD)/P(D)=P(D|A)*P(A)/ P(D)=0、15*0、1/0、1=0、15

     故得知“该地区得某一位高血压者就是胖子"这一消息获得得多少信息量为:

     I(A|D)

     = - logP(A|D)=log(0、15)≈2、73 (bit)

     二、设有一个马尔可夫信源,它得状态集为{S 1 ,S 2 ,S 3 },符号集为{a 1 ,a 2 ,a 3 },以及在某状态下发出符号集得概率就是(i,k=1,2,3),如图所示

     (1)求图中马尔可夫信源得状态极限概率并找出符号得极限概率 (2)计算信源处在某一状态下输出符号得条件熵 H(X|S=j)

     (j=s 1 ,s 2 ,s 3 )

     (3)求出马尔可夫信源熵 解:(1)该信源达到平稳后,有以下关系成立:

      可得

     (2)

     (3)31( ) ( | ) 2/7*3/2 3/7*1 2/7*0 6/7i iiH Q E H X E     (比特/符号)

     三、二元对称信道得传递矩阵为 (1)若 P(0)=3/4,P(1)=1/4,求H(X),H(X|Y)与 I(X;Y) (2)求该信道得信道容量及其最大信道容量对应得最佳输入分布 解:⑴==0、811(比特/符号)

     =0、75*0、6+0、25*0、4=0、55 0、75*0、4+0、25*0、6=0、45 0、992(比特/符号) 1 2 2( | ) ( ) ( | ) ( ) ( | ) 0.75 (0.6,0.4) 0.25 (0.4,0.6)(0.6log0.6 0.4log0.4)0.971 /H Y X p x H Y x p x H Y x H H         (比特 符号)

     0、811+0、971—0、992=0、79 (比特/符号)

      =0、811—0、79=0、021(比特/符号)

      (2)此信道为二元对称信道,所以信道容量为

     C=1-H(p)=1—H(0、6)=1-0、971=0、029(比特/符号)

     当输入等概分布时达到信道容量 四、求信道得信道容量,其中. 解:这就是一个准对称信道,可把信道矩阵分为:, ,

     故21log ( 2 , 2 ,0,4 ) loglog2 ( 2 , 2 ,0,4 ) (1 4 )log(1 4 ) 4 log41 ( 2 , 2 ,4 ) (1 4 )log(1 4 ) 4 log4 ( /k kkC r H p p N MH p pH p p                                比特 符号)

     当输入等概分布时达到信道容量。

     1

      五、信源 (1)利用霍夫曼码编成二元变长得惟一可译码,并求其 (2)利用费诺码编成二元变长得惟一可译码,并求其 (3)利用香农码编成二元变长得惟一可译码,并求其 (1)香农编码: 信源符号 概率 P(x i )

     码长 l i

     累积概率 P 码字 x 1

     0、4 2 0 00 x 2

     0、2 3 0、4 011 x 3

     0、2 3 0、6 100 x 4

     0、1 4 0、8 1100 x 5

     0、05 5 0、9 11100 x 6

     0、05 5 0、95 11110 =0、4×2+0、2×3+0、2×3+0、1×4+0、05×5+0、05×5=2、9(码元/信源符号)

     η=H(X)/(

     logr)=2、222/2、9=0、7662(2)霍夫曼编码:

     =0、4×2+0、2×2×2+0、1×3+0、05×4×2=2、3(码元/信源符号) η=H(X)/(

     logr)=0、9964 (3)费诺编码:

     =0、4×2+0、2×2×2+0、1×3+0、05×4×2=2、3(码元/信源符号) η=H(X)/(

     logr)= 0、9964 六、设有一离散信道,传递矩阵为 设 P(x 1 )= P(x 2 )=1/4,P(x 3 )=1/2,试分别按最小错误概率准则与最大似然译码准则确定译码规则,并相应得计算机平均错误概率得大小. 解:(1)按最大似然译码准则

     F(y1)=x1

      F(y2)=x2

     F(y3)=x3

      P(E)=1/2(1/3+1/6)+1/4×2×(1/3+1/6)=1/2 (2) 联合概率矩阵为,则按最小错误概率准

      F(y1)=x3

     F(y2)=x2

     F(y3)=x3

      P(E)= 1/8+1/24+2/12 +1/24+1/12=11/24 八、一个三元对称信源 接收符号为 V={0,1,2},其失真矩阵为 (1)求D max 与 D min 及信源得 R(D)函数。

     (2)求出达到得正向试验信道得传递概率 解:(1)

     因为就是三元对称信源,又就是等概分布,所以根据 r 元离散对称信源可得 R(D)=log3-Dlog2-H(D)=log3-D-H(D)

      0<=D<=2/3

     =0

     D>2/3

      (2)满足 R(D)函数得信道其反向传递概率为

     根据根据贝叶斯定律,可得该信道得正向传递概率为:

     九、设二元码为 C=[11100,01001,10010,00111] (1)求此码得最小距离; (2)采用最小距离译码准则,试问接收序列10000,01100 与 00100应译成什么码字? (3)此码能纠正几位码元得错误? 解:(1)码距如左图

     故 d mi n =3 (2)码距如右图 故 10000 译为 10010,01100 译为 11100,00100译为11100 或 00111

     (3)根据,知此码能纠正一位码元得错误。

    • 范文大全
    • 职场知识
    • 精美散文
    • 名著
    • 讲坛
    • 诗歌
    • 礼仪知识