大学2008-2009学年第一学期2006级信息与计算科学专业本科卷A参考答案

《信息论基础-期末试卷A答案》由会员上传分享，可免费在线阅读。 更多相关内容在教育资源-天天图书馆。

1、2008-2009学年第一学期信息与计算科学专业2006级本科生A卷参考答案及评分标准。 课程名称：信息论基础 课号（？？？） 考试形式（闭卷笔试） 时间（120 分钟）） 1.判断题：本题共有 10 题，每题值为 2 分，总分为20分。 1、√； 2、√； 3、×； 4、×； 5、√； 6、×； 7、×； 8、√； 9、√； 10、×。 2、填空题：本题共有7题，每填空值2分，总分为20分。 1、码字最小距离()； 2.（减少）冗余，提高编码效率； 提高信息传输的可靠性； 3、系统代码； 4、无失真信源编码定理、信道编码定理、有限失真信息信源编码定理； 5、通道、信号源均无记忆； 6.香农编码； 7. 3.计算题：本题共有4题。

2、满分50分。 （15分） 解：联合概率XY0的概率分布为Y-------------------- （2分） （1）-------- - -------- (2 分); 以2为底； ------------------ (1 分) (2); 第 4 页（共 5 页） 以 2 为基础； ------------------(2分)(3)。 ------------------(2分) 以它为底，令 = 0; 即可以得到---------------- --(2分)所以;--------------------(2点）最优入口分布为：。 ------------------(2分) 2.(15分) 解：根据状态转移图列出转移概率

3. 距离数组 ------------------ (1 分) (1) 设稳定状态的概率分布为，则可计算为 ----- --- ---------- (3分) (2) 由齐次遍历可得 ---------- (2分) (3) 符号 ----- -- --------(2分) 由最大熵定理可知，存在一个最大值：第4页，共5页，所以； 当p=2/3时； 0

4.源符号的数量必须满足-------------（3分）。 源码的三进制哈夫曼码如下： -------------- --(5分) 获取源码符号三进制紧凑码。 ------------- (2 分) 4. (10 分) 解： (1) 该代码的一致性检验矩阵为 Page 4 of 5-------- -- ---(2分) 由于二进制码的纠错范围是7个一位错误，所以各陪集对应的和如下： ―, ――, ――, ――--- ----- -----(4 分) (2) 当; 对比最小距离解码准则 和 之间的关系表，我们知道。 所以。 ------------- (4 分) 4. 证明题 (1

5. 0分）：证明：假设概率向量，根据熵函数表达式：；； ①------------- (2 分) ②------------ --(2 分)③------------- （2分）②+③得：-------------（2分）所以，①=②+③结论证明了方程（2）的物理意义：该方程的数学表达式为熵函数的递增性质。 它表明，如果原始源中存在一个符号（符号的概率分布）被划分为元素（符号），并且该符号的概率之和等于原始符号的概率，则新来源增加。 增加了分区带来的一定程度的不确定性。 -------------(2 分) 第 4 页，共 5 页