信息论试题及答案信息论考试简答题

信息论试题及答案

　　信息论试是一门专业性比较强的课程，要学好这门课程，同学们还是要用心去学才能学好信息论试。下面是阳光网小编给大家整理的，欢迎大家学习参考。

　　信息论试题及答案

　　1.信息技术的基本内容是_______、_______、_____ __、_______。 2.已知英语字母的极限熵为 1bit ，且每个英语字母的'最大熵 H max =4.0651bit，则英语信源的冗余度为______。

　　3.当x i 和y j 相互独立时，互信息量I(x i ;y j )为______。

　　4. 熵函数是严格的_____函数。

　　5. 已知信源包含的消息用一种延长码组进行编码，它们的对应关系：x 1 0，x 2 01，x 3 011，x 4 0111。设收到的码元序列为 010101110011100110101110，它能唯一地被译成消息____ ____________。

　　6.信道容量的定义是___________ ____________ _______。

　　7.唯一可译码的码长必需满足一定条件，该条件为：_________ ______ 。

　　二、简述题 (20 分)

　　1、试简述信息的基本性质。

　　2、试通过简单的通信模型，描述平均互信息量的物理意义。

　　三、有两个二元随机变量X 和Y 的联合概率如下表，并定义另一随机变量Z=X ?Y (其中?代表异或运算，即当X，Y 取值相同时，Z 等于0，当X，Y 取值不相同时，Z 等于1) (15 分) Y X y 0 y 1 0 1 x 0 0 1/8 3/8 x 1 1 3/8 1/8 求： 1、I(x 0 ), I(y 1 ) 2、 ) ( X H ， ) ( Y H ， ) ( Z H 3、 ) ( XZ H ， ) ( XYZ H 4、 ) / ( Y X H ， ) / ( Z X H ， ) / ( XZ Y H 5、 ) ; ( Z X I ， ) / ; ( Z Y X I 四、设有一个信源，它产生 0，1 序列的消息。它在任意时间而且不论以前发出过

点击展开全文

信息论试题及答案 信息论考试简答题