第2章信息的度量

2.1-2.3随堂测试

1、单选题:
‏所谓波形信源(模拟信源),指的是(    )。‏
选项:
A: 时间离散空间连续信源
B: 时间连续空间连续信源
C: 时间离散空间离散信源
D: 时间连续空间离散信源
答案: 【 时间连续空间连续信源

2、单选题:
‍实际信源通常属于(   )。‍
选项:
A: 无记忆信源
B: DMS
C: 有记忆信源
D: N阶平稳信源
答案: 【 有记忆信源

3、单选题:
​信源X的先验不确定性是关于(    )的函数。‌
选项:
A: 先验概率
B: 信源X的符号集合
C: 转移大概
D: 信息
答案: 【 先验概率

4、单选题:
‌长度为N的DMS符号串的的不确定性为(   )。​
选项:
A: N倍的单符号的不确定性。
B: 信源整体的不确定性。
C: 和符号串整体的概率空间相关,与单符号的不确定性没有关系。
D: 单符号不确定性之和。
答案: 【 单符号不确定性之和。

5、多选题:
‌下列关于互信息量的描述,正确的是(   )。‎
选项:
A: 互信息量具有互易性。
B: 互信息量具有非负性。
C: 互信息量的上界值为实在信息。
D: 若两个随机变量相互独立,则他们彼此间的互信息为1。
答案: 【 互信息量具有互易性。;
互信息量的上界值为实在信息。

6、多选题:
‏下列关于信息的描述,正确的是(  )。‎
选项:
A: 信息是不确定性的减少。
B: 自信息量可描述信息。
C: 信息=先验不确定性-后验不确定性。
D: 先验概率越小,信源的实在信息越小。
答案: 【 信息是不确定性的减少。;
信息=先验不确定性-后验不确定性。

7、多选题:
‏关于自信息量的性质,正确的是(   )。‎
选项:
A: 概率为0时,规定自信息量为0。
B: 自信息量具有非负性。
C: 自信息量具有可加性:
D: 自信息量的可加性可推广到N维空间。
答案: 【 自信息量具有非负性。;
自信息量具有可加性:;
自信息量的可加性可推广到N维空间。

8、多选题:
​关于非理想观察模型,下列描述正确的是(   )。‏
选项:
A: 观察之前的不确定性为信源符号的先验不确定性。
B: 观察过程中的不确定性是由干扰引入的。
C: 后验不确定性一定小于先验不确定性。
D: 经过观察过程获得的信息为先验不确定性减去后验不确定性。
答案: 【 观察之前的不确定性为信源符号的先验不确定性。;
观察过程中的不确定性是由干扰引入的。;
经过观察过程获得的信息为先验不确定性减去后验不确定性。

2.4-2.7随堂测试

1、单选题:
下列物理量,不满足非负性的是()‎‎‎
选项:
A: H(X)
B:  I(X;Y)
C: I(x_k;y_j)
D: H(Y|X)
答案: 【  I(x_k;y_j)

2、单选题:
​下列表达式不正确的是(   )‌
选项:
A:
B:
C:
D:
答案: 【 

3、判断题:
‍无条件熵小于条件熵。‍
选项:
A: 正确
B: 错误
答案: 【 错误

4、判断题:
​对于DMS,长度为3的符号串的平均不确定是单个符号平均不确定的3倍。​
选项:
A: 正确
B: 错误
答案: 【 正确

5、判断题:
‏信源内部的关联性,会提高熵值。​
选项:
A: 正确
B: 错误
答案: 【 错误

6、填空题:
​在对信源进行观察之前,对认识主体来说,信源存在__________不确定性。‏
答案: 【 先验

7、填空题:
​在对信源进行观察之前,对认识主体来说,观察之后,信源还存在__________不确定性。‍
答案: 【 后验

8、填空题:
‎256个亮度值构成的信源,其熵值最大为__________比特。​
答案: 【 8

2.8-2.11随堂测试

1、多选题:
‎信源满足下列(      )条件时,为马尔可夫信源。‌
选项:
A: 某一时刻信源符号的输出只与当前的信源状态有关,而与以前的状态无关。
B: 某一时刻信源状态只与前一符号输出有关。
C: 信源当前符号输出只由当前输出符号和前一时刻状态确定。
D: 信源当前状态只由当前输出符号和前一时刻状态确定。
答案: 【 某一时刻信源符号的输出只与当前的信源状态有关,而与以前的状态无关。;
信源当前状态只由当前输出符号和前一时刻状态确定。

2、多选题:
‍下列关于微分熵的说法,正确的是(     )。‌
选项:
A: 连续信源的熵均为无穷大。
B: 连续信源的离散熵和平均互信息不具有绝对意义,但是具有相对意义。
C: 微分熵满足非负性。
D: 连续信源的平均互信息满足非负性。
答案: 【 连续信源的熵均为无穷大。;
连续信源的平均互信息满足非负性。

3、判断题:
​DMS的单符号熵就等于该信源的极限熵。‍
选项:
A: 正确
B: 错误
答案: 【 正确

4、判断题:
‌马尔可夫信源是一种记忆长度有限的有记忆信源。‍
选项:
A: 正确
B: 错误
答案: 【 正确

5、判断题:
‍所有的马尔可夫链都满足C-K方程。‌

剩余75%内容付费后可查看

发表评论

电子邮件地址不会被公开。 必填项已用*标注