1-2 设有4个符号,其中前3个符号的出现概率分别为1/4,1/8,1/8,且各符号的出现是相
互独立的。试计算该符号集的平均信息量。
记事件A_i:第i个符号出现
$$ P(A_4) = 1 - \sum_{i = 1}^3P(A_i) = \dfrac{1}{2} $$
$$ H = - \sum_{i = 1}^4P(A_i)lb P(A_i) = \dfrac{7}{4}b $$
1-3 某信息源符号集由A,B,C,D组成,若传输每一个字母用二进制码元编码,“00”代表A
,“01”代表B,“10”代表C,“11”代表D,每个二进制码元宽度为5ms。
(1)不同的字母是等可能出现时,试计算传输的平均信息速率;
(2)若每个字母出现的可能性分别为:
$$ P_A = \dfrac{1}{5}, P_B = \dfrac{1}{4}, P_C = \dfrac{1}{4}, P_D =
\dfrac{3}{10} $$
试计算传输的平均信息速率。
$$ R_b = \dfrac{1}{T_b} = 200b/s $$
记事件A_i:第i个符号出现
$$ R_b = - \sum_{i = 1}^4 P(A_i) R_b = 200b/s $$
确定求的不是平均信息量?
1-4 一部电话机键盘上有10个数字键(0~9)。设发送数字1的概率为0.3,发送数字3和8的
概率分别为0.14,发送数字2,4,5,6,7,9和0的概率分别为0.06,试求:
(1)每个键的平均信息量(熵);
(2)如果按键速率为2个/s,试计算传送的信息速率。
记事件A_i:发送数字i
$$ H = - \sum_{i = 1}^{10}P(A_i)lb P(A_i) \approx 3.02b $$
$$ R_b = R_B \times H = 6. 04b/s $$
1-6 设二进制数字传输系统每隔0.4ms发送一个码元。试求:
(1)该系统的信息速率;
(2)若改为传送十六进制信号码元,发送码元间隔不变,则系统的信息速率变为多少(设
各码元独立等概率出现)?
$$ R_B = \dfrac{1}{T_b} = 2500Hz $$
$$ H = lb2 = 1 $$
$$ R_b = R_B \times H = 2500b/s $$
$$ H = lb_{16} = 4 $$
$$ R_b = R_B \times H = 10000b/s $$
1-7 某信源符号集由A,B,C,D和E组成,设每一符号独立出现,其出现概率分别为1/4,
1/8,1/8,3/16和5/16。若每秒传输1000个符号。试求:
(1)该信源符号的平均信息量;
(2)1h内传送的信息量;
(3)若信源等概率发送每个符号,求1h传送的信息量。
记事件A_i:第i个符号出现
$$ H = - \sum_{i = 1}^5P(A_i)lb P(A_i) \approx 2.23b $$
$$ R_b = R_B \times H = 2.23kb/s $$
$$ I = R_b \times t = 8.028 Mb $$
$$ H = lb 5 = 2.33b $$
$$ R_b = R_B \times H = 2.33kb/s $$
$$ I = R_b \times t = 8.388 Mb $$
4-8 设一幅黑白数字相片有400万个像素,每个像素有16个亮度等级。若用3kHz带宽的信
道传输,且信号噪声功率比等于20dB,试问需要传输多少时间?
$$ R_b = B lb(1 + \dfrac{S}{N}) /approx 19.96kb/s $$
$$ H = lb 16 = 4 $$
$$ I = N \times H = 16Mb $$
$$ t = \dfrac{I}{R_b} /approx 801.6s $$