3.证明：I(X;Y)=H(X)-H(X|Y)。

I(X;Y)=ΣP(XiYj)log(P(Xi|Yj)/P(Xi))

                 =ΣP(XiYj)log(1/P(Xi))-ΣP(XiYj)log(1/P(Xi|Yj))

                 =ΣP(Xi)log(1/P(Xi))-ΣP(XiYj)log(1/P(Xi|Yj))

                 =H(X)-H(X|Y)

9.没有冗余度的信源还能不能压缩？为什么？

答：能；没有冗余度的信源，只能进行有损压缩，不能进行无损压缩。

12.等概率分布的信源还能不能压缩？为什么？你能举例说明吗？

答：可以进行有损压缩。因为“等概”未必“不相关”，例如：对正弦信号的均匀取样值。

15.有人认为：“图像的负片（黑白颠倒）比正片更容易压缩”。你同意他的观点吗？为什么？

答：不同意。图像的正负片的熵是相同的，即该图像的冗余度是相同的，所以压缩的容易程度是一样的。

16.有人认为：“相关的信源是非等概率分布的”。你同意他的观点吗？为什么？

答：同意。因为只要信源不是等概率分布，就存在着数据压缩的可能性。相关信源存在冗余度，能够进行有损和无损压缩，故相关信源是非等概率分布的。

第五次作业