3-3  证明：I(X;Y)=H(X)-H(X|Y)

3-9  没有冗余度的信源还能不能压缩？为什么？

 答：能。

     没有冗余度的信源，还能进行有损压缩，但是不能进行无损压缩。

      因为无损压缩   数据=信息+冗余量

3-12 等概率分布的信源还能不能压缩？为什么？你能举例说明吗？

     答：至少可以进行有损压缩。因为“等概”未必“不相关”，例如：对正弦信号的均匀取样值。

3-15 有人认为：“图像的负片（黑白颠倒）比正片更容易压缩”。你同意他的观点吗？为什么？

     不同意。图像的正负片的熵是相同的，在压缩结果一致的情况下，压缩率是一样的。

3.-16 有人认为：“相关的信源是非等概率分布的”。你同意他的观点吗？为什么？

     答：不同意。因为“等概”未必“不相关”，“不等概”未必“相关”。非等概率分布能说明存在冗余度，能够进行压缩，能得出该信源是非等概率分布的。 

第五次作业