3-3 证明：I(X ; Y) = H(X) - H(X | Y)。
证明如下：

3-9   没有冗余度的信源还能不能压缩？为什么？

答：没有冗余度的信源，不能进行压缩，如果要进行压缩，那么信源就会失真，不能回到原来的状态。

3-12   等概率分布的信源还能不能压缩？为什么？你能举例说明吗？

答：等概率分布的信源可以进行压缩，当信源不相关的时候，才不能进行压缩，而等概率不一定就不相关，因此，可以压缩。例如：对正弦信号的均匀取样值。

3-15   3-15 有人认为：“图像的负片（黑白颠倒）比正片更容易压缩”。你同意他的观点吗？为什么？

答：我不同意该观点，不管是负片还是正片，熵是一样的，所以压缩难易程度也会相同。

3-16   3.-16 有人认为：“相关的信源是非等概率分布的”。你同意他的观点吗？为什么？

答：不同意。如果信源存在冗余，则可以进行压缩，所以信源是非等概率分布的。

第五次作业