設X，Y是兩個相互統(tǒng)計獨立的二元隨機變量，其取“0”或“1”的概率為等概率分布。定義另一個二元隨機變量Z，而且Z=XY（一般乘積），試計算：
（1）H（X），H（Y），H（Z）；
（2）H（XY），H（XZ），H（YZ），H（XYZ）；
（3）H（X|Y），H（X|Z），H（Y|Z），H（Z|X），H（Z|Y）；
（4）H（X|YZ），H（Y|XZ），H（Z|XY）；
（5）I（X；Y），I（X；Z），I（Y；Z）；
（6）I（X；Y|Z），I（Y；X|Z），I（Z；X|Y），I（Z；Y|X）；
（7）I（XY；Z），I（X；YZ），I（Y；XZ）。

若有三個離散隨機變量，有如下關系：X+Y=Z，其中X和Y相互統(tǒng)計獨立，試證明：
（1）H（X）≤H（Z），當且僅當Y是常量時等式成立；
（2）H（Y）≤H（Z），當且僅當X為常量時等式成立；
（3）H（Z）≤H（XY）≤H（X）+H（Y），當且僅當X，Y中任意一個為常量時等式成立；
（4）I（X；Z）=H（Z）−H（Y）；
（5）I（XY；Z）=H（Z）；
（6）I（X；YZ）=H（X）；
（7）I（Y；Z|X）=H（Y）；
（8）I（X；Y|Z）=H（X|Z）=H（Y|Z）。

若X、Y和Z是三個隨機變量，試證明：
（1）I（X；YZ）=I（X；Y）+I（X；Z|Y）=I（X；Z）+I（X；Y|Z）
（2）I（X；Y|Z）=I（Y；X|Z）=H（X|Z）−H（X|YZ）
（3）I（X；Y|Z）≥0當且僅當（X，Z，Y）是馬氏鏈時等式成立。

設二元對稱信道的傳遞矩陣為

（1）若P（0）=3/4，P（1）=1/4，求H（X），H（X|Y），H（Y|X）和I（X；Y）；
（2）求該信道的信道容量及其達到信道容量時的輸入概率分布。