在連續(xù)信源中，根據(jù)差熵、條件差熵和聯(lián)合差熵的定義，證明
（1）h（X|Y）≤h（X），當(dāng)且僅當(dāng)X和Y統(tǒng)計獨(dú)立時等號成立；
（2）h（X1X2...XN）≤h（X1）+h（X2）+h（XN），當(dāng)且僅當(dāng)X1X2...XN彼此統(tǒng)計獨(dú)立時等式成立。

有一信源發(fā)出恒定寬度，但不同幅度的脈沖，幅度值處在a1和a2之間，此信源連至某信道，信道接收端接收脈沖的幅度y處在b1和b2之間。已知隨機(jī)變量X和Y的聯(lián)合概率密度函數(shù)：

試計算h（X），h（Y），h（XY）和I（X；Y）。

設(shè)給定兩隨機(jī)變量X1和X2，它們的聯(lián)合概率密度為：

求隨機(jī)變量Y1=X1+X2的概率密度函數(shù)，并計算變量Y的熵h（Y）。

設(shè)有一連續(xù)隨機(jī)變量，其概率密度函數(shù)為：

試求這隨機(jī)變量的熵。又若Y1=X+K（K>0），Y2=2X，試分別求出Y1和Y2的熵h（Y1）和h（Y2）。