1 z x y, 因 此 H ( X | YZ ) 0 , 而⏺I ( X ;YZ ) H ( X ) H ( X | YZ ) ,因此 I ( X ;YZ ) H ( X ) 。I (Y ; Z | X ) H (Y | X ) H (Y | XZ ) H (Y | X ) H (Y )I ( X ;Y | Z ) H ( X | Z ) H ( X | YZ ) H ( X | Z ) I (Y ; X | Z ) H (Y | Z ) H (Y | XZ ) H (Y | Z )[3.7] 设 X , Y 是两个相互统计独立的二元随机变量,其取“0”或“1”的概率为等概率分布。定义另一个二元随机变量 Z ,而且 Z XY (一般乘积),试计算:(1) H ( X ) , H (Y ) , H (Z ) ;(2) H ( XY ) , H ( XZ ) , H (YZ ) , H ( XYZ ) ;(3) H ( X | Y ) , H ( X | Z ) , H (Y | Z ) , H (Z | X ) , H (Z | Y ) ;⏺(4) H ( X | YZ ) , H (Y | XZ ) , H (Z | XY ) ;(5) I ( X ;Y ) , I ( X ; Z ) , I (Y ; Z ) ;(6) I ( X ;Y | Z ) , I (Y ; X | Z ) , I (Z ; X | Y ) , I (Z ;Y | X ) ;(7) I ( XY ; Z ) , I ( X ;YZ ) , I (Y ; XZ ) ;

1 z x y

, 因 此 H ( X | YZ ) 0 , 而

⏺

I ( X ;YZ ) H ( X ) H ( X | YZ ) ,因此 I ( X ;YZ ) H ( X ) 。

I (Y ; Z | X ) H (Y | X ) H (Y | XZ ) H (Y | X ) H (Y )

I ( X ;Y | Z ) H ( X | Z ) H ( X | YZ )

 H ( X | Z )

 I (Y ; X | Z )

 H (Y | Z ) H (Y | XZ )

 H (Y | Z )

[3.7] 设 X , Y 是两个相互统计独立的二元随机变量,其取“0”或“1”的概率为

等概率分布。定义另一个二元随机变量 Z ,而且 Z XY (一般乘积),试计算:

(1) H ( X ) , H (Y ) , H (Z ) ;

(2) H ( XY ) , H ( XZ ) , H (YZ ) , H ( XYZ ) ;

(3) H ( X | Y ) , H ( X | Z ) , H (Y | Z ) , H (Z | X ) , H (Z | Y ) ;

⏺

(4) H ( X | YZ ) , H (Y | XZ ) , H (Z | XY ) ;

(5) I ( X ;Y ) , I ( X ; Z ) , I (Y ; Z ) ;

(6) I ( X ;Y | Z ) , I (Y ; X | Z ) , I (Z ; X | Y ) , I (Z ;Y | X ) ;

(7) I ( XY ; Z ) , I ( X ;YZ ) , I (Y ; XZ ) ;