相互資訊

喺考慮兩個隨機變數嗰陣時，相互資訊（mutual information）指嘅係透過觀察第一個變數能夠得知嘅有關第二個變數嘅訊息。