91.:
gdzie: – informacja wzajemna Y o X, – entropia bezwarunkowa zbioru (zmiennej) X, – entropia warunkowa X pod warunkiem Y.
Innymi słowy, dotyczy informacji dostarczonej przez zmienną o zmiennej
Gdy odebrany komunikat zmniejsza nieokreśloność X do zera ilość przekazanej informacji jest równa entropii źródła Także (zawartość informacji w źródle, w zmiennej losowej, samoinformacja), gdyż
Przypisy
Kategoria:Teoria informacji