Question

В озере обитает 12500 окуней,25000 пискарей,6250 карасей и 6250 щук. Сколько информации будет получено,если поймать 1 рыбу?

Answer 1

Общее количество рыб равно 12500+25000+6250+6250=50 000
Вероятность вытащить окуня составляет 12500/50000=1/4.
Вероятность вытащить пескаря составляет 25000/50000=1/2.
Вероятность вытащить карася составляет 6250/50000=1/8.
Вероятность вытащить щуку составляет 6250/50000=1/8.
События имеют разную вероятность, поэтому количество информации определяем по формуле Шеннона
$\displaystyle I=-\sum_{i=1}^Np_i\log_2p_i \\ I=-\left(\frac{1}{4}\log_2 \frac{1}{4}+\frac{1}{2}\log_2 \frac{1}{2}+\frac{1}{8}\log_2 \frac{1}{8}+\frac{1}{8}\log_2 \frac{1}{8}\right)= \\ -\left(\frac{1}{4}\log_2 2^{-2}+\frac{1}{2}\log_2 2^{-1}+\frac{1}{8}\log_2 2^{-3}+\frac{1}{8}\log_2 2^{-3}\right)= \\ -\left(-\frac{1}{2}- \frac{1}{2} - \frac{3}{8}- \frac{3}{8}\right)=0.5+0.5+0.375+0.375=1.75$
Ответ: 1.75 бит