Question

В корзине лежат 6 красных и 10 синих кубиков. Какое количество информации несут сообщения о том, что достали красный или желтый кубик?

Answer 1

Поскольку количество красных и синих кубиков неодинаково, вероятность достать кубик того или иного цвета различна. Выбираем формулу Шеннона.
$\displaystyle I=-(p_1\cdot\log_2p_1+p_2\cdot\log_2p_2); \\ \\ I=-\left(\frac{6}{16} \log_2\frac{6}{16}+\frac{10}{16} \log_2\frac{10}{16}\right)=\\ \\ -\frac{1}{16}\cdot(6\cdot(\log_26-\log_216)+10\cdot(\log_210-\log_216))=\\ \\ -\frac{1}{8}\cdot(3\cdot(\log_26-4)+5\cdot(\log_210-4))=\\ \\ \frac{12-3\log_26+20-5\log_210}{8} =4- \frac{3\cdot\log_26+5\cdot\log_210}{8} \approx 0.9544$