Question

В коробочке 5синих и 15красных шариков.Какое количество информации несет сообщение,что из коробки достали синий шарик?

Answer 1

Всего шариков 5+15=20, шанс достать синий равен 5/20, т.е. 1/4.
Уменьшение неопределенности в наших знаниях при совершении события - это величина, обратная шансу его совершения. "Переворачиваем" дробь и получаем значение 4.
Осталось воспользоваться формулой Хартли и взять от этой четверки логарифм по основанию два, т.е. определить показатель степени двойки, в которую надо эту двойку возвести, чтобы получить число четыре. Это будет двойка и ответ: два бита.
Ответ: 2 бита.