Question

Сколько бит информации получено из сообщения «Саша живет на 28-ом этаже», если в доме 38 этажей?

Answer 1

На каком бы этаже не жил(а) Саша, информация об этом этаже является одним вариантом из 38. Для такого случая американский ученый Ральф Хартли в 1928 году предложил несложную формулу. Об этом Вы можете почитать в учебниках или в Интернет. А запомнить нужно немножко другое. Дробь 1/38 "переворачиваем", получая 38. И теперь наша задача подобрать такую степень числа два, чтобы эта двойка, возведенная в подобранную нами степень, дала 38. В математике используют понятие логарифма по основанию 2 и пишут, что наш ответ - это ㏒₂38 ≈ 5.25 - именно во столько бит.и оценивается информация. Ну а приближенно мы помним, что 2⁵=32, 2⁶=64, а 38 - это между ними. Если нужно целочисленное решение - округляем до большего и даем ответ 6 бит.

Answer 2

Для определения количества информации в сообщении, нужно рассмотреть, сколько информации содержится в информации о том, на каком этаже живет Саша.

Для этого можно воспользоваться формулой Шеннона для количества информации:

I = log2(N)

где I - количество информации в битах, N - количество возможных вариантов или вероятностей.

В данном случае, у нас есть 38 этажей в доме. Из сообщения известно, что Саша живет на 28-м этаже. Таким образом, количество возможных вариантов, на которых может жить Саша, составляет 38.

I = log2(38) ≈ 5.25 бит.

Значит, из данного сообщения "Саша живет на 28-ом этаже" получено около 5.25 бит информации. Обратите внимание, что количество битов информации может быть нецелым числом, особенно, когда мы имеем дело с нестандартными вероятностями или выбором.