Question

В коробке лежат 16 разноцветных карандашей. какое количество информации содержит сообщение,что из коробки достали красный карандаш?

Answer 1

Если все карандаши разных неповторяющихся цветов, то для кодирования 1 цвета понадобится log2(16) = 4 бит. Тогда информация, полученная от вынутого из коробки карандаша, равна 4 битам

Answer 2

Количество информации, содержащейся в сообщении о доставшемся красном карандаше, можно определить с использованием понятия информационной энтропии.

Информационная энтропия (H) измеряет количество информации, которое несет событие. Она выражается в единицах, называемых битами.

В данном случае, если у нас есть 16 разноцветных карандашей, и мы узнали, что достали красный карандаш, то остается 15 других возможных вариантов цветов. Количество информации, содержащейся в сообщении о доставшемся красном карандаше, можно выразить следующим образом:

H = log2(15) ≈ 3,91 бит.

Таким образом, сообщение о доставшемся красном карандаше содержит примерно 3,91 бит информации.