Question

В тексте 1600 букв. Буква «к» встречается 50 раз. Сколько бит информации в сообщении из трёх букв «к»?

Answer 1

3*8=16 бит

...............

Answer 2

Для определения количества бит информации в сообщении из трех букв "к", нам следует использовать формулу Шеннона:

$I = -\log_2(P)$

где:

• $I$ - количество бит информации,
• $P$ - вероятность появления данного события.

В данном случае, вероятность появления буквы "к" в тексте можно вычислить как отношение числа её вхождений (50) к общему числу букв в тексте (1600):

$P = \frac{\text{число вхождений "к"}}{\text{общее число букв}} = \frac{50}{1600}$

Подставив это значение в формулу Шеннона, мы получим количество бит информации в одной букве "к":

$I = -\log_2\left(\frac{50}{1600}\right) \approx 7.9542 \text{ бит}$

Так как нам дано сообщение из трех букв "к", общее количество бит информации в этом сообщении будет:

$\text{общее количество бит} = 7.9542 \text{ бит/буква} \times 3 \text{ буквы} \approx 23.8626 \text{ бит}$

Итак, количество бит информации в сообщении из трех букв "к" составляет около 23.8626 бита.