Question

Алфавит состоит из 80 символов. Какое количество информации несет один символ этого алфавита?

Answer 1

ответ - такое число х в битах, что 2 ^ х  > 80

=> х = 7 бит

Answer 2

Для определения количества информации, которое несет один символ алфавита, мы можем использовать понятие энтропии. Энтропия обозначает среднее количество информации, необходимое для передачи символа из этого алфавита.

Предположим, что каждый символ в этом алфавите имеет равную вероятность появления. Тогда формула для вычисления энтропии будет следующей:

Энтропия = log2(количество символов)

В данном случае, количество символов в алфавите равно 80, поэтому энтропия будет:

Энтропия = log2(80) ≈ 6.3219 бит

Таким образом, один символ этого алфавита несет примерно 6.3219 бит информации.