Question

Сообщение записанное буквами из 64-символьного алфавита содержит 20 символов.Какой обьем информации оно несет?

Answer 1

N = 20
L = 64
$I = N \cdot log_2(L) = 20 \cdot log_2(64) = 20 \cdot 6 = 120$ - ответ

Answer 2

Для определения объема информации, несущейся в сообщении, можно использовать формулу Шеннона:

H = -Σ(p * log2(p))

где H - объем информации, p - вероятность появления каждого символа в сообщении.

В данном случае, сообщение записано буквами из 64-символьного алфавита и содержит 20 символов. Таким образом, каждый символ имеет вероятность 1/64 (так как в алфавите 64 символа).

Подставим значения в формулу:

H = -Σ((1/64) * log2(1/64))

Вычисляем:

H = -((1/64) * log2(1/64) + (1/64) * log2(1/64) + ... + (1/64) * log2(1/64))

H = -(20 * (1/64) * log2(1/64))

H ≈ -(20 * (1/64) * (-6))

H ≈ -(20 * 6/64)

H ≈ -(3/16)

H ≈ -0.1875

Таким образом, объем информации, несущейся в данном сообщении, составляет примерно 0.1875 бит.