Question

Сообщение, записанное буквами из 128 символьного алфавита, содержит 30 символов. Какой объем информации оно несет?

Answer 1

$128 = 2^{7}$   Значит 7 бит информации могут нести 128 вариантов.

А 30 символов = 30 · 7 = 210 бит = 26.25 байт

Answer 2

Для определения объема информации, несомой сообщением, можно воспользоваться формулой Шеннона:

$H = - \sum_{i=1}^{n} P(x_i) \cdot \log_2(P(x_i))$

где:

• $H$ - количество информации в битах,
• $n$ - количество символов в алфавите (в данном случае 128),
• $P(x_i)$ - вероятность появления символа $x_i$ в сообщении.

Если предположить, что символы в сообщении равновероятны, то вероятность каждого символа будет равна $\frac{1}{n}$.

Поэтому, если сообщение содержит 30 символов из 128-символьного алфавита, и символы равновероятны, то объем информации будет:

$H = 30 \cdot \log_2(128) \approx 630 \text{ бит}$

Или, если вы хотите получить результат в байтах:

$\frac{H}{8} \approx 78.75 \text{ байт}$

Таким образом, сообщение несет около 78.75 байт информации.