Question

Сообщение, записанное буквами из 16-символьного алфавита, содержит 50 символов. Какой объём информации оно несёт? Срочно надо!пжжжжжжжжжж

Answer 1

Для шифрования 16 символов алфавита достаточно 4 бита, так как $2^4 = 16$.

4*50 = 200 бит = 25 Байт

Answer 2

Для определения объёма информации, несущейся в сообщении, можно использовать формулу Шеннона для вычисления энтропии:

Энтропия (H) = Σ (-p * log2(p))

Где:

• Σ означает суммирование по всем символам алфавита;
• p - вероятность появления каждого символа в сообщении;
• log2 - логарифм по основанию 2.

Предположим, что все символы из 16-символьного алфавита равновероятны, то есть вероятность появления каждого символа составляет 1/16.

Теперь вычислим энтропию: H = 16 * (-1/16 * log2(1/16)) = 16 * (-1/16 * (-4)) = 16 * 0.25 = 4 бита на символ.

Итак, сообщение из 50 символов содержит 50 * 4 = 200 бит информации.