Question

Сообщение, записанное буквами 16-символьного алфавита, содержит 832 символов. Какое количество информации оно несёт?

Answer 1

Ответ:

416 байт

Объяснение:

I = K * i, где

I - количество информации текстового сообщения (размер файла, содержащего сообщение)

K - количество символов в сообщении

i - информационный вес одного символа (число бит, используемых для записи одного символа)

N = 2^i, где  

N - мощность алфавита (количество символов в алфавите)

i - информационный вес одного символа (число бит, используемых для записи одного символа)

^ - знак степени

Дано:

N = 16 символов

K = 832 символа

Найти:

I

16 = 2^i

16 = 2⁴

i = 4 бит

I = 832 * 4 = 3 328 бит = 3 328 / 8 = 416 байт

1 байт = 8 бит

Answer 2

Для расчета количества информации, которое несет сообщение, можно использовать формулу Шеннона для энтропии:

H = -Σ(p_i * log2(p_i))

где: H - энтропия (количество информации в сообщении), p_i - вероятность появления каждого символа в сообщении.

В данном случае, у нас есть 16-символьный алфавит, и мы знаем, что сообщение содержит 832 символа. Для вычисления вероятности появления каждого символа, мы можем разделить количество появлений каждого символа на общее количество символов в сообщении.

Давайте предположим, что все символы равновероятны:

p_i = 1/16 для каждого символа, так как у нас 16 символов в алфавите.

Теперь мы можем вычислить энтропию:

H = -Σ(1/16 * log2(1/16)) для всех 16 символов.

H ≈ -16 * (1/16 * log2(1/16)) ≈ -16 * (-4) = 64 бита информации.

Таким образом, данное сообщение несет 64 бита информации.