Question

Двоичный источник формирует сообщение вида 1110111000110010101. Символы в сообщении независимы и равновероятны. Рассчитать количество информации в сообщении.

Answer 1

Ответ:

1 бит=8 байт

Каждый символ = 1 бит

19 бит

Answer 2

Для рассчета количества информации в сообщении, мы можем использовать формулу Шеннона:

I = -log2(P)

где:

• I - количество информации в битах,
• P - вероятность появления символа.

В данном случае, у нас всего два возможных символа: 0 и 1. Поскольку символы равновероятны, вероятность каждого из них равна 0.5 (или 50%).

Теперь, рассчитаем количество информации для каждого символа:

Для символа "0": I(0) = -log2(0.5) = -(-1) = 1 бит

Для символа "1": I(1) = -log2(0.5) = -(-1) = 1 бит

Теперь посчитаем общее количество информации в сообщении, умножив количество информации для каждого символа на количество символов в сообщении:

Общее количество информации = (1 бит * количество "0" символов) + (1 бит * количество "1" символов)

Сообщение: 1110111000110010101

Количество "0" символов: 7 Количество "1" символов: 12

Общее количество информации = (1 бит * 7) + (1 бит * 12) = 7 бит + 12 бит = 19 бит

Таким образом, количество информации в сообщении составляет 19 бит.