Question

Найти количество информации в сообщении длиной 4 с вероятностями p=0,25

Answer 1

Видимо, имеется в виду, что используется алфавит из 2 символов (для определённости, a и b), в котором вероятность встретить символ a равна 0.25, а символа b 1 - 0.25 = 0.75.

Найдём информационный вес одного символа:

$\displaystyle i=\sum p_i\log_2\frac1{p_i}=0.75\log_2\frac43+0.25\log_24=0.81\text { bit}$

Количество информации в сообщении из 4 символов равно

0.81 бит * 4 = 3.24 бит

Answer 2

Для расчета количества информации в сообщении длиной 4 с вероятностями p=0,25, нам необходимо воспользоваться формулой для вычисления количества информации (также известной как информационная энтропия). Формула выглядит следующим образом:

Информация = -log2(p)

где p - вероятность события.

Для каждого символа в сообщении длиной 4 с вероятностью p=0,25:

Информация = -log2(0,25) = -log2(1/4) = -log2(2^-2) = 2

Так как все символы независимы друг от друга, общее количество информации в сообщении равно сумме информации каждого символа:

Итого, количество информации в сообщении длиной 4 с вероятностями p=0,25 составляет 4 * 2 = 8 бит.