Question

Племя мульти пишет письма , пользуясь 16 символьным алфавитом. Вождь племени написал письмо , содержащее 64 символа. Каков информационный объем сообщения, содержащегося в письме в байтах?

Answer 1

N = 16

i = 4

k = 64

I = i * k

I = 4 * 64 = 256 Бит

Ответ: 256 Бит

Answer 2

Информационный объем сообщения можно вычислить, используя формулу Шеннона для вычисления энтропии:

$H = - \sum_{i=1}^{n} p(x_i) \cdot \log_2(p(x_i))$

где $p(x_i)$ - вероятность появления символа $x_i$ в сообщении, а $n$ - количество символов в алфавите.

Для данной задачи у нас 16 символов в алфавите (предполагая, что все символы равновероятны), и длина сообщения 64 символа. Таким образом, каждый символ встречается в сообщении $\frac{64}{16} = 4$ раза.

Подставим $p(x_i) = \frac{1}{16}$ в формулу энтропии:

$H = - \sum_{i=1}^{16} \frac{1}{16} \cdot \log_2\left(\frac{1}{16}\right) = -16 \cdot \left(\frac{1}{16} \cdot \log_2\left(\frac{1}{16}\right)\right) = -\log_2\left(\frac{1}{16}\right) = -(-4) = 4$

Итак, информационный объем сообщения равен 4 битам. Чтобы выразить его в байтах, нужно поделить на 8:

$\text{Информационный объем (в байтах)} = \frac{4}{8} = 0.5 \text{ байта}$

Таким образом, информационный объем сообщения, содержащегося в письме, составляет 0.5 байта.