Question

Користуючись формулою К.Шеннона розв'язати задачі 1. Скільки інформації містить повідомлення про те, що на полі 4х4 одна із клітинок зафарбована? 2. У книзі 512 сторінок. Скільки інформації містить повідомлення про те, що на певній сторінці лежить закладка?

Answer 1

Ответ:

1.Формула К. Шеннона дає відповідь на запитання про те, скільки інформації міститься у повідомленні, яке містить одну з двох можливих відповідей з рівною ймовірністю. У цьому випадку:

n = log2(2) = 1 біт

Отже, повідомлення про те, що на полі 4х4 одна із клітинок зафарбована, містить 1 біт інформації.

2.У цьому випадку кожна сторінка може або не мати закладку, тому кількість можливих відповідей дорівнює 2 (закладка є або її немає). Застосуємо формулу К. Шеннона:

n = log2(2) = 1 біт

Отже, повідомлення про те, що на певній сторінці лежить закладка, містить 1 біт інформації.

Answer 2

Формула К. Шеннона використовується для обчислення кількості інформації в повідомленні на основі його ймовірностей. Формула виглядає наступним чином:

I = -log2(p)

де I - кількість інформації в бітах, p - ймовірність події.

1. Якщо на полі 4x4 одна з клітинок зафарбована, то існує 16 можливих місць для зафарбованої клітинки. Оскільки тільки одна з клітинок зафарбована, ймовірність того, що будь-яка певна клітинка зафарбована, дорівнює 1/16.

I = -log2(1/16) = -log2(2^-4) = 4 біти інформації.

Отже, повідомлення про те, що на полі 4x4 одна з клітинок зафарбована, містить 4 біти інформації.

2. У книзі 512 сторінок. Якщо на певній сторінці лежить закладка, то існує 512 можливих сторінок для закладки. Оскільки тільки одна сторінка містить закладку, ймовірність того, що будь-яка певна сторінка містить закладку, дорівнює 1/512.

I = -log2(1/512) = -log2(2^-9) = 9 бітів інформації.

Отже, повідомлення про те, що на певній сторінці книги лежить закладка, містить 9 бітів інформації.