Crowdly

для зменшення продуктивності джерела повідомлення

для збільшення продуктивності джерела повідомлення

зменшення надмірності повідомлень

Якщо підвектори випадкових символів

Image failed to load

, незалежні то:

умовна ентропія більша за безумовною:

умовна ентропія збігається з безумовною:

умовна ентропія меньша за безумовною:

Ентропія джерела повідомлень?

середня кількість інформації в одному знаку повідомлень, що видає джерело

це середня швидкість видавання інформації джерелом, тобто середня кількість інформації, що виробляється джерелом за секунду.

кількість інформації, яку можна отримати про джерело А, спостерігаючи джерело В, або навпаки

це його властивість видавати інформацію більшою кількістю знаків, ніж можна було б.

Чому дорівнює ентропія системи, яка складається з двох елементів, кожний з яких може з рівною імовірністю знаходитися у двох станах?

6,32 біта /стани

4 біт/ стани

8 біт/ стани

2 біт/стани

Якщо повідомлення заздалегідь відомо, то ентропія дорівнює:

∞

max

Ентропія джерела залежних повідомлень менше ентропії джерела незалежних повідомлень?

Загадана клітинка на шахматній дошці. Скільки питань, які потребують відповіді "Так" або "Ні", потрібно, щоб відгадати цю клітинку?

Сколькі двійкових разрядів потрібно, щоб закодувати алфавіт об'ємом в 33 знака?

Людина загадує число в діапозоні від 0до 15. Яку мінімальну кількість питань, які потребують відповіді "Так" або "Ні", необхідно. щоб відгадати це число?