Категория
Информатика
Тип
контрольная работа
Страницы
12 стр.
Дата
21.01.2014
Формат файла
.html — Html-документ
Архив
961605.zip — 8.58 kb
  • kolichestvennoe-opredelenie-informacii-jentropija-i-proizvoditelnost-diskretnogo-istochnik_961605_1.html — 32.65 Kb
  • Readme_docus.me.txt — 125 Bytes
Оцените работу
Хорошо  или  Плохо


Текст работы

Задание 1. Количественное определение информации. Энтропия и производительность дискретного источника сообщений


Задание:

1.
Найти количество информации, содержащейся в каждом из символов источника при их независимом выборе (источник без памяти). Вычислить энтропию и избыточность заданного источника.

.
Показать, что при равных объемах алфавитов К, энтропия Н(А) имеет максимальное значение Нмакс(А) = Iog2K при равновероятных символах.

.
Описать физические характеристики дискретных каналов и сигналов, а также процесс преобразования дискретных сообщений в электрические сигналы.

Исходные данные:

Источник сообщений выдает символы из ансамбля А={
?
i} (где i = 1,2,,3,4,5) с вероятностями, представленными в табл.1 в зависимости от последней цифры шифра.


Таблица 1

Параметр
P(?1)P(?2)P(?3)P(?4)P(?
5)0,20,30,250,150,1

Решение:

.
Количество информации I (ai), содержащееся в символе ai, выбираемом из ансамбля {ai} (i=1,2,3,…,K), где К - объем алфавита, с вероятностью P
(?
i), причем P
(?
i) = 1, определяется по формуле


I
(?
i) = -Iog2 P
(?
i).



Ваше мнение



CAPTCHA