Категория
Информатика
Тип
реферат
Страницы
11 стр.
Дата
01.08.2013
Формат файла
.doc — Microsoft Word
Архив
859759.zip — 13.98 kb
  • edinicy-kolichestva-informacii-verojatnostnyj-i-objomnyj-podxody_859759_1.doc — 59.5 Kb
  • Readme_docus.me.txt — 125 Bytes
Оцените работу
Хорошо  или  Плохо


Текст работы

ЕДИНИЦЫ КОЛИЧЕСТВА ИНФОРМАЦИИ:

ВЕРОЯТНОСТНЫЙ И ОБЪЕМНЫЙ ПОДХОДЫ



Определить понятие «количество информации» довольно сложно. В решении этой проблемы существуют два основных подхода. Исторически они возникли почти одновременно. В конце 40-х годов XX века один из основоположников кибернетики американский математик Клод Шеннон развил вероятностный подход к измерению количества информации, а работы по созданию ЭВМ привели к «объемному» подходу.

Вероятностный подход
Рассмотрим в качестве примера опыт, связанный с бросанием правильной игральной .кости, имеющей N граней (наиболее распространенным является случай шестигранной кости: N = 6). Результаты данного опыта могут быть следующие: выпадение грани с одним из следующих знаков: 1,2,... N.

Введем в рассмотрение численную величину, измеряющую неопределенность -
энтропию (обозначим ее Н). Величины N и Н связаны между собой некоторой функциональной зависимостью:

H=

f (

N)
,
                                                                 (1.1)

а сама функция
f является возрастающей, неотрицательной и определенной (в рассматриваемом нами примере) для N = 1, 2,... 6.

Рассмотрим процедуру бросания кости более подробно:

1) готовимся бросить кость; исход опыта неизвестен, т.е. имеется некоторая неопределенность; обозначим ее
H 1;

2) кость брошена; информация об исходе данного опыта получена; обозначим количество этой информации через I;

3) обозначим неопределенность данного опыта после его осуществления через



Ваше мнение



CAPTCHA