Logo GenDocs.ru

Поиск по сайту:  

Загрузка...

Контрольная работа - Теория информации. 1 - файл 1.doc


Контрольная работа - Теория информации. 1
скачать (76 kb.)

Доступные файлы (1):

1.doc76kb.09.12.2011 03:48скачать


1.doc

Факультет дистанционного образования

Томский государственный университет систем управления и радиоэлектроники (ТУСУР)

Кафедра автоматизации обработки информации (АОИ)

Контрольная работа №1

По дисциплине «Теория информации»
Учебное пособие Ю.П. Акулиничева, В.И. Дроздовой «Теория информации»

Вариант № 11
Задача 1.

Найти число значений m равномерно распределенной случайной величины V, при которой ее энтропия будет равна энтропии случайной величины Х, заданной таблицей 1.



Решение:

Энтропия случайной величины X определяется как



Энтропия равномерно распределенной случайной величины V:

.

По условию задачи , следовательно,

Отсюда .

Ответ: m=5.
Задача 2.

Канал без памяти задан матрицей условных вероятностей переходов (табл. 2).

Стационарный источник памяти генерирует символы с частотой .

Априорные вероятности символов на входе заданы таблицей 3.

Нарисовать граф канала. Вычислить скорость создания информации, скорость передачи информации, ненадежность.



Решение:

Канал можно изобразить в виде графа, используя матрицу переходов в общем виде:

.



Источник и канал стационарны и не имеют памяти, поэтому скорость создания информации равна H(A), скорость передачи информации равна I(A;B), ненадежность равна H(A/B).

Скорость создания информации:



Скорость передачи информации:

.

Для нахождения энтропии H(B) надо знать вероятности p(bk). Найдем p(bk), используя формулы:

где m=3 – код основания сообщения;















Ненадежность информации:



Ответ: скорость создания информации ,

скорость передачи информации ,

ненадежность информации .


Скачать файл (76 kb.)

Поиск по сайту:  

© gendocs.ru
При копировании укажите ссылку.
обратиться к администрации