Скачать Лекции по Теории Информации

Уважаемый гость, на данной странице Вам доступен материал по теме: Скачать Лекции по Теории Информации. Скачивание возможно на компьютер и телефон через торрент, а также сервер загрузок по ссылке ниже. Рекомендуем также другие статьи из категории «Справочники».

Скачать Лекции по Теории Информации.rar
Закачек 791
Средняя скорость 3111 Kb/s
Скачать

Год публикации: 2006

Библиографическая ссылка:: Фурсов В.А. Лекции по теории информации: Учебное пособие / Под редакцией Н.А. Кузнецова. — Самара: Изд-во Самар. гос. аэрокосм. ун-та, 2006. — 148 с.

Для того, чтобы оценить ресурс, необходимо авторизоваться.

В учебном пособии рассматриваются модели сигналов, основы теории информации и кодирования, а также некоторые вопросы приема и обработка информации. Книга составлена как сборник лекций, каждая из которых посвящена одной теме. Дается краткое конспективное изложение основных вопросов. Лекции занимают промежуточное положение между справочниками и солидными изданиями и адресованы студентам, обучающимся по учебным планам бакалавров и специалистов.

Министерство образования и науки Российской Федерации Федеральное государственное бюджетное образовательное учреждение высшего профессионального образования

Санкт-Петербургский национальный исследовательский университет

информационных технологий, механики и оптики

Факультет Компьютерных технологий и управления Кафедра БИТ

Конспект лекций по дисциплине

Большаков Никита 2133

Основные сведения из теории вероятности

Вероятность. Случайные события и величины

Классическое определение вероятности

Свойства вероятности. Сложение и умножение случайных событий.

Математическое ожидание случайной величины и его основные свойства

Определение математического ожидания

Формулы вычисления математического ожидания

Дисперсия случайной величины и её основные свойства.

Энтропия и информация

Энтропия как мера неопределённости

Энтропия сложных событий. Условная энтропия

Понятие об информации.

Определение энтропии перечислением её свойств

Различные виды кодов и их характерные особенности

Метод двоичной системы счисления

Код Шеннона — Фано

Основная теорема о кодировании

Энтропия и информация конкретных типов сообщений. Письменная речь.

Передача непрерывно изменяющихся сообщений. Телевизионные сообщения

Вопросы к зачёту по курсу ТИ.

Литература по кодированию и декодированию

Основные сведения из теории вероятности

Термин информация в курсе будет пониматься в узком научном смысле.

Теория информации – специальная математическая дисциплина. Её содержанием явля-ется абстрактно формулируемые теоремы и модели. ТИ имеет обширное применение к теории передачи сообщений, записывающих устройств, матлингвистике, компьютерной технике.

В самом общем виде теория информации понимается как теория передачи сигналов по линиям связи. Наиболее важное понятие ТИ –- сама информация. В нашей жизни боль-шую роль играет информация и связанные с ней операции: передача, получение, обра-ботка, хранение.

Информация имеет две стороны: количественную и качественную. Иногда важно полу-чение общего количества информации (количественная сторона), иногда важно конкрет-ное содержание самой ИИ. Отметим, что переработка ИИ является технически сложной процедурой, которая усложняет разработку общей теории информации.

Важнейшим этапом в открытии основных закономерностей ТИ были работы американ-ского инженера-связиста, математика Клода Шеннона (1947-49гг).

Для вычисления количества информации была предложена т.н. логарифмическая мера. Понятие количества информации тесно связано с понятием энтропии как меры степени неопределённости. Приобретение информации сопровождается уменьшением неопре-делённости, следовательно, количество информации можно измерять количеством »ис-чезнувшей неопределённости» (энтропии).

Теория информации является математической теорией, использующей понятия и методы теории вероятности.

Вероятность. Случайные события и величины

Пусть производится серия из N опытов, причём некоторое событие A происходит в Na


Статьи по теме