WWW.DISSERS.RU

БЕСПЛАТНАЯ ЭЛЕКТРОННАЯ БИБЛИОТЕКА

   Добро пожаловать!


Pages:     || 2 | 3 | 4 |
МИНИСТЕРСТВО ОБРАЗОВАНИЯ РОССИЙСКОЙ ФЕДЕРАЦИИ Северо-Западный государственный заочный технический университет Кафедра метрологии ТЕОРИЯ ИНФОРМАЦИИ РАБОЧАЯ ПРОГРАММА МЕТОДИЧЕСКИЕ УКАЗАНИЯ К ИЗУЧЕНИЮ ДИСЦИПЛИНЫ ЗАДАНИЯ НА КОНТРОЛЬНУЮ РАБОТУ МЕТОДИЧЕСКИЕ УКАЗАНИЯ К ВЫПОЛНЕНИЮ КОНТРОЛЬНОЙ РАБОТЫ Факультет радиоэлектроники Направление и специальность подготовки дипломированных специалистов 653800 – стандартизация, сертификация и метрология 190800 – метрология и метрологическое обеспечение Направление подготовки бакалавров 552200 – метрология, стандартизация и сертификация Санкт-Петербург 2002 Утверждено редакционно-издательским советом университета УДК 621.391(07) Теория информации. Рабочая программа, методические указания, задания на контрольную работу, методические указания к выполнению контрольной работы. СПб.: СЗТУ, 2002. 34 с.

Дисциплина охватывает фундаментальные сведения об энтропии, информации и измерительной информации, необходимые для изучения последующих дисциплин.

Рабочая программа дисциплины соответствует требованиям Государственных образовательных стандартов высшего профессионального образования по направлению и специальности подготовки дипломированных специалистов (653800-“Стандартизация, сертификация и метрология”, 190800-“Метрология и метрологическое обеспечение”) и направлению подготовки бакалавров 552200-“Метрология, стандартизация и сертификация”.

Методический сборник содержит рабочую программу, методические указания для ее изучения, тематический план лекций, перечень основной и дополнительной литературы, задания на контрольную работу и методические указания к ее выполнению.

Рассмотрено и утверждено на заседании кафедры метрологии 21 ноября 2000 г.

Одобрено методической комиссией факультета радиоэлектроники 14 декабря 2000 г.

Рецензенты: кафедра метрологии СЗТУ (заведующий кафедрой И.Ф.Шишкин, д-р техн. наук; проф); С.А. Кравченко, д-р техн. наук; с.н.с., ведущий научный сотрудник ГУП “ВНИИМ им.Д.И.Менделеева”.

Составители: В.М. Станякин, канд. техн. наук, доц.

Б.Я. Литвинов, канд. техн. наук, доц.

© Северо-Западный государственный заочный технический университет 1. ЦЕЛИ И ЗАДАЧИ ИЗУЧЕНИЯ ДИСЦИПЛИНЫ В условиях рыночной экономики важнейшим инструментом успешной деятельности предприятий становится качество измерительной информации, Поэтому в учебном плане инженерной специальности 190800 “Метрология и метрологическое обеспечение” включена дисциплина “Теория информации”.

Цель изучения дисциплины – подготовка студентов к изучению последующих дисциплин как формирующих научно-теоретические основы специальности, так и остальных.

Основные задачи дисциплины – усвоение основных положений информационного подхода к анализу и синтезу объектов, явлений и систем;

введение в информационную теорию измерений и измерительных устройств, усвоение ее аксиоматических положений и разработанных на их основе методов обработки результатов измерений.

В результате изучения дисциплины студент должен - иметь представление о способах отражения в сознании человека окружающего мира и соответствующих им видах информации; об онтологических и семиотических аспектах информации;

- знать и уметь использовать математические модели информационных процессов; различные подходы к оценке количества информации;

закономерности информационных процессов в физических и нефизических системах; способы оценки точности и качества измерений с использованием энтропийных значений неопределенности измерений; практические методы определения энтропийного значения; неопределенности измерений на основе как теоретических, так и экспериментальных данных;

- иметь опыт (навыки) определения количественных характеристик информационных процессов; правильного использования различных видов информации; определения энтропийного значения; неопределенности измерений; перехода от информационных оценок точности измерений к оценкам на основе использования доверительных интервалов.

Курс “Теория информации ” базируется на дисциплинах “Философия”, “Физика”, “Высшая математика” и служит, в свою очередь, основой для изучения дисциплин “Теоретическая метрология”, “Прикладная метрология”, “Основы квалиметрии”, “Взаимозаменяемость”, “Основы приборостроения”, “Измерительные преобразования и преобразователи”, “Основы радиотехники”, “Информационные измерительные системы”, “Основы научных исследований”.

Итогом изучения дисциплины является сдача студентами зачета.

2. СТРУКТУРА ДИСЦИПЛИНЫ Теория информации 3. СОДЕРЖАНИЕ ДИСЦИПЛИНЫ РАБОЧАЯ ПРОГРАММА (объем 100 часов) ВВЕДЕНИЕ (2 часа) Предмет, цели и задачи и объекты курса “Теория информации”. Основные этапы развития теории информации. Вклад отечественных и зарубежных ученых в развитие теории информации. Особенности современного этапа развития теории информации. Теория информации, информатика и информационные технологии. Уровень информационной культуры общества.

Структура курса, его роль и место в формировании мировоззрения и базы знаний инженера – метролога, связь с другими дисциплинами. Организация изучения курса.

Энтропия Информация и энергия Количество информации Отражение и информация Измерительная информация Вероятностно-статистические источников сообщений и каналов Информационные характеристики Информация в системах управления характеристики источника сообщений 3.1. ОТРАЖЕНИЕ И ИНФОРМАЦИЯ (4 часа) Два свойства материи: свойство существовать и свойство отражаться (иметь структуру или информацию). Материя как совокупность всех первичных источников информации. Отражение как совокупность всех способов получения информации. Информация – продукт отражения материи в сознании человека, отраженное многообразие. Диалектика отражения. Онтологический и семиотический аспекты информации.



Качественно различные способы отражения и соответствующие им виды информации: чувственная (синтаксическая), логическая (семантическая), прагматическая.

Средства измерений как устройства, расширяющие возможности отражения органов чувств человека. Средства измерений как источники информации, сообщений.

3.2. ВЕРОЯТНОСТНО - СТАТИСТИЧЕСКИЕ ХАРАКТЕРИСТИКИ ИСТОЧНИКА СООБЩЕНИЙ (12 часов) Дискретный источник сообщений. Ряд распределений, функция распределения и числовые характеристики дискретной случайной величины.

Непрерывный источник сообщений. Плотность распределения, функция распределения и числовые характеристики непрерывной случайной величины.

Системы случайных величин. Числовые характеристики многомерных распределений.

3.3. ЭНТРОПИЯ (16 часов) Энтропия – мера неопределенности состояний источника сообщений в среднем. Мера неопределенности Р. Хартли и К. Шеннона. Свойства энтропии дискретного источника. Априорная (безусловная) энтропия. Апостериорная (условная) энтропия дискретного источника и ее свойства. Диаграммы Венна.

Энтропия непрерывного источника сообщений. Дифференциальная энтропия. Свойства дифференциальной энтропии. Эпсилон – энтропия случайной величины.

Энтропия системы случайных величин. Взаимная энтропия.

3.4. КОЛИЧЕСТВО ИНФОРМАЦИИ (8 часов) Три подхода к определению понятия “Количество информации”:

комбинаторный, вероятностный, алгоритмический. Количество информации как мера снятой неопределенности. Количество синтаксической информации.

Количество семантической информации.

3.5. ИНФОРМАЦИОННЫЕ ХАРАКТЕРИСТИКИ ИСТОЧНИКОВ СООБЩЕНИЙ И КАНАЛОВ (16 часов) Классификация источников сообщений и каналов.

Информационные характеристики источников сообщений: энтропия (безусловная, условная), количество информации, избыточность сообщения, производительность источника.

Информационные характеристики каналов: скорость передачи информации, максимальная скорость передачи информации (пропускная способность канала), коэффициент использования канала.

Информационные характеристики источников дискретных сообщений.

Модели источников дискретных сообщений. Свойства эргодических источников. Избыточность и производительность дискретного источника.

Двоичный источник сообщений.

Информационные характеристики дискретных каналов. Идеальные (без помех) и реальные (с помехами) каналы. Скорость передачи и пропускная способность канала. Двоичный и “m – ичный” канал.

Эффективное оптимальное кодирование как способ согласования информационных характеристик источника и канала. Кодирование источников без памяти (символы сообщений независимы) и с памятью (символы коррелированы между собой).

Информационные характеристики источников непрерывных сообщений.

Дифференциальная энтропия. Энтропия равномерного распределения.

Энтропия гауссовского белого шума. Эпсилон – энтропия и эпсилон – производительность источника. Избыточность.

Информационные характеристики непрерывных каналов. Модели непрерывных каналов. Скорость передачи информации и пропускная способность.

Сравнение пропускных способностей дискретных и непрерывных каналов.

3.6. ИЗМЕРИТЕЛЬНАЯ ИНФОРМАЦИЯ (16 часов) Измерение – этап получения (восприятия) информации. Модель процесса измерения в классической (ортодоксальной) метрологии. Реальные условия измерения и соответствующая им вероятностно-статистическая модель.

Информационная модель измерения.

Источники измерительной информации. Цифровой прибор как дискретный источник измерительной информации. Аналоговый прибор как непрерывный источник измерительной информации. Энтропийный интервал неопределенности результата измерений, энтропийный коэффициент.

Измерение по шкалам порядка, шкалам интервалов и шкалам отношений.

Информационно-измерительные системы.

Объем измерительной информации. Натуральное изменение объема сигнала. Влияние параметров сигнала на его объем. Закономерное изменение объема сигнала. Оптимальное оценивание измеряемой величины.

Использование широкополосных сигналов в измерениях. Собственный объем измерительной информации объекта.

3.7. ИНФОРМАЦИЯ В СИСТЕМАХ УПРАВЛЕНИЯ (16 часов) Цепные структуры систем. Информационная цепь. Источники и потребители информации. Разновидности соединений источников и приемников информации.

Переходные режимы в информационных цепях. Информационные цепи с памятью. Ригидные информационные цепи. Информационные цепи с памятью и ригидностью. Иерархические и нелинейные цепи. Автоматические системы.

Нелинейные цепи.

3.8. ИНФОРМАЦИЯ И ЭНЕРГИЯ (8 часов) Информация о физической системе, находящейся в состоянии термодинамического равновесия. Обобщенный второй закон термодинамики.

Приток шенноновской информации и превращение тепла в работу.

Энергетические затраты на создание, запись и передачу информации.

ЗАКЛЮЧЕНИЕ (2 часа) Краткое обобщение основных вопросов курса. Тенденции и перспективы развития теории информации. Направление дальнейшего расширения и углубления полученных знаний в рамках специальных дисциплин, использование их в практической деятельности.

3.9. ТЕМАТИЧЕСКИЙ ПЛАН ЛЕКЦИЙ ДЛЯ СТУДЕНТОВ ОЧНО-ЗАОЧНОЙ ФОРМЫ ОБУЧЕНИЯ (20 часов) Темы лекций Объем, ч 1. Введение 2. Отражение и информация 3. Вероятностно-статистические характеристики источников сообщений 4. Энтропия 5. Количество информации 6. Информационные характеристики источников сообщений и каналов 7. Измерительная информация 8. Информация в системах управления 9. Информация и энергия 10. Заключение 3.10. ТЕМЫ ПРАКТИЧЕСКИХ ЗАНЯТИЙ (8 часов) Темы практических занятий Объем, ч Описание деятельности студента 1. Расчет энтропии и Студенты получают практические количества информации 2 навыки расчета энтропии и источников сообщений количества информации дискретных и непрерывных источников сообщений.





2. Определение Студенты осваивают методику информационных 2 определения информационных характеристик источников характеристик источников сообщений и каналов сообщений и каналов 3. Расчет количества Студенты получают опыт расчета измерительной информации 2 количества измерительной информации 4. Определение энтропийного Студенты определяют энтропийное значения неопределенности 2 значение неопределенности измерения. измерения.

4. ПЕРЕЧЕНЬ УЧЕБНОЙ И УЧЕБНО-МЕТОДИЧЕСКОЙ ЛИТЕРАТУРЫ Основная:

1. Игнатов В.А. Теория информации и передачи сигналов.: Учебник. М.: Радио и связь, 1991. 278 с.

2. Дмитриев В.И. Прикладная теория информации.: Учебник. М.: Высшая школа, 1989. 234 c.

3. Денисов А.А. Введение в информационный анализ систем.: Текст лекций.

Л.: Издательство ЛПИ, 1988. 54 с.

4. Шишкин И.Ф. Основы метрологии стандартизации и контроля качества.:

Учеб. пособие. М.: Изд-во стандартов, 1987. 320 с.

Дополнительная:

5. Новицкий П. В. Основы информационной теории измерительных устройств.

Л.: Энергия, 1968. 248 с.

6. П.В. Новицкий, И.А. Зограф. Оценка погрешностей результатов измерений. – 2-е изд. Л.: Энергоатомиздат, Ленингр. отд-ние, 1991. 304 с.

7. Денисов А.А. Информационные основы управления. Л.: Энергоатомиздат, Ленингр. отд-ние, 1983. – 78 с.

8. Шеннон К. Работы по теории информации и кибернетики. М.: Изд-во иностр. лит., 1963. 832 с.

9. Колмогоров А.Н. Теория информации и теория алгоритмов. М.: Наука, 1987. 567 с.

10. Темников Ф.Е., Афонин В.А., Дмитриев В.И. Теоретические основы информационной техники. М.: Энергия, 1979. 264 с.

11. Стратонович Р.Л. Теория информации. М.: Сов. радио, 1975. 346 с.

12. Теория передачи информации: Терминология. Вып. 101. М.: Наука, 1984. 46 с.

13. Вентцель Е.С., Овчаров Л.А. Теория вероятностей и ее инженерные приложения. М.: Наука. Гл. ред. физ-мат.лит., 1968. 532 с.

14. Системная метрология: метрологические системы и метрология систем / В.А. Грановский. СПб.: ГНЦ РФ ЦНИИ Электроприбор, 1999. 360 с.

5. ТЕСТОВЫЕ ЗАДАНИЯ 1. Охарактеризуйте содержание и задачи теории информации.

2. Перечислите и охарактеризуйте основные этапы развития теории информации.

3. Дайте характеристику вклада отечественных ученых в развитие теории информации.

4. Раскройте смысл понятий (терминов): материя, отражение, информация.

5. Дайте сравнительный анализ понятий: синтаксическая (чувственная), семантическая (логическая) и прагматическая информация как с позиций семиотики. так и с точки зрения способов отражения.

6. Охарактеризуйте средства измерений как устройства, расширяющие возможности отражения органов чувств, как источники информации (сообщений).

7. Охарактеризуйте вероятностно-статистические характеристики дискретного источника сообщений (ряд распределений, функцию распределений и их числовые характеристики).

8. Дайте характеристику вероятностно-статистических характеристик непрерывного источника сообщений (плотность распределения, функцию распределения и их числовые характеристики).

9. Поясните необходимость рассмотрения вероятностно-статистических характеристик системы случайных величин при анализе информационных процессов.

10. Охарактеризуйте различия мер неопределенности Р. Хартли и К. Шеннона.

11. Поясните необходимость требований аддитивности к мере неопределенности выбора.

12. Охарактеризуйте свойства энтропии дискретного источника сообщений.

13. Рассмотрите особенности определения энтропии непрерывного источника сообщений.

14. Дайте определение дифференциальной энтропии и сформулируйте ее основные свойства.

15. Рассмотрите, какие виды распределений обладают максимальной дифференциальной энтропией.

16. перечислите свойства эпсилон-энтропии случайной величины.

17. Охарактеризуйте существующие подходы к определению понятия “Количество информации”.

18. Рассмотрите связь понятий энтропии и количества информации.

19. Сформулируйте основные свойства количества информации:

а) для дискретного источника.

b) для непрерывного источника.

20. Охарактеризуйте количество и свойства семантической информации.

21. Перечислите основные информационные характеристики источников сообщений и каналов; дайте определение производительности источников, скорости передачи информации и пропускной способности канала.

22. Дайте характеристику эргодического источника сообщений.

23. Что такое избыточность алфавита источника сообщений, каковы ее причины 24. Определите производительность дискретного источника сообщений и укажите пути ее повышения.

25. Назовите основные информационные характеристики:

а) дискретного канала.

b) двоичного симметричного канала без памяти.

26. Поясните различие между технической и информационной скоростями передачи.

27. Напишите и поясните выражение для пропускной способности:

Pages:     || 2 | 3 | 4 |










© 2011 www.dissers.ru - «Бесплатная электронная библиотека»

Материалы этого сайта размещены для ознакомления, все права принадлежат их авторам.
Если Вы не согласны с тем, что Ваш материал размещён на этом сайте, пожалуйста, напишите нам, мы в течении 1-2 рабочих дней удалим его.