Теорія інформації та кодування

Анотація навчальної дисципліни

Мета дисципліни:

формування комплексу знань, вмінь в галузі теорії інформації, її кодування та обробки в інтелектуальних інформаційних системах, здобуття навичок у практичному використанні, постановці та вирішенні задач вимірювання та кодування інформації.

Завдання дисципліни:

• отримати знання методів теорії інформації для вирішення практичних завдань;
• отримати знання методів оцінки кількості інформації і ентропії дискретного каналу зв'язку;
• розраховувати інформаційні характеристики систем передачі інформації;
• знати способи  опису каналу зв'язку за допомогою канальних матриць джерела, приймача і об'єднання;
• отримати знання з алгоритмів кодування при створенні ефективних, захищених і стислих кодів;
• вміти застосовувати методи кодування рівномірних та нерівномірних кодів.

 Програмні компетентності

• Здатність до абстрактного мислення, аналізу та синтезу.
• Здатність до проектування, розробки, налагодження та вдосконалення системного, комунікаційного та програмно-апаратного забезпечення ІСТ, Інтернету речей (ІоТ), комп’ютерно-інтегрованих систем та системної мережної структури, управління ними.
• Здатність до розуміння предметної області та професійної діяльності.
• Здатність використовувати сучасні технології проектування в розробці алгоритмічного та програмного забезпечення ІСТ.
• Здатність до пошуку, оброблення та узагальнення інформації з різних джерел.
• Здатність  аналізувати     об’єкт проектування    або функціонування та його предметну область.
• Здатність використовувати сучасні ІСТ (виробничі, підтримки прийняття рішень, інтелектуального аналізу даних та інші), методики й   техніки       кібербезпеки           під час виконання функціональних завдань та обов’язків.
• Здатність сформулювати математичну постановку задачі, спираючись на постановку мовою предметної галузі та обирати метод її розв’язання, що забезпечує потрібні точність і надійність результату.
• Здатність вчитися і оволодівати сучасними знаннями.
• Здатність оволодіти сучасними технологіями програмування та тестування програмного забезпечення.

Програмні результати навчання

Використовувати базові знання інформатики й сучасних ІСТ, навички програмування, технології безпечної роботи в комп'ютерних мережах, методи створення баз даних та інтернет-ресурсів, технології розроблення алгоритмів і комп’ютерних програм мовами високого рівня із застосуванням об’єктно-орієнтованого програмування для розв’язання задач проектування і використання ІСТ.

Знати лінійну та векторну алгебру, диференціальне та інтегральне числення, теорію функцій багатьох змінних, теорію рядів, диференціальні рівняння для функції однієї та багатьох змінних, операційне числення, теорію ймовірностей та математичну статистику в обсязі, необхідному для розробки та використання ІСТ та інфокомунікацій, сервісів та інфраструктури організації.

Застосовувати знання фундаментальних і природничих наук, системного аналізу та технологій моделювання, стандартних алгоритмів та дискретного аналізу при розв’язанні задач проектування і використання ІСТ.

Здатність до самонавчання та продовження професійного розвитку.

Демонструвати знання сучасного рівня технологій інформаційних систем, практичні навички програмування та використання прикладних і спеціалізованих комп’ютерних систем та середовищ з метою їх запровадження у професійній діяльності.

Кількість аудиторних занять

14 годин лекційних занять, 30 годин лабораторних робіт.

Форми організації освітнього процесу та види навчальних занять

• Л – лекційні заняття;
• ЛЗ – лабораторні заняття;
• СРС – самостійна робота здобувача вищої освіти;
• РГР – розрахунково-графічна робота;
• ПКО – поточні контрольні опитування;
• МКР – модульна контрольна робота;
• К – консультації.

Тематика та види навчальних занять

• 1 тиждень
  • ЛЗ1. Алфавіт. Аналогово-цифровий перетворювач. Одиниці виміру інформації. Частина 1.
  • СРС. К.
• 2 тиждень
  • Л1. Поняття інформації, її властивості. Основні терміни та визначення [1. с.8-19].
  • ЛЗ2. Алфавіт. Аналогово-цифровий перетворювач. Одиниці виміру інформації. Частина 2.
  • СРС. К.
• 3 тиждень
  • ЛЗ3. Розрахунок ентропії дискретного каналу зв'язку. Частина 1.
  • ПКО1. СРС. К.
• 4 тиждень
  • ЛЗ4. Розрахунок ентропії дискретного каналу зв'язку. Частина 2.
  • Л2. Класифікація інформації [1. с.19-31].
  • СРС. К.
• 5 тиждень
  • ЛЗ5. Розрахунок кількісті інформації дискретного каналу зв'язку. Частина 1.
  • СРС. К.
• 6 тиждень
  • Л3. Ентропія дискретного каналу зв'язку. Властивості ентропії [3 с. 25-36].
  • ЛЗ6. Розрахунок кількісті інформації дискретного каналу зв'язку. Частина 2.
  • СРС. К.
• 7 тиждень
  • ЛЗ7. Обчислення канальної матриці джерела, інформаційних характеристик дискретного каналу зв'язку. Частина 1.
  • ПКО2. СРС. К.
• 8 тиждень
  • Л4. Форми представлення інформації [3. с. 37-49].
  • ЛЗ8. Обчислення канальної матриці джерела, інформаційних характеристик дискретного каналу зв'язку. Частина 2.
  • МКР1. СРС. К.
• 9 тиждень
  • ЛЗ9. Обчислення канальної матриці приймача та об’єднання, інформаційних характеристик дискретного каналу зв'язку. Частина 1.
  • СРС. К.
• 10 тиждень
  • Л5. Кількість інформації, її властивості [5. с.5-13].
  • ЛЗ10. Обчислення канальної матриці приймача та об’єднання, інформаційних характеристик дискретного каналу зв'язку. Частина 2.
  • СРС. К.
• 11 тиждень
  • ЛЗ11. Задача на рівномірне двійкове кодування. Частина 1.
  • ПКО3. СРС. К.
• 12 тиждень
  • Л6. Умовна ентропія. Канальна матриця джерела [5. с.13-19].
  • ЛЗ12. Задача на рівномірне двійкове кодування. Частина 2.
  • СРС. К.
• 13 тиждень
  • ЛЗ13. Задача на оптимальний нерівномірний код Шеннона – Фано. Частина 1.
  • СРС. К.
• 14 тиждень
  • Л7. Канальна матриця приймача [5. с.19-25].
  • ЛЗ14. Задача на оптимальний нерівномірний код Шеннона – Фано. Частина 2.
  • ПКО4. СРС. К.
• 15 тиждень
  • ЛЗ15. Задача на коригувальний систематичний код Хеммінга.
  • МКР2. СРС. К.

Індивідуальна робота

Виконується РГР.

Мета РГР: набуття загальних та спеціальних компетентностей майбутніх бакалаврів, поглиблення теоретичних знань з теми «Кількість інформації і ентропія дискретного ансамблю повідомлень».

• 1–3 тижні Отримання завдання. 
• 4–14 тижні Проведення розрахунків відповідно до варіантів. 
• 15 тиждень Захист роботи.

Самостійна робота

Самостійна робота складає 44 години. Розподіл самостійної роботи за видами навчальних робіт:

• підготовка до лекційних занять – 14 годин;
• підготовка до лабораторних занять – 15 годин;
• підготовка до РГР – 15 годин.

Процедура оцінювання

Система оцінювання рівня навчальних досягнень ґрунтується на принципах ЄКТС та є накопичувальною. Дисципліна поділяється на два семестрові модулі. Здобувачі протягом семестру готуються до лекційних та лабораторних занять, виконують 2 модульні контрольні роботи.

Модульні контрольні роботи № 1 та № 2 виконуються у письмовій формі. Модульна робота складається з теоретичної частини (2 запитання) та практичної частини (1 задача). Відповідь на кожне теоретичне питання оцінюється максимум 10 балами. Правильне розв’язання задачі оцінюється в 10 балів.

Кожний модуль оцінюється у максимально можливі 50 балів.

Максимальна оцінка, яку може отримати здобувач за всі виконані види робіт – 100 балів. Залік оцінюється за системою: «зараховано», «не зараховано». Оцінка «зараховано» виставляється за умови отримання не менш, ніж 60 балів за всі види робіт. Складання/перескладання заліку відбувається за встановленим деканатом розкладом.

Семестровий модуль № 1

• ПКО1 та ПКО2 – на базі отриманих результатів по відповідних лабораторних роботах, оцінка за кожне 5 балів. Термін проведення 3 та 7 тижні.
• РГР(ч.1). Оцінка за виконання – 10 балів. Термін надання – 8 тиждень.
• МКР1. Модульна контрольна робота – 30 балів (8 тиждень). Перескладання можливе протягом 9–11 тижнів за розкладом консультацій.

Семестровий модуль № 2

• ПКО3 та ПКО4 – на базі отриманих результатів по відповідних лабораторних роботах, оцінка за кожне 5 балів. Термін проведення 11 та 14 тижні.
• РГР(ч.2). Оцінка за виконання – 10 балів. Термін надання та захист – 14–15 тижні. 
• МКР2. Модульна контрольна робота – 30 балів (15 тиждень).

Максимальна оцінка за повний обсяг виконаних навчальних елементів дисципліни – 100 балів.

Підсумковим контролем з дисципліни є залік. 

Умови допуску до підсумкового контролю

Залік отримують здобувачі вищої освіти, які виконали всі види навчальних елементів навчальної дисципліни не менш, ніж на 60 %.

Політика освітнього процесу

Здобувач зобов’язаний своєчасно та якісно виконувати всі отримані завдання; за необхідністю з метою з’ясування всіх не зрозумілих під час самостійної та індивідуальної роботи питань, відвідувати консультації викладача. 

Дотримуватись принципів академічної доброчесності. 

Виконаний не свій варіант завдання здобувачем не оцінюється.

Робота, яка виконана після встановлених викладачем термінів, не приймається.

Відсутність здобувача на екзамені або на контрольній роботі відповідає оцінці «0».

Під час лекції здійснювати телефонні дзвінки забороняється.

Рекомендована література

1. Безруков В. В. Теорія інформацiї: [Навч. посiбник] / В. В. Безруков, В.Я. Кізяков, В. І. Профатілов. – Дніпропетровськ : ДИИТ (ДДТУЗТ, 2001. – 110 с.
2. Дмитрієв В.І. Прикладна теорія інформації / В. І. Дмитрієв. - М .: Вища школа, 1989. - 320 с.
3. Жураковський Ю. П. Теорія інформації та кодування: [Підручник] /Ю. П. Жураковський, В. П. Полторак. – К. : Вища школа, 2001.– 255 с.
4. Жураковський Ю. П. Теорія інформації та кодування в задачах:[Навчальний посібник]/ Ю. П. Жураковський, В. В. Гніліцький. – Житомир:ЖІТІ, 2002. – 230 с.
5. Кожевников В. Л. Теорія інформації та кодування [Текст]: [Навч. посібник] / В. Л. Кожевников, А. В. Кожевников. – Д.: Національний гірничий університет, 2011. – 108 с.