Основи штучних нейронних мереж

Анотація навчальної дисципліни

Мета дисципліни:

формування у здобувачів вищої освіти знань в області застосування найбільш популярних та сучасних моделей штучних нейронних мереж для вирішення завдань у прикладних сферах.

Завдання дисципліни:

• набути знань з основних видів, особливостей функціонування та сфер застосування штучних нейронних мереж;

• надати навички аналізу предметної області та визначення завдання, для вирішення яких доцільно використання механізму штучних нейронних мереж, їх  призначення, вибору методів і засобів побудови;

• засвоїти основні способи і правила навчання нейромереж;

• сформувати навички розробки і реалізації програмних моделей штучних нейронних мереж;

• надати знання з оцінки і порівняння якості навчання і функціонування різних моделей штучних нейронних мереж.

Програмні компетентності

• Здатність до абстрактного мислення, аналізу та синтезу.
• Здатність застосовувати знання у практичних ситуаціях.
• Здатність до пошуку, оброблення та узагальнення інформації з різних джерел.
• Здатність оцінювати та забезпечувати якість виконуваних робіт.
• Здатність  аналізувати об’єкт проектування     або функціонування та його предметну область.
• Здатність використовувати сучасні ІСТ (виробничі, підтримки прийняття рішень, інтелектуального аналізу даних та інші), методики й  техніки  кібербезпеки під час виконання функціональних завдань та обов’язків.
• Здатність проводити обчислювальні експерименти, порівнювати результати експериментальних даних і отриманих рішень.
• Здатність використовувати сучасні технології проектування в розробці алгоритмічного та програмного забезпечення ІСТ.
• Здатність оволодіти сучасними технологіями програмування та тестування програмного забезпечення.
• Здатність використовувати знання з  у системах штучного інтелекту (СШІ), принципи побудови СШІ, зокрема, експертних систем, технологій побудови інтелектуальних систем, представлення їх в загальній структурі ІТ. 
• Здатність до аналізу, синтезу і оптимізації інформаційних систем та технологій з використанням математичних моделей і методів.

Програмні результати навчання

Знати лінійну та векторну алгебру, диференціальне та інтегральне числення, теорію функцій багатьох змінних, теорію рядів, диференціальні рівняння для функції однієї та багатьох змінних, операційне числення, теорію ймовірностей та математичну статистику в обсязі, необхідному для розробки та використання ІСТ та інфокомунікацій, сервісів та інфраструктури організації.

Застосовувати знання фундаментальних і природничих наук, системного аналізу та технологій моделювання, стандартних алгоритмів та дискретного аналізу при розв’язанні задач проектування і використання ІСТ.

Демонструвати знання сучасного рівня технологій інформаційних систем, практичні навички програмування та використання прикладних і спеціалізованих комп’ютерних систем та середовищ з метою їх запровадження у професійній діяльності.

Використовувати знання з  у системах штучного інтелекту (СШІ); принципів побудови СШІ, зокрема, експертних систем; технологій побудови інтелектуальних систем, представлення їх в загальній структурі ІТ.

Форми організації освітнього процесу та види навчальних занять

Л – лекційні заняття; ЛЗ – лабораторні заняття; СРС – самостійна робота здобувача вищої освіти; РГР – розрахунково-графічна робота; ПКО – поточні контрольні опитування; МКР – модульна контрольна робота; К – консультації.

Тематика та види навчальних занять

• 1 тиждень
  • Л1. Введення в нейронні мережі [1, c.4-5].
  • ЛЗ1. Вивчення основних можливостей роботи з програмним модулем Neural networks системи Statistica 
  • СРС. К.
• 2 тиждень
  • ЛЗ2. Дослідження можливостей вирішення задач класифікації з кількома класами
  • СРС. К.
• 3 тиждень
  • Л2. Ключові відомості з вищої математики для розуміння принципів нейромереж [1, c.6-9].
  • ЛЗ3. Вивчення використання нейромережевих парадигм засобами модуля Neural networks
  • СРС. К.
• 4 тиждень
  • ЛЗ4. Використання автоматичного конструктора нейромережі в середовищі Statistica
  • ПКО1
  • СРС. К.
• 5 тиждень
  • Л3. Біологічний нейрон і його кібернетична модель [1, c.10-16].
  • ЛЗ5. Дослідження одношарових нейронних мереж на прикладі моделювання булевих виразів
  • СРС. К.
• 6 тиждень
  • ЛЗ6. Застосування одношарової нейронної мережі для вирішення задач регресії експериментальних даних
  • СРС. К.
• 7 тиждень
  • Л4. Особливості складу і призначення персептрона Розенблатта та багатошарового персептрону [1, c.17-20].
  • ЛЗ7. Побудова та використання одношарової нейронної мережі з лінійною функцією активації для прогнозування часових рядів.
  • ПКО2
  • СРС. К.
• 8 тиждень
  • ЛЗ8. Дослідження нейронних мереж з радіальними базисними функціями (RBF)
  • МКР1. СРС. К.
• 9 тиждень
  • Л5. Властивості процесів навчання в нейронних мережах [1, c.21-24]. 
  • ЛЗ9. Дослідження апроксимативних властивостей нейронних мереж RBF
  • СРС. К.
• 10 тиждень
  • ЛЗ10. Вивчення алгоритму зворотного поширення помилки
  • СРС. К.
• 11 тиждень
  • Л6. Існуючі ієрархічні архітектури нейромереж [1, c.25-29].
  • ЛЗ11. Дослідження рекурентної нейронної мережі Хопфілда на прикладі задачі розпізнавання образів
  • ПКО3
  • СРС. К.
• 12 тиждень
  • ЛЗ12. Використання рекурентної нейронної мережі Коско (BAM) на прикладі задачі розпізнавання образів. Частина 1
  • СРС. К.
• 13 тиждень
  • Л7. Модель Хопфілда, її узагальнення та застосування [1, c.30-35].
  • ЛЗ13. Використання рекурентної нейронної мережі Коско (BAM) на прикладі задачі розпізнавання образів. Частина 2
  • СРС. К.
• 14 тиждень
  • ЛЗ14. Дослідження персептронних перетворювачів форми інформації в інструментальному пакеті моделювання. Частина 1
  • ПКО4
  • СРС. К.
• 15 тиждень
  • Л8. Особливості сучасних нейромережевих архітектур [1, c.36-38].
  • ЛЗ15. Дослідження персептронних перетворювачів форми інформації в інструментальному пакеті моделювання. Частина 2
  • МКР2. СРС. К.

Індивідуальна робота

Виконується РГР. 

Мета РГР:

набуття загальних та спеціальних компетентностей майбутніх бакалаврів, поглиблення теоретичних знань та практичних навичок використання моделей штучних нейронних мереж в рамках розроблених прикладних програмних систем. 

1–7 тижні

Отримання завдання. Аналіз літературних джерел з досліджуваної тематики, розгляд архітектур, алгоритмів навчання та метрик оцінки якості моделей штучних нейронних мереж. Аналіз програмних аналогів та обґрунтування вибору бібліотек та допоміжних засобів реалізації. Проектування структури програмного застосування. Розробка загальної концепції, модульного складу та формалізація логіки використання моделей штучних нейронних мереж в рамках системи.

8–14 тижні

Розробка структур даних, основних сутностей та визначення зв’язків між ними. Створення інтерфейсу програмного застосування. Написання програмного коду реалізації основної логіки програми, обробки вхідних даних, розбиття даних на множини для навчання та тестування моделей, перевірка та тестування моделей, оцінка метрик якості роботи моделей штучних нейронних мереж, проведення чисельних експериментів для оцінки точності моделей. Розгортання та перевірка роботи програмного застосування на декількох наборах даних. Оформлення протоколу виконання РГР.

15 тиждень

Захист роботи.

Самостійна робота

Самостійна робота складає 44 години. Розподіл самостійної роботи за видами навчальних робіт:
1) підготовка до лекційних занять – 14 годин;
2) підготовка до лабораторних занять – 15 годин;
3) виконання РГР – 15 годин.

Процедура оцінювання

Система оцінювання рівня навчальних досягнень ґрунтується на принципах ЄКТС та є накопичувальною. Дисципліна поділяється на два семестрові модулі. Здобувачі протягом семестру готуються до лекційних та лабораторних занять, виконують 2 модульні контрольні роботи.
Модульні контрольні роботи № 1 та № 2 виконуються у письмовій формі. Модульна робота складається з теоретичної частини (2 запитання) та практичної частини (1 задача). Відповідь на кожне теоретичне питання оцінюється максимум 10 балами. Правильне розв’язання задачі оцінюється в 10 балів.
Кожний модуль оцінюється у максимально можливі 50 балів:
Максимальна оцінка, яку може отримати здобувач за всі виконані види робіт – 100 балів. Залік оцінюється за системою: «зараховано», «не зараховано». Оцінка «зараховано» виставляється за умови отримання не менш, ніж 60 балів за всі види робіт. Складання/перескладання заліку відбувається за встановленим деканатом розкладом.

Семестровий модуль № 1

ПКО1 та ПКО2 – на базі отриманих результатів по відповідних лабораторних роботах, оцінка за кожне 5 балів. Термін проведення 3 та 7 тижні.
РГР(ч.1). Оцінка за виконання – 10 балів. Термін надання – 8 тиждень.
МКР1. Модульна контрольна робота – 30 балів (8 тиждень). Перескладання можливе протягом 9–11 тижнів за розкладом консультацій.

Семестровий модуль № 2

ПКО3 та ПКО4 – на базі отриманих результатів по відповідних лабораторних роботах, оцінка за кожне 5 балів. Термін проведення 11 та 14 тижні.
РГР(ч.2). Оцінка за виконання – 10 балів. Термін надання та захист – 14–15 тижні. 
МКР2. Модульна контрольна робота – 30 балів (15 тиждень).

Умови допуску до підсумкового контролю

 Залік отримують здобувачі вищої освіти, які виконали всі види навчальних елементів навчальної дисципліни не менш, ніж на 60 %.. 

Політика освітнього процесу

Здобувач зобов’язаний своєчасно та якісно виконувати всі отримані завдання; за необхідністю з метою з’ясування всіх не зрозумілих під час самостійної та індивідуальної роботи питань, відвідувати консультації викладача. Дотримуватись принципів академічної доброчесності. 

Виконаний не свій варіант завдання здобувачем не оцінюється.

Робота, яка виконана після встановлених викладачем термінів, не приймається.

Відсутність здобувача на екзамені або на контрольній роботі відповідає оцінці «0».

Під час лекції здійснювати телефонні дзвінки забороняється.

Літературні джерела:

1. Рудніченко М.Д. Навчальний посібник з дисципліни " Основи штучних нейронних мереж" для студентів спеціальності - 126 Інформаційні системи і технології / Упоряд.: Н.Д. Рудніченко, І.М. Шпінарева. - Одеса: ОНПУ, 2020. - 39 с (Електронна версія), Реєстраційний номер №7580-РС-2020 (НП11520)
2. Рудніченко М.Д. Методичні вказівки до лабораторних робіт з дисципліни "Основи штучних нейронних мереж" для студентів спеціальності - 126 Інформаційні системи та технології / Укл .: М.Д. Рудніченко, Н.В. Бут. - Одеса: ОНПУ, 2020. - 96 с (Електронна версія), Реєстраційний номер №7548-РС-2020 (МВ11508) 
3. Рудніченко М.Д. Методичні вказівки до розрахунково-графічної роботи з дисципліни ” Основи штучних нейронних мереж ” для студентів  спеціальності - 126 Інформаційні системи та технології / Укл.: М.Д. Рудніченко, А.Ю. Козлов. – Одеса: ОНПУ, 2020. – 10 с. (Електронна версія), Реєстраційний номер №7536-РС-2020 (МВ11499)
4. Галушкин А.І. Нейронні мережі: основи теорії / А.І. Галушкин. - М .: Гаряча лінія - Телеком, 2018. - 496 с.
5. Дунін-Барковський В.Л .. Нейроінформатика / В.Л. Дунін-Барковський, А.Н.Горбань. - М .: ІНТУЇТ, 2016. - 330 с.
6. Ключко В.І. Нейромережеві топології з підкріпленням / В.І. Ключко, А.В. Власенко, В.П. Стасевич. - Краснодар: КубГТУ, 2017. - 154 с.
7. Ніколенко С. Глибоке навчання. Занурення в світ нейронних мереж / С. Ніколенко, А. Кадурін, Е.Архангельская. - СПб .: Пітер, 2018. - 480 с.
8. Рашид Т. Створюємо нейронну мережу / Т. Рашид. - СПб .: Альфа-книга, 2017. - 274 с.