Deep Learning School

Официальный сайт: https://www.dlschool.org/

Школа глубокого обучения (Deep Learning School) -- кружок от ФПМИ МФТИ, рассчитанный на старшеклассников, интересующихся программированием и математикой. Занятия ведут студенты Физтех-школы прикладной математики и информатики МФТИ.

Цель курсов кружка -- познакомить слушателей с основными принципами глубокого обучения (нейронных сетей) в интерактивном формате и на примере практических задач.

Для кого

Наша основная аудитория -- школьники 9-11 класса, интересующиеся математикой и программированием.

Однако подать заявку может любой желающий.

Где

Очные занятия будут проходить в зданиях партнёров проекта.

Также будет доступно онлайн обучение с записями лекций и всеми материалами.

Программа

0. Инструменты: Jupyter Notebook; Google Colab

1. Python: основы. Библиотека Numpy. Библиотека Matplotlib

2. Введение в линейную алгебру. Векторы. Матрицы и операции с ними

3. Основы теории вероятностей

4. Элементы теории оптимизации. Градиент. Градиентный спуск

5. Введение в машинное обучение. Общие принципы и понятия

6. Введение в машинное обучение. Supervised Learning. Линейные модели

7. Классы в Python. Основы ООП

8. Введение в глубокое обучение. Перцептрон. Нейрон с сигмоидой (и другими функциями активации)

9. Основы фреймворка PyTorch

10. Многослойный перцептрон. Полносвязные нейросети

11. *Backpropagation в нейронных сетях

12. Практические советы по обучению нейросетей (инициализация, регуляризация, продвинутые методы оптимизации)

13. Свёрточные нейронные сети (CNN). Основные принципы и понятия.

14. Современные архитектуры свёрточных нейросетей (AlexNet, ZFNet, VGG, Inception, ResNet, SqueezeNet, ResNeXt, MobileNet)

15. Практическое занятие по облачным сервисам (Google Cloud, Amazon Web Services)

16. Transfer Learning и Fine Tuning нейросетей с помощью PyTorch

17. Визуализация неросетей. Google Deep Dream

18. Neural Style Transfer (нейронный перенос стиля изображения)