Дисциплины

Научно-проектная деятельность

Одним из главных принципов ИТ-школы является обучение через исследования.

Студенты, начиная со второго семестра обучения, в рамках дисциплины «Научно-проектная деятельность» распределяются в различные организации для работы над перспективными проектами в различных областях науки.

По завершении обучения студенты пишут отчеты о проделанной работе, сокращенные варианты которых публикуются в сборнике.

Сборник отчетов о научно-проектной деятельности выпускников 2020 года (русская версия)

Сборник отчетов о научно-проектной деятельности выпускников 2020 года (английская версия)

Сборник отчетов о научно-проектной деятельности выпускников 2021 года (русская версия)

Сборник отчетов о научно-проектной деятельности выпускников 2021 года (английская версия)

Математический аппарат и инструментарий для анализа данных

Целью курса является освоение основных вычислительных и статистических методов и инструментов для решения широкого круга задач в сфере анализа данных (Data Science), практических навыков по разработке программного обеспечения на языке программирования Python, освоение работы с библиотеками и фреймворками для анализа данных, изучением методов машинного обучения/глубокого обучения и получение практического опыта в решении прикладных задач.

Основные модули дисциплины

Дополнительные главы математики
Язык программирования Python
Библиотеки и фреймворки для анализа данных, решения задач машинного/глубокого обучения (ML/DL)
Проектная работа

Практические занятия проводятся на гетерогенной вычислительной платформе HybrLIT в рамках экосистемы для ML/DL.

Изучаемые разделы

Основы Python: базовые типы данных, типы коллекций, управляющие структуры и функции.
Библиотека NumPy: работа с массивами (создание, индексация, срезы, слияние и разбиение), выполнение вычислений над массивами, агрегирование, операции над массивами, сортировка массивов, структурированные массивы.
Работа с данными с библиотекой pandas: объекты библиотеки, операции над данными, иерархическая индексация, объединение набор данных, агрегирование и группировка, сводные таблицы, работа с временными рядами.
Визуализация с помощью библиотек matplotlib и seaborn: графики, гистограммы и т.д.
Машинное обучение с библиотекой Scikit-learn.
Алгоритмы машинного обучения:
- задачи классификации (наивная байесовская классификация, гауссов байесовский классификатор, полиномиальный байесовский классификатор);
- линейная регрессия, регрессия по комбинации базисных функций;
- метод опорных векторов (Support Vector Machines);
- деревья принятия решений и случайные леса;
- кластеризация, методы понижения размерности, метод главных компонент.
Математические основы нейросетевого подхода.
Фреймворки и библиотеки для глубокого обучения в Python: ТensorFlow, Keras.
Машинное и глубокое обучение для задач анализа текстов.
Компьютерное зрение с Python: работа с OpenCV.
Компьютерное зрение с Python: глубокое обучение в технологиях компьютерного зрения.

Технологии высокопроизводительных вычислений

Основными целями курса являются ознакомление с современными методами решения прикладных задач на новейших вычислительных архитектурах с применением технологий параллельного программирования. В рамках курса изучаются технологии параллельного программирования MPI, OpenMP, CUDA, библиотеки для решения прикладных задач на HPC платформах.

Практические занятия проводятся на гетерогенной вычислительной платформе HybrLITна учебно-тестовом полигоне в рамках программно-информационной среды HybriLIT.

Программно-информационная среда HybriLIT

Изучаемые разделы

Базовые понятия, используемые в технологиях высокопроизводительных вычислений и смежных технологиях. Краткая история развития высоко-производительных вычислений.
Технология параллельного программирования OpenMP. Базовые средства параллельного программирования систем с общей памятью. Технология параллельного программирования OpenMP: Структура стандарта OpenMP, модель параллелизма OpenMP. Модель памяти OpenMP. Директивы OpenMP.
Компиляторы Intel с поддержкой OpenMP. Инструментальные средства разработки и отладки многопоточных приложений.
Архитектура Intel Xeon Phi второго поколения, технологии параллельных вычислений, векторизация. Продукты Intel для высокопроизводительных вычислений и анализа данных: инструментальные средства разработки и отладки многопоточных приложений.
Библиотека Intel® Math Kernel Library. Задачи на использования функций Intel MKL: векторные операции, умножение матриц.
Закон Амдала для теоретической оценки ускорения выполнения программ в параллельном режиме и его следствия. Факторы, влияющие на производительность. Методы оценки эффективности вычислительных систем (бенчмарки).
Технология параллельного программирования Message Passing Interface (MPI): основные понятия и определения. Базовый (минимальный) набор функций MPI, достаточный для разработки параллельных программ. Определение числа процессов в группе и номера процесса, организация MPI-обмена между отдельными процессами: операции точка-точка, передача и прием сообщений с блокировкой и без блокировки. Управление группами процессов и коммуникаторами.
Технология Nvidia СUDA. Высокопроизводительные вычисления с применением графических процессоров (GPU). Введение в вычисления общего назначения с использованием GPU (парадигма GPGPU). Основные архитектурные отличия GPU от CPU. Архитектура современных GPU (на примере Nvidia Tesla K80).
Введение в технологию CUDA: модель памяти CUDA, типы памяти, понятия потока.
CUDA-расширение языка С (спецификаторы функций, спецификаторы переменных, встроенные переменные, директивы запуска ядра). Примеры программ на CUDA. Шаблон работы с глобальной памятью. Шаблон работы с разделяемой памятью. Оптимизация работы с разделяемой памятью. CUDA-потоки (CUDA-streams).
Параллельные математические библиотеки: CUBLAS, CUFFT.
Разработка гибридных приложений, использующих процессоры и графические процессоры.
Использование в расчетах нескольких GPU. OpenMP+CUDA приложения.

Аналитика Больших данных

Основными целями курса являются ознакомление с современными методами решения прикладных задач на новейших вычислительных архитектурах с применением технологий параллельного программирования. В рамках курса изучаются технологии параллельного программирования MPI, OpenMP, CUDA, библиотеки для решения прикладных задач на HPC платформах.

Базовые инструменты для анализа данных

Основные модули дисциплины

Введение в ОС Unix
Инструментарий для коллективной разработки ПО
Введение в облачные технологии

Задачей курса является ознакомление с некоторыми современными инструментами и технологиями, применяемыми в анализе данных. Слушатели получат навыки работы в Unix-подобных операционных системах, а также познакомятся с облачными технологиями и освоят средства коллективной разработки программного обеспечения (ПО). В рамках ознакомления с Unix-подобными операционными системами в курсе будут разобраны основы работы в командной строке Linux на примере оболочки bash в дистрибутиве CentOS 7: базовые команды, навигация в файловой системе, переменные окружения, конвейеры, перенаправление ввода/вывода и права доступа. На примере системы GitLab будут разобраны современные инструменты и техники разработки программного обеспечения: система контроля версий git, автоматизация тестирования и развертывания приложений, а также техники организации процесса коллективной разработки. Также курс познакомит с облачными технологиями как инструментом организации программно-управляемых вычислительных инфраструктур.