Глубокое обучение (практика) МКН СПбГУ

Преподаватель: Георгий Сарапулов

• Telegram: https://t.me/g_eos
• Email: [email protected]

Содержание

Тема	Материалы	Задания
1. Введение в глубокое обучение	Запись 02.09.2025 Слайды
2. Введение в Pytorch (часть 1)	Запись 09.09.2025 Тензоры	Операции над тензорами Градиентный спуск на NumPy Дедлайн: 24.09 23:59
3. Введение в Pytorch (часть 2) Инициализация параметров	Запись 16.09.2025 Autograd в PyTorch Пример: логистическая регрессия на Pytorch Оптимизаторы, параметры и модули Работа с данными Пример: MLP на датасете MNIST Инициализация параметров (самостоятельное изучение)	Стабилизация обучения и регуляризация Дедлайн: 01.10 23:59
4. Свёрточные нейронные сети. Классификация изображений.	Запись 23.09.2025 Слайды Блоки для свёрточных сетей Пример: классификация CIFAR10 Pytorch Lightning (самостоятельное изучение)	Классификация изображений. Дообучение. Аугментация. Дедлайн: 08.10 23:59
5. Сегментация изображений	Запись 07.10.2025 Датасет с дрожжевыми клетками Сегментация	Сегментация дрожжевых клеток Дедлайн: 22.10 23:59
6. Детекция объектов	Запись 14.10.2025 YOLO для детекции объектов	Детекция дрожжевых клеток Дедлайн: 29.10 23:59
7. Рекуррентные сети. Механизм внимания. Блок трансформера.	Запись 21.10.2025 Слайды Рекуррентная сеть для генерации имён Механизм внимания	Структурная классификация белков Дедлайн: 05.11 23:59
8. Трансформер: варианты архитектуры. Введение в графовые нейронные сети.	Запись 28.10.2025 Слайды Трансформер: варианты	TinyStories: генерация текстов Multi30k: перевод с немецкого на английский Дедлайн: 12.11 23:59
9. Графовые нейронные сети.	Запись 11.11.2025 GNN и Pytorch Geometric	Предсказание свободной энергии связывания белков Дедлайн: 26.11 23:59
10. Генеративные состязательные сети. Вариационный автоэнкодер. Denoising diffusion.	Запись 18.11.2025 GAN VAE DDPM (самостоятельное изучение)	GAN для датасета CelebA Дедлайн: 03.12 23:59 VAE для датасета CelebA DDPM для датасета CelebA Дедлайн: 10.12 23:59
11. Управление экспериментами	Запись 25.11.2025 Слайды

Создание окружения

Версии пакетов в списке зависимостей зафиксированы под python 3.13 и pytorch 2.8.0. Можно использовать другие версии, но в этом случае будьте готовы самостоятельно решать проблемы с зависимостями (впрочем, это полезный опыт).

Создаём и активируем виртуальное окружение:

python3.13 -m venv .venv
source .venv/bin/activate

Далее устанавливаем зависимости, они немного отличаются в зависимости от операционной системы, архитектуры процессора и модели видеокарты.

Для linux без использования CUDA (легковесная версия, подойдёт для большей части заданий)

pip install -r requirements-linux-cpu.txt

Для linux с использованием CUDA (у вас должна быть видеокарта NVIDIA и до 15 Гб места на диске):

pip install -r requirements-linux-cuda.txt

Для MacOS с процессором серии M:

pip install -r requirements-macos.txt

Для более ранних Macbook pytorch новых версий (2.2.0+) больше не поставляется. Если вы хотите использовать такой Macbook, придётся использовать более старые версии python и pytorch.