Складчина: Производительность и масштабируемость [Devhands] [Алексей Рыбак]
Кому подойдет курс?
Middle/Senior разработчикам
- Изучите особенности системного дизайна хайлоад-проектов
- Научитесь масштабировать веб-серверы, приложения, кеши, СУБД
- Получите уникальную практику тюнинга производительности и управления кластерными системами
Техлидам и архитекторам
- Изучите основы управления Linux- инфрой, погрузившись «под капот», поближе к инфраструктуре
- Выжмете 100K RPS из своих сервисов и освоете искусство планирования мощностей
- Изучите особенности разработки распределенных систем, шардинг, CAP/PACELC-теоремы
- Спроектируете проект на 100M DAU
EM/CTO
- Систематизируете знания в области разработки больших проектов
- Переосмыслите архитектурные подходы в более прагматичном, экономичном, инженерном ключе
- Изучите современные тренды и классификацию компонент, из которых "собираются" хайлоад-проекты
С какими запросами приходят на курс?
- Не понимаю, как оценить количество ресурсов
- Хочу научиться говорить на одном языке с системными аналитиками, devops, другими командами
- Хочу систематизировать знания в разработке хайлоад-проектов
- Хочу глубже понимать, как управляется Linux-инфраструктура
- Хочу научиться планировать нагрузки и считать бюджет
- Хочу понять, как шардировать классические СУБД, как работают кластерные СУБД
- Хочу прокачать знания, необходимые для моего карьерного роста
Ваши цели в обучении
- Получить фундамент компетенций архитектора сложных и высоконагруженных информационных систем
- Получить навыки управления своей собственной инфраструктурой
- Получить навыки нагрузочного тестирования и тюнинга Linux-серверов
- Получить навыки масштабирования бекенд-систем в собственном облаке
- Получить практику проектирования высоконагруженных систем с архитектурными брейншторм-сессиями, практикой разработки архитектур и разбором ваших решений с подробной обратной связью
- Получить практику прохождения и проведения секций системного дизайна на интервью
Программа:
- Цели практикума
- Занятие 1. Управление Linux-сервером
- Занятие 2. Основы нагрузочного тестирования
- Занятие 3. Проведение нагрузочного тестирования
- Занятие 4. Обсуждение результатов нагрузочного тестирования и планирование мощностей
- Занятие 5. Резервная встреча (сдача "хвостов")
- Занятие 6. Redis-кластер
- Занятие 7. Stateless PostgreSQL Query Router (кластер SPQR + PostgreSQL)
- Занятие 8. Кластер CockroachDB
Спойлер: Программа подробно Цели практикума
Практикум можно условно разбить на три части:
- управление виртуальными машинами Linux
- нагрузочное тестирование собственного стэка и подходы к планированию мощностей
- масштабирование СУБД
Управление виртуальными машинами Linux
Участники ставят, собирают, конфигурируют свой собственный стэк — мы поддерживаем практически любой стэк (Java, Python, PHP, C#, Golang, node.js; MySQL или PostgreSQL), поскольку вопросы масштабируемости и производительности общеуниверсальны и не зависят от стэка.
Вы изучите основы администрирования Linux: управление пакетами при помощи пакетного менеджера apt, ручная сборка из исходников и управление ручными сборками, конфигурация и управление systemd-сервисами, мониторинг и базовый анализ производительности с Prometheus и Grafana.
Мы обсудим основы параллелизма в Linux, модели серверов, почему nginx работает супер-быстро и лучше, чем Apache, почему MySQL имеет лучшую серверную модель, чем PostgreSQL, и как с этим бороться и успешно использовать PostgreSQL в больших проектах. В дополнение к вашему любимому серверу приложений вы будете использовать nginx в качестве балансировщика и обратного прокси, MySQL или PostgreSQL в качестве базы данных и Memcached или Redis в качестве кэш-сервера.
Нагрузочное тестирование собственного стэка и подходы к планированию мощностей
Мы изучим основы настройки производительности, тестирования производительности и выжмем максимальную пропускную способность из вашей виртуальной машины. Наш текущий студенческий «рекорд» — 100K «синтетических» RPS с Golang/Fiber на довольно скромной виртуалке.
Участники построят latency/RPS-диаграммы и сравнят показатели производительности и ограничения компонент вашего стэка. Мы используем wrkx (нашу доработку wrk2), но поскольку у нас настоящая программа R&D, мы будем рады использовать любой инструмент, поддерживающий независимо управляемые клиентские потоки и пул соединений.
Масштабирование СУБД
В этом модуле мы изучим (всё будет доступно на вашей собственной инфраструктуре):
- кластерный Redis
- кластерная СУБД CockroachDB
- шардинг-прокси SPQR поверх классического PostgreSQL 17
Везде изучим, как сделано шардирование, переключение мастера, решардинг и т.д.
Занятие 1. Управление Linux-сервером
Знакомство с виртуальной машиной, управление пакетами, сборка open source софта для исследований, работа в screen/tmux, systemd-юниты и управление сервисами, grafana/prometheus/экспортеры.
Занятие 2. Основы нагрузочного тестирования
Основы нагрузочного тестирования. Архитектура стрелялки, соединения, треды/воркеры, интенсивность и связь между ними. Coordinated omission. Перцентили. Знакомство с wrkx и подходами к автоматизации (lsmt). Проведение тестов, тюнинг nginx (выжать не менее 100K RPS на статику с одной ноды).
Занятие 3. Проведение нагрузочного тестирования
Создание собственного сервиса с динамически конфигурируемой нагрузкой на CPU (для языков с корутинами/горутинами/async-io — с особыми оговорками).
Занятие 4. Обсуждение результатов нагрузочного тестирования и планирование мощностей
Проведение нагрузочных тестов, анализ данных мониторинга, построение и анализ latency/throughput-диаграмм (показать диаграмму и рассказать, что она значит). Применение полученных данных в оценках планирования мощностей.
Занятие 5. Резервная встреча (сдача «хвостов»)
Резервная встреча для сдачи «хвостов» по практике «с инфрой». Краткое введение в принципы масштабирования приложений, кешей, СУБД. Что мы посмотрим в практикуме по масштабированию СУБД и почему именно это решение.
Занятие 6. Redis-кластер
Архитектура, принципы работы и практикум с кластерным Redis.
Занятие 7. Stateless PostgreSQL Query Router (кластер SPQR + PostgreSQL)
Архитектура, принципы работы и практикум с прокси-роутером SPQR и PostgreSQL.
Занятие 8. Кластер CockroachDB
Архитектура, принципы работы и практикум с кластером CockroachDB.
Автор курса Алексей Рыбак.
- CTO с 20-летним опытом высоконагруженных проектов
- Одним из первых разработчиков Bumble/Badoo, руководил платформенной разработкой, CTO (300 млн пользователей, IPO по оценке $8 млрд)
- В Badoo прошёл путь от стартап-камикадзе до CTO (300 инженеров) и генерального директора Московского офиса разработки
- В роли CTO/VP создавал продукты и строил разработку в российских и глобальных компаниях:
- «Везёт» — второй по размеру такси-агрегатор в России
- Yum! Brands
- Fortune 1000 Restaurant Company
- Член Программного Комитета конференции Highload++
Цена 80000 руб.