Складчина: LLM-инженер. Часть 5 из 5 [Gigaschool] [Александр Потехин, Роман Соломатин]
Заключительная, пятая из пяти складчин на полный курс.
Создавай, обучай и внедряй LLM‑проекты под руководством экспертов и практиков
Что даст курс?
- Возможность создать LLM-проект
- освоив технологии разработки LLM, вы сможете запускать свои проекты с нуля, создавая решения на базе передовых технологий.
- Улучшить существующие сервисы
- возможность создавать и оптимизировать LLM для реальных задач, повышая эффективность бизнес-процессов и улучшая качество сервисов.
В связи с высокой стоимостью (190 998 руб.) и продолжительностью (5,5 месяцев) курса, для удобства участников принято решение о его разделении на 5 частей. Каждая часть соответствует одному большому разделу программы. Каждая последующая складчина является продолжением предыдущей, и соответственно необходимо оплатить предыдущую.
Это четвертая часть курса, посвященная продвинутой теме — интеллектуальным агентам. Вы научитесь строить как простейших агентов для решения конкретных задач, так и сложные мультиагентные системы. Особое внимание будет уделено точкам отказа, уязвимостям, борьбе с галлюцинациями и методам reasoning (ReAct, Tree of Thoughts).
Что вы освоите в этой части?
Ключевые навыки:
- Разрабатывать интеллектуальных агентов и мультиагентные системы
- Использовать reasoning-подходы: ReAct, Tree of Thoughts
- Понимать пределы применимости агентов и их точки отказа
- Отлаживать и валидировать агентные системы
- Защищать системы от уязвимостей и галлюцинаций агентов
Основные инструменты:
- OpenAI Agents API
- LangGraph
Программа пятой части курса
Раздел 5. Инфраструктура
1. Хостинг LLM, эмбеддингов
Лекция: обзор инструментов (ollama, tgi, tei, vllm, llama.cpp)
Семинар: поднятие модели vllm и работа с ней
Доп. литература: кэширование
На выходе таланты:
Понимают и умеют хостить модели «из коробки»
Могут оценить требования системы для той или иной модели
Выбирают необходимый инструмент для хостинга самостоятельно
2. Разворачивание чатбота
Лекция: обзор UI для чатботов Streamlit, Gradio
Семинар: деплой чатбота в веб/тг
На выходе таланты:
Работают с классическими инструментами интерфейса чат-ботов
Смогут развернуть собственного чат-бота
3. Observing
Лекция: отслеживание работы модели и запросов, версионирование (langfuse, MLflow, arize, fiddler)
Семинар: интеграция с чатботом из предыдущего пункта
На выходе таланты:
Умеют обращаться с инструментами трекинга и версионирования (промптов, экспериментов)
Могут самостоятельно подобрать набор необходимых сервисов и инструментов
Эксперты курса
Потехин Александр. NLP Lead X5 Tech
Соломатин Роман. ML Engineer (LLM, Ops) X5 Tech
Андреева Дарья. ML Engineer (NLP) X5 Tech
Желтова Кристина. Газпромбанк, директор по разработке моделей
Кокуйкин Евгений. CEO Raft
Цена: 36000 рублей (за пятую часть из пяти).
Предыдущие части курса: