Deep Learning Engineer (Инженер глубокого обучения)
Что включено
Описание
Программа курса
Обзор Deep Learning
Погрузитесь в тему Deep Learning. Изучите методы обучения глубоких нейросетей. Получите хорошую базу в области глубокого обучения (DL) для дальнейшего освоения темы на курсе.
Построение нейросети и методы оптимизации
Поймете принципы сборки нейросети. Научитесь работать с функциями потерь в PyTorch. Узнаете, как выстроить процесс обучения нейронной сети в рамках конвейера глубинного обучения (пайплайна DL).
Продвинутые техники
Освоите разные методы оптимизации. Узнаете, что такое эксперименты DL. Научитесь решать задачи классификации табличных данных.
Работа с картинками
Начнете знакомиться с задачами CV. Узнаете, как работать с изображениями, используя нейросети. Изучите концепт GAN.
NLP
Познакомитесь с задачами NLP (обработка текстов). Поймете, как работать с текстом. Начнете изучение рекуррентных нейросетей.
Real Life DL
Узнаете, что такое LLM (большие языковые модели) сети, и как с ними работать. Научитесь работать с нейросетью в облаке. Поймете процесс деплоя (развертывания) в DL.
Погружение в NLP
Узнаете, чем отличаются задачи обработки текстов от других задач DL. Изучите структуру решения задач обработки текстов. Поймете принципы кодирования слов.
Классификация текста
Узнаете простейшие методы решения задач классификации и их недостатки. Научитесь решать простейшие задачи классификации.
Токенизация, языковые модели
Поймете отличия задач генерации текста от классификации. Изучите устройство n-gram модели и ее недостатки. Узнаете, как устроены рекуррентные сверточные сети.
Продвинутые рекуррентные нейронные сети
Узнаете все о недостатках RNN и о том, как нивелировать их с помощью LSTM. Освоите различные методы сэмплирования для разных ситуаций.
Уменьшение размеров модели
Изучите различные способы уменьшения размеров модели и поймете, как применять их на практике.
BERT и GPT
Узнаете, чем BERT и GPT отличаются от Трансформера. Научитесь решать задачи превода текста.
Transfer learning (модели с переносом знания)
Поймете, чем дообучение лучше обучения с нуля. Узнаете, чем отличаются способы дообучения. Научитесь применять предобученные модели для решения downstream задач (задач, для которых дообучается или используется предобученная модель).
Prompt Engineering, Parameter-efficient, Fine-tunning (промпт-инжиниринг, эффективная донастройка параметром, донастройка модели)
Познакомитесь со свойствами больших предобученных моделей. Научитесь дообучивать модели в парадигме PEFT
Seq2seq, механизм внимания, трансформер
Поймете отличия языкового моделирования от seq2seq задач. Изучите ценность механизма внимания. Вникнете в суть архитектуры трансформера.
Работа с длинным контекстом и устройство больших моделей
Поймете причины ограничения длины контекста трансформерных моделей. Изучите способы уменьшения сложности применения модели. Узнаете, какие существуют способы увеличения длины контекста. Научитесь увеличивать длину контекста предобученной модели.
Похожие курсы
Skillbox
ChatGPT: практический курс
Нейросети помогают писать тексты и код, генерируют визуал, анализируют данные и делают переводы с любых языков. Навыки владения ИИ уже стали обязательными для дизайнеров, маркетологов, менеджеров, аналитиков и программистов. Список профессий, в которых используют нейросети, будет только расти.
Подробнее →
Нетология
Искусственный интеллект в работе врача
Бесплатный марафон про искусственный интеллект в работе врачей от Нетологии. На онлайн-занятии вы узнаете, как ИИ применяется в медицине и ежедневно помогает опытным экспертам.
Подробнее →
Бруноям
Промпт-инжиниринг
За пару недель освоите промпт-инжиниринг, научитесь с его помощью быстрее делать задачи в работе и жизни, поймёте, как генерировать идеи для контента, рекламы, стратегий
Подробнее →
Нетология
AI-архитектор с нуля до PRO
Обучение работе с нейросетями с нуля в Нетологии. Освойте полный цикл создания контента, приложений и ИИ-агентов без программирования. 6 месяцев практики, удостоверение о повышении квалификации и библиотека промптов.
Подробнее →