Agents RAG
Опыт и проекты
- Что такое matreshka loss?
- Какой вес MLM в дообучении?
- Что такое triplet loss?
- Как реализована аугментация якоря?
- Какие использовались интринсик и экстринсик метрики?
- Почему выбрали именно RoBERTa?
Архитектура и компоненты LLM
- Что такое трансформер, encoder-only, decoder-only?
- Что такое токенизация (определение) и как работает BPE?
- Как обрабатывается последовательность токенов в трансформере?
- Что такое positional encoding?
- Что такое RoPE?
- Что такое multi-head attention?
- Почему attention’ы разные?
- Какие задачи решаются encoder-only архитектурами?
RAG и информационный поиск
- Как обучались bge-m3, e5?
- Что такое cross-encoder?
- Как реализовать технически базу для ретривера?
- Как хранить базу?
- Как выглядит flow работы RAG в сервисе?
- Как локально подготовить базу для RAG?
- Что делать, если приходят длинные запросы из FAQ?
- Какие метрики используются?
- Что такое BLEU и ROUGE?
- Если есть синонимы — как тогда замерять метрики?
- Что такое g-Eval?
- Как оценить, что g-Eval нормально работает?
Суммаризация и генерация
- Как строить pipeline обучения суммаризации?
- Как сделать суммаризацию без LLM?
- Как обучать суммаризацию с LLM?
- Как дообучать модель с помощью LoRA?
- Как готовить pretrain?
- Как влиять на генерацию ответа при инференсе LLM?
- Температура.
- Beam-search.
- Prompt engineering.
- Structured output (наивный и продвинутый варианты).
Алгоритмы и ML-основы
- Есть функция y = x³ - 2x² + 100 — как обучить нейросеть находить y для любых x, если функции активации линейные?
Прод и инфраструктура
- Как представляешь себе разработку и вывод моделей в прод?
- Где хранить модели для инференса в проде?
- Писал ли асинхронный код?