NLP LLM RAG ClassicML

Classic ML и метрики

  • Приведите примеры задач, в которых важнее Precision, и задач, в которых важнее Recall.
  • Чем L1-регуляризация отличается от L2 — математически и практически?
  • Почему в Random Forest обычно используют глубокие деревья, а в градиентном бустинге — неглубокие?
  • Как бороться с дисбалансом классов?
  • Что такое Data Drift и как его обнаруживать?

LLM и трансформеры

  • Что такое KV Cache и зачем он нужен?
  • В чём суть LoRA?
  • Как обучается BERT?
  • Как устроены Transformer и механизм Attention?

RAG

  • Когда RAG выгоднее Fine-tuning?
  • Что делать, если Retriever не вернул релевантные чанки, а LLM начала галлюцинировать?
  • Как масштабировать RAG-систему при высокой нагрузке?
  • Как поддерживать продолжение диалога и уточнения к предыдущему ответу в RAG-системе?
  • Чем отличаются HyDE, GraphRAG и Agentic RAG?

Прикладные задачи

  • Как построить классификатор для модерации или цензурирования текста?