ClassicML ClassicMLМетрики DL NLP

Метрики классификации и ранжирования

  • Какие метрики бинарной классификации вы знаете? Каковы их преимущества и недостатки?
  • Приведите примеры задач, где важнее Precision, и задач, где важнее Recall.
  • Какова вероятностная интерпретация значения ROC-AUC, например 0,8?
  • Для чего нужна NDCG? Почему недостаточно Precision@k?

Бустинг и градиентный спуск

  • Как обучается градиентный бустинг и что в нём означает градиент?
  • Почему в бустинге используют неглубокие деревья, а в Random Forest — глубокие?
  • Как обрабатывать категориальные признаки в градиентном бустинге?
  • Выполните шаги градиентного спуска для функции x², начальной точки x₀ = 2 и learning rate 1. Что произойдёт?

Deep Learning и трансформеры

  • Как работает Batch Normalization? Почему она проблематична при batch_size = 1?
  • Как работает Attention? Зачем делить скалярное произведение на √dₖ?
  • Какие способы позиционного кодирования вы знаете?
  • Как работает RoPE?