Транснефть

NLP ML

1. Prompt-tuning Вопрос: как заставить LLM выполнять любую задачу, допустим задачу классификации? Ответ:

   • Сначала я сказал, что дообучить модель на задаче, но есть способ проще - это просто задать правильный промпт (Есть ли мат в данном предложении {предложение}, ответь да или нет)

2. Гиперпараметры и вставка в генерацию Вопрос: Как можно заставить модель генерировать по шаблону текст ? Ответ:

   1. Можно попробовать задать промпт, в котором будет правило как писать текст и поиграться с параметрами top_k и temperature
   2. Также в момент генерации можно самостоятельно подсунуть модели токены для генерации Суём во время генерации: json generation: { И дальше модель генерирует сама начиная с json generation: { генерация… }

3. Логиты Вопрос: Как посмотреть уверенность модели в своём ответе? Ответ: (Здесь могу ошибаться). Ответ:

   1. Посчитать лосс-функцию на генерации
   2. Посмотреть на распределение логитов генерации

4. Retriever в Retrieval-Augmented Generation Вопрос: Как улучшить Retriever ? (Retriever - модель, которая ищет релевантную информацию по запроcу, другими словам, это поисковик) Ответ:

   1. Обучить энкодер на доменных данных, например с помощью Contrastive Learning
   2. Улучшить разбиение на чанки, то есть на кусочки текста
   3. Улучшить алгоритм поиска, например из 100 000 чанков с помощью ANN находим 50, а из 50 сортируем по косинусной близости