Agents LLM

Агенты и агентные инструменты

  • Чем агент отличается от скрипта? В какой ситуации что использовать?
  • Что хранится в файле CLAUDE.md?
  • Как организованы инструкции в Claude Code: отдельный файл на каждый проект или общий для всех? Где лежат глобальные инструкции?
  • Что такое скиллы в Claude Code и зачем их подключать?

Локальный инференс и квантизация

  • Сколько видеопамяти нужно для локального запуска LLM на 7B параметров? От чего зависит оценка?
  • Что такое квантизация и как она влияет на размер модели?
  • Во сколько раз уменьшается модель при переходе с FP16 на INT4? Как это сказывается на качестве?
  • Какие накладные расходы помимо весов модели нужно учитывать при расчёте видеопамяти (контекстное окно, KV-кэш)?

Кейс: автоматизация юридического отдела

  • Юридический отдел из 20 человек. Опишите по шагам, как вы будете его автоматизировать: с чего начнёте, что сделаете, какой результат предъявите и в какой срок.
  • Как собрать информацию о том, какие задачи реально занимают время сотрудников отдела?
  • Почему опроса одного руководителя недостаточно и как выбрать, кого из линейных сотрудников опрашивать?
  • Как определить, какие из задач отдела имеет смысл автоматизировать в первую очередь?
  • Какие требования к безопасности нужно выяснить до проектирования решения на внешней LLM?
  • Как построить цикл маскирования и демаскирования персональных данных перед отправкой документов во внешний API?
  • Какими инструментами снабдить агента, чтобы он работал с документом на 20+ страниц (скользящее окно, навигация по документу, поиск по хранилищу)?
  • Почему для прототипа достаточно обычного ReAct-агента, а не сложного harness?
  • Как собрать golden set из реальных задач сотрудников и протестировать агента end-to-end?
  • Как анализировать ошибки агента и какими итерациями улучшать качество (инструменты, промпты)?