Файнтюнинг (дообучение)

Коротко

• Файнтюнинг — донастройка уже обученной базовой модели на узком наборе специализированных данных
• В отличие от обучения с нуля, файнтюнинг требует на порядки меньше данных и вычислений
• Типичный сценарий — дообучение LLM под тон бренда, юридическую или медицинскую терминологию
• LoRA — популярный экономичный метод файнтюнинга, меняющий лишь малую часть весов модели

Определение

Файнтюнинг (fine-tuning, дообучение) — это продолжение обучения уже готовой предобученной модели на новом, обычно значительно меньшем наборе данных, специфичном для конкретной задачи. Базовая модель уже «знает» язык и общие закономерности мира, поэтому файнтюнинг лишь корректирует её поведение — например, под определённый стиль, домен знаний или формат ответа.

Полный файнтюнинг (обновление всех весов модели) требует значительных вычислительных ресурсов, поэтому на практике чаще применяют экономичные методы вроде LoRA, которые обновляют лишь небольшую долю параметров, сохраняя большую часть базовой модели неизменной — это ускоряет процесс и снижает требования к памяти в десятки раз.

На практике

Компании часто выбирают между файнтюнингом и RAG: если нужно изменить стиль или узкий навык модели — подходит файнтюнинг; если нужно дать модели доступ к актуальным или приватным фактам — эффективнее RAG, часто оба подхода комбинируют.