Экономичный метод дообучения модели, при котором изменяется лишь малая добавочная часть весов, а не вся модель целиком.
LoRA (Low-Rank Adaptation) — это метод экономичного дообучения больших моделей, при котором вместо изменения всех миллиардов весов исходной модели добавляются небольшие обучаемые матрицы низкого ранга, которые «корректируют» поведение модели под новую задачу, в то время как основные веса остаются замороженными и неизменными.
Такой подход резко снижает требования к вычислительным ресурсам и объёму памяти, необходимым для дообучения: вместо хранения и обновления полной копии модели под каждую задачу, достаточно обучить и хранить компактный набор дополнительных параметров (адаптер), который можно «подключать» к базовой модели по необходимости.
LoRA особенно популярна среди разработчиков, которые не располагают ресурсами крупных лабораторий: она позволяет дообучить модель под узкую задачу (стиль, домен, язык) даже на относительно скромном оборудовании.
Полный файнтюнинг обновляет все веса модели и требует много ресурсов. LoRA обучает лишь небольшую добавочную часть параметров, оставляя основную модель неизменной, что радикально экономит вычисления и память.
Да, это одно из практических преимуществ метода — можно хранить множество компактных адаптеров под разные задачи и подключать нужный к одной и той же базовой модели.
В большинстве практических задач разница в качестве минимальна, при этом выигрыш в стоимости и скорости дообучения значителен.