Fine-tuning (дообучение модели)
Fine-tuning, или дообучение, — продолжение обучения базовой модели на специализированном наборе данных. Веса модели изменяются так, чтобы она устойчивее воспроизводила нужный формат, лексику, стиль или способ решения определённого класса задач.
Дообучение полезно для классификации, извлечения данных, структурированных ответов и повторяемого поведения. Оно не является универсальным способом загрузить в модель постоянно меняющуюся базу фактов: для актуальных документов чаще подходит RAG. Перед fine-tuning обычно проверяют, нельзя ли решить задачу качественной инструкцией, примерами в контексте или инструментами.
Набор данных должен быть законным, точным, разнообразным и соответствовать реальному сценарию. Ошибочные либо однообразные примеры закрепляют нежелательное поведение. После обучения модель оценивают на отдельной выборке, сравнивают с базовой версией и проверяют безопасность. Стоимость зависит от объёма данных, провайдера, размера модели и числа обучающих проходов.
Вопросы и ответы
Когда требуется устойчивое повторяемое поведение, формат или специализация, которые не удаётся надёжно получить инструкцией и примерами в контексте.
Можно обучить модель на фактах, но для часто меняющихся сведений обычно удобнее RAG: документы обновляются без нового цикла обучения.
Да. Модель сравнивают с базовой на отдельной выборке, проверяют качество, устойчивость, безопасность и отсутствие ухудшений на важных сценариях.