Дообучение (Fine-tuning)

Что это такое?

Дообучение — донастройка уже обученной модели под конкретную задачу или компанию. Модель сохраняет общие знания, полученные при обучении на огромных объёмах данных, и дополнительно учится на небольшом наборе примеров из нужной области: документах компании, её терминах, стиле ответов. Это быстрее и дешевле, чем обучать модель с нуля.

Зачем нужно?

Общая модель знает много, но не знает специфики вашей отрасли и ваших процессов.

  • учит модель профессиональной терминологии компании;
  • задаёт нужный формат и тон ответов;
  • повышает точность на узких задачах, например классификации обращений;
  • даёт заменить большую модель меньшей без потери качества на конкретной задаче.

Где применяется?

Корпоративные ИИ-помощники, классификация документов и обращений, медицина, юриспруденция, промышленность.

Пример: компания дообучает языковую модель на нескольких тысячах ответов своей техподдержки, и модель начинает отвечать в принятом формате и с правильными названиями продуктов.

Что важно знать?

Дообучение не лучший способ дать модели свежие факты: при каждом изменении данных его пришлось бы повторять. Для ответов по актуальным документам обычно подключают поиск по базе знаний, а дообучение используют, чтобы закрепить формат и навыки.