LoRA

Полное дообучение модели — это изменение миллиардов чисел: нужно дорогое оборудование, а на выходе получается копия размером с оригинал. LoRA идёт другим путём. Она замораживает базовую модель и обучает лишь небольшой набор дополнительных матриц, каждая из которых — компактная поправка к одному слою. Идея низкого ранга в том, что полезное изменение можно описать гораздо меньшим количеством чисел, чем содержит слой. Поэтому файл часто весит от нескольких мегабайт до нескольких сотен, тогда как базовая модель занимает несколько гигабайт.

В генерации изображений LoRA популярны, потому что их легко распространять и комбинировать. Одна передаёт акварельную манеру, другая — конкретный товар или придуманного тобой персонажа, третья — объектив камеры. Надстройку применяют с силой от нуля до примерно единицы: низкой для намёка, высокой для сильного эффекта. Можно накладывать несколько сразу, но они мешают друг другу, а LoRA привязана к базовой модели, на которой обучалась, поэтому созданная для одного семейства моделей не будет нормально работать на другом.

Языковые модели используют тот же приём для адаптации к области или тону, и он же лежит в основе эффективных методов обучения, сочетающих LoRA с квантованием — сжатием базовых весов, — чтобы дообучение умещалось на одной видеокарте. Как и с любой надстройкой, нужна осторожность: её содержимое зависит от автора, поэтому перед использованием проверь лицензию, источник и то, что было в обучающих изображениях, и никогда не обучай на лице реального человека без его согласия.

Вот конкретный пример. Небольшая мебельная мастерская хочет, чтобы каждое изображение каталога выглядело одинаково: мягкий дневной свет с севера, светлый дуб, приглушённый льняной фон. Вместо того чтобы описывать этот вид в каждом запросе заново, автор мог бы обучить LoRA на нескольких десятках фотографий собственных изделий и включать её с умеренной силой. На той же идее строятся фирменные наборы иллюстраций и узнаваемые вымышленные персонажи. Цена — тщательная подготовка: аккуратные, разнообразные, правильно подписанные обучающие изображения и короткая проверка, не переобучилась ли надстройка и не копирует ли просто свои примеры, вместо того чтобы усвоить стиль.

LoRA к тому же обратима и дёшево хранится: поскольку базовая модель никогда не меняется, можно держать рядом много надстроек, сравнивать их и удалять любую, не теряя ничего другого.

NeverNo не позволяет загружать собственные файлы LoRA. Вместо этого Студия предлагает каталог готовых моделей изображений: по умолчанию стоит Z-Image Turbo, открытая модель из всех тарифов, а другую модель ради иного вида можно выбрать вручную. Чтобы сменить стиль в пределах модели, выбери один из пятнадцати стилей и уточни результат описанием до 1 500 символов и негативным промптом.

Поскольку история, персонажи и медиа остаются в твоём браузере, а не на наших серверах, собственные надстройки потребовали бы ещё и хранения и проверки, которых NeverNo на себя не брал. Жёсткие границы NeverNo действуют для каждого запроса: ничего, что касается несовершеннолетних, и никаких изображений реальных узнаваемых людей без их согласия.