Сначала проверить, потянет ли компьютер модель, потом скачивать — genmodelfit помогает сделать именно это. В примере из инструкции SDXL 1.0 Base занимает около 6,5 ГБ. Утилита оценивает совместимость и при желании загружает модель в папку ComfyUI. Генерировать изображения и видео она не умеет.

«Хочу понять, запустится ли модель, прежде чем скачивать несколько гигабайт» — знакомая боль локальной генерации. Сначала находишь красивый пример, потом ищешь место на диске и выясняешь, что VRAM не хватает. Иногда загрузку можно было и не начинать.

Источник: github.com

Genmodelfit оценивает совместимость до загрузки модели

«Комфортно» не означает, что genmodelfit гарантирует конкретную скорость генерации. В примере автора есть несколько уровней пригодности. Marginal — запуск возможен на грани; режимы GPU+RAM и CPU могут работать медленно. Модель с пометкой Too tight по умолчанию не попадает в рекомендации.

Идея выросла из llmfit — инструмента для подбора языковых моделей под компьютер. Для генерации изображений и видео нужны другие расчёты: расход памяти зависит от разрешения, числа кадров и условий запуска. Поэтому в genmodelfit можно указать ширину и высоту изображения, а также количество кадров.

  • Проверить модель перед запуском в ComfyUI и посмотреть её лицензию.
  • Оценить, какие модели станут доступны после апгрейда GPU или памяти.
  • Подобрать модель под нужное разрешение изображения или число кадров видео.
  • Использовать JSON-вывод и Python-интерфейс для подбора моделей в приложении пользователя.

Сначала список моделей, потом загрузка

Команда info показывает файлы конкретной модели, лицензию, требования к памяти и варианты запуска. Режим --list выводит размеры файлов и лицензии без скачивания. Удобно, когда выбираете между несколькими вариантами и пока не хотите забивать диск весами «на всякий случай».

SDXL 1.0 Base в инструкции занимает около 6,5 ГБ. Это размер файлов модели. Сколько видеопамяти понадобится при запуске, зависит от настроек и способа работы.

Как проверить другой компьютер или конкретный шот

Для гипотетической конфигурации в примере используют параметры --vram и --ram. Автор проверяет компьютер с 8 ГБ VRAM и 32 ГБ оперативной памяти. Если оцениваете свою машину, эти параметры вводить не нужно: genmodelfit сам читает её характеристики.

Для кадра заданного размера или видео определённой длины можно указать --width, --height и --frames. Это пригодится, если параметры будущего шота уже известны. Оценка всё равно предварительная: перед работой конкретный workflow стоит проверить в своей среде.

Проверка лицензии тоже важна

По умолчанию genmodelfit скрывает модели с неизвестной лицензией и некоторые модели без цензуры. В отчёте он показывает, сколько вариантов не попало в рекомендации. Параметр --any-license добавляет в список модели с неизвестной лицензией.

Если загружаете такие файлы, утилита сначала попросит подтверждение. И это разумный порядок. Совместимость с GPU и право использовать модель в коммерческом проекте нужно проверять отдельно. Genmodelfit помогает не забыть про лицензию.

По словам автора, сведения о компьютере утилита читает локально. Сеть нужна, чтобы получить каталог, скачать файлы и отправить реальные замеры. Замеры отправляются только с согласия пользователя: перед отправкой genmodelfit показывает данные и спрашивает, каким способом их передать.

Проект помечен как alpha. Автор сверял оценки с небольшим количеством реальных измерений: в основном на одном типе NVIDIA GPU. Ещё два замера помогли проверить результаты на других видеокартах. Сейчас автор собирает больше данных, особенно для AMD, Intel и Apple.

Пока genmodelfit удобнее использовать как фильтр перед загрузкой. Его оценка не гарантирует одинаковую работу на любом железе, а проверку конкретной модели и workflow в ComfyUI не заменяет. Для NVIDIA данных больше, для остальных GPU неопределённости пока выше.

Если пользуетесь ComfyUI и хотите помочь с оценками, в README описан запуск замеров для уже установленных моделей. Перед отправкой genmodelfit показывает содержимое и спрашивает согласие. Данные можно отправить через GitHub Pull Request или форму Issue. Если PR примут, ваше имя добавят в список Contributors.

genmodelfit опубликован на GitHub и PyPI под лицензией MPL-2.0. В исходном материале цена не указана. Сама утилита помогает выбрать модель и загрузить её; запускать генерацию по-прежнему нужно в подходящей среде.

Проверка до скачивания помогает избежать ненужных попыток вслепую. Сначала смотрите, что помещается и на каких условиях, потом собираете workflow.

Для локальной генерации порядок такой: отфильтровать модели по компьютеру и задаче, проверить требования к памяти и лицензию, затем запустить нужный workflow в ComfyUI. genmodelfit снимает часть возни до старта. Финальный тест всё равно лучше сделать на своём железе.

Источники

genmodelfit — README на японском

genmodelfit на PyPI

Источникnote.com