Японский автор Hirorohi03 разбирает, какие локальные LLM подходят для генерации изображений, а какие — для других задач. В статье он сравнивает Gemma 4 для промптов и Strata, которая запускает Qwen3.8-Flash-Next даже при 12 ГБ VRAM. Но одной видеокарты мало: понадобится ещё оперативная память.
Мне близок практический вывод автора: размер модели сам по себе не делает её лучшим помощником для генератора. Для работы с промптами я бы начал с компактной LLM. Большую MoE-модель имеет смысл рассматривать, если вам нужен локальный агент для разных задач, а не только редактор запросов.
Локальные LLM для генерации изображений лучше разделить по задачам
Hirorohi03 вернулся к теме примерно через пять месяцев после своей статьи о локальных LLM для NSFW-генерации. В новой заметке он собрал изменения, которые помогают разобраться, что происходит с локальными моделями. Это скорее повод обновить картину, чем сигнал срочно менять привычный рабочий процесс.
По таблице в японской заметке, после Qwen3.6 стали выходить более крупные открытые модели. Автор указывает Qwen3.6-35B-A3B от 16 апреля 2026 года, Qwen3.6-27B от 22 апреля, Qwen3.8-27B от 14 августа и Qwen3.8-Flash-Next (125B) от 26 августа. Досье отдельно подтверждает появление Qwen3.8-Flash-Next в конце августа; остальные даты приведены по таблице автора.
Здесь важен размер моделей. Автор не видит среди новых Qwen3.6 и Qwen3.8 компактных вариантов уровня 8–9B. Для промпт-инжиниринга ему хватает прежних Qwen3-8B или Qwen3.5-9B. Крупные модели, по его мнению, полезнее для поиска идей, составления словарей и работы со вспомогательными инструментами.
| Задача | Подход из японской заметки | Что учитывать |
|---|---|---|
| Расширить или привести в порядок промпт | Qwen3-8B, Qwen3.5-9B или Gemma 4 12B | Компактная модель не занимает ресурсы генератора так, как крупная LLM |
| Сгенерировать идеи и спроектировать вспомогательный инструмент | Модель от 27B | Для работы нужно больше ресурсов; автор отделяет такую задачу от самой генерации |
| Запустить локального агента для разных задач | Qwen3.8-Flash-Next через Strata | Нужны GPU, RAM и SSD; для одних только промптов это избыточно |
В таблице Gemma автор отдельно отмечает Gemma-4-12B как удобную модель для промпт-инжиниринга. Он также передаёт мнение сообщества: Gemma 4 лучше Qwen понимает японские эротические выражения. Это субъективная оценка, не результат сравнительного теста. Сам Hirorohi03 пишет, что сейчас в основном использует Gemma 4 12B.
Strata запускает большую модель и работает рядом с llama.cpp
В японской статье Strata описан как отдельный движок инференса. Автор предлагает выбирать между ним и привычным llama.cpp под конкретную задачу. Strata распределяет нагрузку между VRAM, оперативной памятью и SSD — так большую MoE-модель можно запускать на обычной видеокарте.
Для Qwen3.8-Flash-Next автор приводит 125B общих параметров и 6B активных. Ориентир по оборудованию — 12 ГБ VRAM и 64 ГБ RAM. В документации Strata описана конфигурация с RTX 5070 на 12 ГБ и 64 ГБ оперативной памяти. Так что 12 ГБ — это только объём видеопамяти, не вся спецификация и не обещание запуска без компромиссов.
Есть важный нюанс для креаторов: если одновременно запустить LLM и модель генерации изображений, они будут делить ресурсы GPU. Поэтому автор не советует брать Strata с такой моделью для обычного улучшения промптов. Он видит для неё другую задачу — работу с кодом, текстом и агентными сценариями. При 24 ГБ VRAM или больше, например на нескольких GPU, по мнению автора, вариантов станет больше. Среди них может быть и генерация изображений.
Qwen3.8-Flash-Next пока не вышла как Qwen4. Hirorohi03 называет её ранним превью Qwen4 и уточняет, что она заметно отличается от обычной Qwen3.8. В материалах из досье её точнее описывают как экспериментальное превью архитектуры будущего Qwen4. На 13 октября 2026 года сам Qwen4 ещё не вышел, дату релиза не объявляли.
Prompt Enhancer в ComfyUI можно использовать и без самого ComfyUI
В шаблонных workflow ComfyUI для современных генераторов может быть встроен Prompt Enhancer. Как пишет Hirorohi03, для расширения промпта там используют языковую модель, настроенную под конкретный генератор.
По словам автора, в Forge Neo такой функции нет: LLM нужно подключать отдельно через API. Но устанавливать ComfyUI только ради Prompt Enhancer необязательно. Если ComfyUI уже есть, откройте шаблонный workflow и найдите узел «Text (System prompt)». В нём хранится системная инструкция для выбранной модели генерации.
- Откройте в ComfyUI шаблонный workflow для нужной модели генерации.
- Найдите узел с названием «Text (System prompt)».
- Скопируйте системную инструкцию в настройки своей LLM или пресет.
- Если ComfyUI не установлен, найдите нужный JSON-файл workflow в GitHub-репозитории шаблонов.
- В JSON найдите узел, у которого в title указано system prompt; текст инструкции автор советует искать в widgets_values.
Системный промпт из workflow уже учитывает особенности генератора, так что инструкцию не придётся сочинять с нуля. Но для другой модели генерации она может подойти хуже. Возьмите текст за основу и проверьте его на своих запросах.
Skills полезны агентам, но системный промпт часто проще
В заметке упомянуты официальные prompt-writing skills для MOSS-Image и MiniMax H3. Skill — это папка с инструкциями и, при необходимости, инструментами, которую агент может использовать для конкретной задачи. Такой набор может описывать работу с файлами или запуск скриптов. Он пригодится, если агенту нужно выполнить целый рабочий процесс.
Для простой задачи расширения промпта агентная обвязка может быть лишней. Автор пишет, что чат-модель способна подготовить системный промпт с похожими текстовыми инструкциями. Он также предупреждает: плагин khtsly/skills в LM Studio в его окружении часто не срабатывал.
В качестве альтернативы автор советует LM Studio Bionic, вышедшую 17 июля 2026 года. По его описанию, программа использует общую с LM Studio папку моделей, а поддержку skills получила 17 августа. Значит, при переходе не придётся заново загружать все модели. Даты и сведения о программах здесь приведены по японской заметке.
Для креатора выбор начинается с задачи. Для промптов попробуйте компактную модель. Большую MoE через Strata подключайте под работу, которая оправдывает расход RAM, места на SSD и ресурсов GPU. Если у вас уже установлен ComfyUI, проверьте системный промпт в workflow — возможно, часть настройки уже готова.
Источники
Strata: техническая документация и требования
Qwen3.8-Flash-Next: что подтверждено и что можно скачать
Qwen 4: что Alibaba сообщала о модели и что доступно сейчас
Источникnote.com
