Black Forest Labs выпустила обновленную версию генератора изображений Flux Klein, добавив KV-кэш для ускорения редактирования.

KV-кэш и рабочий процесс

Новый KV-кэш сохраняет эталонные данные, захваченные на первом этапе денойзинга, избегая повторных обращений на последующих шагах.

Хранение референсных ключей локально вместо их запроса на каждой итерации позволяет модели сократить избыточные вычисления и приблизительно ускорить обработку на 2.5×.

Архитектура KV специально настроена для получения результатов в 4 шага, согласуя использование кэша с конвейером денойзинга для редактирования с несколькими референсами.

Производительность и качество

На Nvidia RTX 4090 модель рендерит изображение 832×1248 примерно за 1 секунду, что соответствует 3.28 итерациям/с при стабильных запусках.

Первичная генерация идет медленнее из-за заполнения кэша при первом запуске, после чего последующие проходы выполняются заметно быстрее.

Сообщается, что подсказки и соответствие референсам точны, в то время как мелкие текстурные детали могут выглядеть несколько обработанными и могут быть улучшены внешним апскейлером.

Объём памяти и доступность

Официальное использование VRAM составляет 29 GB, при необходимости страницы переполнения выгружаются в системную ОЗУ во время выполнения.

Согласно заметкам к выпуску, ожидается, что конфигурации с 12–16 GB VRAM и 32–64 GB системной памяти смогут запускать модель приемлемо.

Шаблон для интеграции в Comfy уже добавлен, что упрощает развертывание и эксперименты в этом интерфейсе.