Все локальные нейросети в одном окне — смотрим Uncensored Local Studio

Если вы пробовали собирать локальный стек для работы с нейросетями, то наверняка знаете, во что это превращается. Для текстов ставится Ollama или LM Studio, для картинок — Automatic1111 или ComfyUI, для распознавания голоса — отдельный скрипт на Whisper, а для озвучки — еще какая-нибудь утилита. В итоге на диске разрастаются гигабайты виртуальных окружений Python, разные порты путаются между собой, а видеопамять забивается несколькими процессами одновременно.

Недавно мне попался репозиторий techjarves/Uncensored-Local-Studio. Автор попытался решить проблему разрозненности утилит и укомплектовал основные ИИ-инструменты в единый десктопный клиент.

Что умеет Uncensored Local Studio

Это полностью автономная студия, запускаемая локально на Windows, Linux или macOS. У проекта около 800 звезд на GitHub и открытая лицензия MIT.

Внутри веб-интерфейса объединены четыре задачи:

1. Генерация и редактирование изображений через Stable Diffusion (файлы .safetensors, .gguf и .ckpt).
2. Диалоги с языковыми моделями в формате GGUF.
3. Расшифровка речи с микрофона или из аудиофайлов в реальном времени.
4. Преобразование текста в естественный голос.

Главный плюс — полное отсутствие зависимости от облачных API, внешних серверов, регистраций или подписок. Все вычисления происходят исключительно на вашем компьютере.

Как устроена архитектура

С разработческой точки зрения проект интересным образом комбинирует существующие высокопроизводительные C++ движки.

Вместо привычной тяжелой связки из Python и PyTorch разработчик взял компилируемые C++ бэкенды. За генерацию изображений отвечает stable-diffusion.cpp, за чат с текстовыми моделями — llama.cpp, за транскрипцию голоса — whisper.cpp, а за озвучку текста — kokoro-js с нейросетью Kokoro-82M.

Фронтенд написан на Vite и React. Веб-сервер и менеджер жизненного цикла бэкендов работают на Node.js. Чтобы пользователь не тратил время на разворачивание окружения, скрипт запуска сам скачивает портативную версию Node.js прямо в каталог приложения. Системные переменные при этом не затрагиваются.

Интересно решен вопрос управления VRAM. Чат и генератор изображений работают по принципу взаимного исключения. При переключении вкладок активный движок высвобождает видеопамять, благодаря чему приложение адекватно работает на видеокартах с 6–8 ГБ VRAM.

Аппаратное ускорение и работа с моделями

Приложение умеет автоматически определять установленные комплектующие и выбирает оптимальный бэкенд:

• NVIDIA: задействуются оптимизации CUDA.
• AMD и Intel Arc: вычисления идут через Vulkan API или ROCm.
• Apple Silicon: используется движок Metal (процессоры Intel Mac не поддерживаются).
• Intel Core Ultra: есть экспериментальный запуск моделей на встроенных NPU через OpenVINO.

Для Windows запуск сводится к выполнению windows.bat. На Linux и macOS используются командные скрипты linux.sh и mac.sh.

Вот как выглядит структура каталогов приложения:

Uncensored-AI-Studio/
├── windows.bat                # Скрипт запуска для Windows
├── linux.sh                   # Скрипт запуска для Linux
├── mac.sh                     # Скрипт запуска для macOS
├── scripts/                   # Конфигураторы бэкендов и веб-сервера
└── app/
    ├── frontend/              # Исходный код интерфейса (Vite + React)
    ├── models/                # Модели Stable Diffusion (.safetensors, .ckpt)
    ├── llm-models/            # Текстовые модели (.gguf)
    ├── speech-models/         # Модели Whisper (.bin)
    └── outputs/               # Сохраненные генерации и метаданные JSON

Встроенный менеджер моделей упрощает загрузку: можно вставить прямую ссылку на Hugging Face, и файл скачается сразу в нужную папку. Из коробки предлагается быстрый старт с лёгкими моделями вроде Qwen2.5 Coder для чата или DreamShaper 8 для генерации артов.

В интерфейсе выведен встроенный монитор ресурсов, показывающий загрузку CPU, системной оперативной памяти, GPU и видеопамяти в реальном времени.

Ограничения и подводные камни

У компактности есть обратная сторона. Если вы привыкли к узкоспециализированным инструментам вроде ComfyUI с их нодовыми графами, ControlNet, LoRA или сложным цепочкам под Flux и Hunyuan, этот проект их не заменит. Здесь поддерживаются только одиночные чекпоинты SD 1.5 и SDXL. Дополнительные файлы VAE или текстовые кодировщики отдельно не подгружаются.

Второй момент касается Linux-систем. Готовые бинарники бэкенда собраны под относительно свежие дистрибутивы с glibc 2.38 или новее (например, Ubuntu 24.04). Если запускать на более старых дистрибутивах вроде Ubuntu 22.04, бэкенд выдаст ошибку динамического линковщика. Придется либо обновлять ОС, либо собирать бинарники из исходников с помощью прилагаемого скрипта scripts/build/build_from_source.sh.

Кому пригодится проект

Uncensored Local Studio станет хорошей находкой для тех, кому нужен универсальный персональный ассистент и генератор картинок на одном ПК без долгих танцев с Python-окружениями.

Разработчикам проект интересен как наглядный пример интеграции llama.cpp и stable-diffusion.cpp в единый Node.js/React интерфейс. Код открыт, а сама архитектура показывает, как делать отзывчивые нейросетевые приложения без гигабайтных зависимостей.