#local-llm
Узнайте, как запускать большие языковые модели (LLM) на своем компьютере. Полезные руководства и обзоры проектов, позволяющих создать собственный аналог ChatGPT для безопасной работы с документами и других задач. Полный контроль над данными и работа без подключения к сети.
Локальный ИИ без облака - что умеет NobodyWho
NobodyWho запускает LLM прямо на устройстве: телефоне, десктопе, даже Apple Watch. Разбираем, как Rust-движок даёт локальный ИИ без API-ключей и облак...
Atomic Chat запускает локальные LLM и отдаёт их как OpenAI API
Локальный AI-клиент и движок инференса: запускает открытые модели на вашем железе и отдаёт их через OpenAI-совместимый API на localhost:1337.
Открытая альтернатива Grok Bot, которая живёт на вашей машине
gawkbot превращает рутинные рабочие процессы в микроприложения с помощью ИИ. Открытая альтернатива Grok Bot, которая работает на вашей машине и спраши...
Как собрать домашнюю AI-студию без танцев с терминалом и Docker
Обзор Locally Uncensored: десктопная студия для запуска чатов без цензуры, генерации видео через ComfyUI и автономного кодинга на личном железе.
Как писать код с ИИ в терминале без Electron и Node.js
Обзор hax — легковесного терминального AI-ассистента для программирования на чистом Си. Быстрый запуск, поддержка llama.cpp и минимальное потребление...
Как дообучить 8B нейросеть на ноутбуке с видеокартой на 4 ГБ
Обзор Soup — инструмента для быстрого файнтюнинга LLM из одного YAML-конфига со стримингом слоев для видеокарт с 4 ГБ памяти.
Как запустить мультимодальный ИИ на своем ноутбуке без облаков и лишних трат
Обзор Parlor — опенсорсного проекта для запуска мультимодального ИИ (зрение + голос) локально на вашем компьютере. Разбираем архитектуру на базе Gemma...
Нейросеть в кармане без интернета и цензуры
Обзор USB-Uncensored-LLM: готовая среда для запуска нейросетей с флешки без интернета и цензуры. Работает на Windows, macOS, Linux и даже Android.
Как перестать гадать и выбрать идеальную LLM под свое железо
Обзор whichllm — CLI-инструмента, который анализирует ваше железо и подбирает лучшие локальные нейросети на основе реальных бенчмарков и объема VRAM.
Как выжать максимум из Apple Silicon обзор Rapid-MLX
Обзор Rapid-MLX — самого быстрого движка для запуска LLM на Apple Silicon. Узнайте, как ускорить локальные нейросети в 4 раза и сэкономить на API Open...
Как перевести целую книгу с помощью LLM и не сойти с ума
Обзор TranslateBooksWithLLMs — мощного инструмента для перевода книг и документов любого объема с помощью нейросетей с сохранением исходного форматиро...
Как перестать тонуть в сотнях вкладок и начать по-настоящему думать с Deta Surf
Обзор Deta Surf — инновационного AI-блокнота с открытым исходным кодом, который объединяет браузер, PDF-ридер и заметки в единую среду для эффективног...
Как запустить собственного ИИ-аналитика на домашнем ПК с Local Deep Research
Обзор Local Deep Research — мощного open-source инструмента для глубокого ИИ-поиска и анализа данных, который работает локально и бережет вашу приватн...
Локальные LLM Разверни свой собственный ИИ-центр дома!
Откройте для себя мир локальных LLM! Этот репозиторий — настоящий клад для разработчиков, исследователей и энтузиастов, желающих запускать большие язы...