Как перестать платить за LLM и начать кодить с топовыми моделями бесплатно

Недавно поймал себя на мысли: мы живем в странное время. С одной стороны, каждый второй разработчик жалуется на подписки по 20 долларов за ChatGPT или Claude. С другой — вендоры вроде NVIDIA, Google и Groq раздают доступ к своим моделям бесплатно, лишь бы вы ими пользовались. Проблема только в том, что эти «бесплатные слоты» разбросаны по десяткам сервисов, у каждого свои лимиты, ключи и эндпоинты.

На днях наткнулся на репозиторий free-coding-models, который решает эту головную боль элегантным способом. Это CLI-утилита, которая собирает в одном интерфейсе более 200 бесплатных моделей для кодинга и позволяет прокинуть их в вашу IDE за пару секунд.

Что это вообще такое

Если коротко: это агрегатор и бенчмарк в реальном времени. Автор проекта, Ванесса Депрот, собрала данные по 25 провайдерам (NVIDIA NIM, OpenRouter, Groq, SambaNova и другие), которые дают бесплатные токены.

Инструмент не просто показывает список ссылок. Он пингует все доступные модели прямо с вашего компьютера, замеряет задержку (latency) и считает «индекс стабильности». Это полезно, потому что бесплатные API часто «лагают» или выдают ошибки под нагрузкой. Вы видите актуальную картину: какая модель сейчас ответит быстрее всего и не отвалится на середине генерации функции.

Как это работает на практике

Установка стандартная для Node.js инструментов:

npm install -g free-coding-models
free-coding-models

При первом запуске утилита предложит ввести API-ключи. Тут есть важный момент: вам не нужно регистрироваться везде. Достаточно завести аккаунт, например, на NVIDIA NIM или Groq (там отличные бесплатные лимиты), вставить ключ, и вы получите доступ к десяткам моделей уровня Llama 3 или Qwen.

Главные фишки, которые зацепили

Автоматическая настройка инструментов. Это, пожалуй, киллер-фича. Вы выбираете модель в списке, нажимаете Enter, и утилита сама прописывает нужные конфиги в ваш любимый инструмент. Поддерживаются Aider, Continue, Cline, OpenHands и еще десяток популярных AI-помощников. Больше не нужно копипастить URL эндпоинтов и возиться с форматами JSON-конфигов.

Рейтинг SWE-bench. Модели в списке ранжированы не просто по названию, а по их реальной способности решать задачи программирования (Software Engineering Benchmark). Есть тиры от S+ (монстры вроде Claude 3.5 Sonnet или топовых Llama) до простых автодополнителей кода.

Умные рекомендации. Если нажать Q в интерфейсе, откроется опросник. Утилита спросит, что вы делаете (рефакторинг, написание тестов или новый проект), и подберет оптимальную модель под задачу и ваши текущие лимиты.

Проверка совместимости. Не все модели одинаково полезны для разных инструментов. В интерфейсе строки подсвечиваются красным, если выбранная модель не «подружится» с вашим текущим CLI-инструментом.

Техническая сторона вопроса

Проект написан на JavaScript и практически не имеет зависимостей (используется только chalk для цвета). Это приятно — не нужно выкачивать половину интернета ради маленькой утилиты. Пинги идут параллельно через нативный fetch, так что опрос двух сотен моделей занимает считанные секунды.

Интересно реализован расчет стабильности (Stability Score). Он учитывает не только среднюю скорость, но и:

• p95 latency (хвост задержек);
• джиттер (разброс времени ответа);
• частоту всплесков (spikes);
• аптайм.

Это гораздо честнее, чем просто смотреть на «среднюю температуру по больнице».

Кому это пригодится

Я вижу два основных сценария. Первый — вы хотите использовать AI в работе, но бюджет на подписки ограничен или вы принципиально не хотите платить за то, что можно получить бесплатно.

Второй — вы ищете «запасной аэродром». Даже платные API иногда лежат. Иметь под рукой инструмент, который за 5 секунд найдет живую и быструю альтернативу — бесценно.

Проект free-coding-models — это отличный пример «клея» для разрозненных сервисов. Он не делает ничего магического, но экономит кучу времени на рутине. Если вы пользуетесь Aider или Continue, попробуйте запустить эту утилиту. Возможно, вы обнаружите, что бесплатная Llama 3 на серверах Groq работает быстрее и не хуже, чем платные аналоги.

Из минусов — README местами перегружен гифками и значками, но сам TUI (терминальный интерфейс) на удивление отзывчивый и понятный. Определенно стоит держать в закладках.