Как перестать кормить LLM лишними токенами и приручить контекст
Знакомая ситуация: вы открываете Cursor или Claude Code, просите поправить баг, и агент начинает судорожно перечитывать одни и те же файлы по кругу. Или, что еще хуже, выкидывает в терминал простыню из логов git status на 800 токенов, хотя там всего три измененных строчки. Каждый такой «чих» — это ваши деньги, время ожидания и, самое главное, забитое «окно» контекста, из-за которого модель начинает тупить и забывать начало диалога.
Недавно я наткнулся на проект lean-ctx. Это локальный бинарник на Rust, который встает «прослойкой» между вашим кодом и AI-агентом. Разработчики называют его операционной системой для контекста. Звучит громко, но на деле это очень практичная штука, которая берет на себя всю грязную работу по сжатию и кэшированию данных.
Зачем нам еще одна прослойка
Проблема современных AI-агентов в том, что они довольно расточительны. Они читают файлы целиком, даже если им нужна только сигнатура функции. Они не помнят, что вы обсуждали в соседнем чате пять минут назад, если вы не скопипастили контекст.
Lean-ctx решает это через четыре направления: сжатие, умную маршрутизацию, память и верификацию. Вместо того чтобы скармливать модели сырой вывод терминала, утилита прогоняет его через 56 модулей сжатия. В итоге вместо 800 токенов от git status модель получает около 120. Экономия в 6-7 раз на ровном месте.
Что умеет этот инструмент
Проект предлагает 67 инструментов через протокол MCP (Model Context Protocol). Если вы пользуетесь Cursor, Claude Code, Windsurf или даже просто VS Code с плагинами, вы можете подключить lean-ctx буквально одной командой.
Умное чтение файлов
Вместо обычного cat файла, утилита предлагает 10 режимов чтения. Например, режим map использует Tree-sitter, чтобы вытащить только структуру кода (классы, методы, импорты). Если агент уже читал файл, повторное обращение через кэш обойдется всего в 13 токенов. Это критично для больших монорепозиториев, где контекстное окно забивается за пару минут активной работы.
Сжатие вывода терминала
Это, пожалуй, самая полезная фича для тех, кто просит AI запускать тесты или деплоить код. Lean-ctx перехватывает вывод git, npm, cargo, docker и даже kubectl. Он убирает лишний шум, оставляя только суть ошибок или изменений.
Память, которая не исчезает
Обычно каждый новый чат с AI — это чистый лист. Lean-ctx реализует Session Memory (CCP). Он сохраняет факты, принятые решения и структуру проекта между сессиями. Если вы вчера решили использовать определенный паттерн в авторизации, сегодня агент об этом вспомнит без лишних напоминаний.
Визуализация расходов
В комплекте идет локальный дашборд в браузере. Там в реальном времени видно, сколько токенов вы сэкономили, какие файлы «съедают» больше всего места и сколько денег (в долларах) осталось в кошельке благодаря сжатию.
Как это устроено внутри
В основе лежит один быстрый бинарник на Rust. Это важно, потому что любая задержка в «прослойке» будет бесить при написании кода.
Интересная деталь: проект использует Property Graph для анализа связей в коде. Он строит граф импортов, вызовов и экспортов. Когда вы спрашиваете «на что повлияет изменение этой функции?», AI не просто гадает, а опирается на конкретные данные из графа.
Для тех, кто переживает за безопасность: всё работает локально. Телеметрия только по запросу (opt-in), а ваш код не улетает на сторонние сервера для обработки — сжатие и индексация происходят прямо у вас на машине.
Кому это пригодится
Я бы выделил две основные категории разработчиков, которым стоит попробовать lean-ctx:
- Владельцы больших кодовых баз. Если в вашем проекте больше 50 файлов или вы работаете в монорепозитории, стандартные средства Cursor или Copilot быстро начинают «галлюцинировать» из-за нехватки контекста.
- Активные пользователи CLI-агентов. Если вы фанат Claude Code или Aider, сжатие вывода терминала сэкономит вам приличную сумму на API-ключах в конце месяца.
Если же вы пишете небольшие скрипты или пет-проекты на пару файлов, профит будет минимальным. Смысл в инструменте появляется там, где начинается борьба за каждый килобайт контекстного окна.
С чего начать
Установка довольно простая, есть скрипт для curl, поддержка Homebrew и npm.
# Установка через curl
curl -fsSL https://leanctx.com/install.sh | sh
# Настройка под ваши инструменты (Cursor, Claude и т.д.)
lean-ctx onboard
После этого нужно перезапустить терминал и редактор. Проверить, что всё завелось, можно командой lean-ctx doctor.
Lean-ctx — это не «волшебная палочка», которая сделает AI умнее. Но это отличный «фильтр», который не дает мусору попадать в голову модели. Проект очень активно развивается: релизы выходят почти каждый день, а количество поддерживаемых агентов уже перевалило за три десятка.
Если вы чувствуете, что ваш AI-помощник начал «тупить» на сложных задачах, возможно, проблема не в модели, а в том, что её контекст забит логами npm install и лишними пробелами из README.md. В таком случае lean-ctx определенно стоит того, чтобы потратить 10 минут на настройку.
