Как перевести целую книгу с помощью LLM и не сойти с ума

Недавно поймал себя на мысли: мы привыкли скармливать ChatGPT куски кода или короткие письма, но когда дело доходит до чего-то объемного, вроде технической документации на триста страниц или свежего зарубежного романа, магия нейросетей разбивается о контекстное окно. Копипастить главы вручную — занятие для мазохистов. Системы машинного перевода вроде Google Translate часто убивают контекст, а профессиональные переводчики стоят дорого.

На днях наткнулся на проект TranslateBooksWithLLMs. Идея простая: берем вашу любимую LLM (хоть локальную через Ollama, хоть облачную Claude или GPT) и скармливаем ей файл целиком. Утилита сама порежет текст на умные куски, переведет их и соберет обратно, сохранив структуру.

Зачем это нужно, когда есть DeepL

Основная проблема обычных переводчиков — потеря нити повествования. Если в начале книги персонажа назвали определенным образом, через сто страниц переводчик может забыть об этом и выдать другой вариант. Инструмент от hydropix пытается решить это за счет системы чанков, которые учитывают контекст предыдущих сегментов.

Но главное преимущество здесь — формат. Если вы хоть раз пробовали переводить EPUB, то знаете, какая это боль. Текст разваливается, картинки улетают, стили ломаются. Этот проект обещает «идеальное сохранение». То есть на выходе вы получаете тот же EPUB или DOCX, где все теги, стили и форматирование остались на своих местах, изменился только язык текста.

Что умеет инструмент

Проект поддерживает несколько популярных форматов:

• EPUB — мастхэв для электронных книг.
• SRT — для тех, кто хочет смотреть фильмы с качественными субтитрами.
• DOCX и обычный TXT.

Интересная деталь: встроена система чекпоинтов. Если у вас внезапно отвалился интернет или вы решили выключить компьютер на середине перевода «Войны и мира», процесс не придется начинать заново. Программа запоминает, где остановилась, и продолжит с того же места.

Для тех, кто ценит качество, есть режим --refine. Это второй проход нейросетью по уже переведенному тексту для «литературной полировки». Полезно, если первичный перевод кажется слишком сухим или машинным.

Как это работает «под капотом»

В плане выбора «мозгов» полная свобода. Автор добавил поддержку кучи провайдеров:

Если не хотите тратить деньги на API или переживаете за приватность своих документов, можно запустить все локально через Ollama или любой OpenAI-совместимый сервер (например, LM Studio или llama.cpp). Для тех, кто не хочет возиться с Python, предусмотрены готовые бинарники под Windows и macOS.

Быстрый старт для разработчика

Если вы привыкли все контролировать, лучше ставить из исходников. Процесс стандартный:

git clone https://github.com/hydropix/TranslateBooksWithLLMs.git
cd TranslateBooksWithLLMs
# Подтягиваем модель, например Qwen 3
ollama pull qwen3:14b    
# Запускаем скрипт
./start.sh

После этого по адресу http://localhost:5000 откроется веб-интерфейс. Он довольно аскетичный, но свою функцию выполняет — закинул файл, выбрал модель, нажал кнопку и пошел пить кофе.

Для любителей автоматизации есть CLI. Например, перевод через OpenRouter выглядит так:

python translate.py -i manual.epub --provider openrouter \
    --openrouter_api_key YOUR_KEY -m anthropic/claude-3-sonnet -tl Russian

Кстати, в репозитории есть опция --tts. Она позволяет сразу превратить вашу книгу в аудиокнигу с помощью Edge-TTS. Текстовый перевод и озвучка в одном флаконе — довольно удобно для тех, кто потребляет контент на ходу.

Личные впечатления

Что мне понравилось: проект не пытается быть «комбайном для всего». Он решает конкретную проблему «длинного контекста» в переводах. Использование токен-ориентированного разделения на чанки (по умолчанию 400 токенов) — это грамотный подход, который предотвращает галлюцинации LLM на больших объемах данных.

Из минусов: документация пока выглядит как короткая шпаргалка. Если захотите тонко настроить промпты для перевода (например, чтобы соблюдать специфический глоссарий), придется лезть в код. Но судя по активности в коммитах, проект живой и быстро обрастает фичами.

Итог: стоит ли пробовать

Если вам нужно перевести PDF-инструкцию на 500 страниц или вы хотите прочитать книгу, которой еще нет на русском, этот инструмент сэкономит кучу времени. Особенно он зайдет владельцам Mac на M-чипах или мощных видеокарт, так как связка с Ollama работает очень бодро.

Пожалуй, это одно из самых практичных применений локальных нейросетей на сегодня. Попробовать точно стоит, хотя бы ради того, чтобы увидеть, как ваша видеокарта за вечер «проглатывает» целую библиотеку.