Docling Serve превращает хаос документов в удобный API

Знакомая ситуация? Вам нужно вытащить данные из сотен PDF-файлов, отчетов или сканов. Начинается головная боль: кривые библиотеки для парсинга, распознавание текста, которое путает «О» и «0», и часы, потраченные на написание костылей. А что, если бы можно было просто отправить документ на API-эндпоинт и получить в ответ структурированный JSON? Именно эту задачу решает Docling Serve.

Давайте разберемся, что это за зверь, и как он может сэкономить вам кучу времени и нервов.

Что такое Docling Serve?

Если коротко, Docling Serve — это готовый к использованию веб-сервер для проекта Docling, опенсорсного инструмента для AI-конвертации документов от IBM. Вместо того чтобы самостоятельно настраивать Python-окружение, скачивать модели и писать обвязку на Flask или FastAPI, вы получаете все это в одной коробке.

Представьте, что у вас есть мощный кухонный комбайн (это Docling), который умеет извлекать текст, таблицы и другую информацию из документов. А Docling Serve — это удобная панель управления с одной большой кнопкой «Сделать хорошо», выведенная в виде простого REST API. Вы просто «закидываете» в него документ, а он возвращает результат.

Это идеальное решение для разработчиков, которым нужно встроить умную обработку документов в свои приложения, не погружаясь с головой в дебри машинного обучения.

Как это работает и зачем нужно?

Вся магия — в простоте. Вы запускаете сервер одной командой, и он готов принимать запросы. Например, хотите обработать научную статью прямо из сети? Нет проблем.

Вот как это выглядит на практике с помощью curl:

curl -X 'POST' \
  'http://localhost:5001/v1/convert/source' \
  -H 'accept: application/json' \
  -H 'Content-Type: application/json' \
  -d '{
    "sources": [{"kind": "http", "url": "https://arxiv.org/pdf/2501.17887"}]
  }'

Вы просто отправляете JSON с URL-адресом PDF-файла и получаете в ответ структурированные данные. Никакой возни с установкой зависимостей для рендеринга PDF или OCR-движков.

Ключевая возможность №1: Готовый API и UI из коробки

Самое ценное в Docling Serve — это его готовность к работе. Сразу после запуска у вас есть:

REST API: для интеграции с вашим бэкендом, скриптами или любыми другими сервисами.
Интерактивная документация: стандартный интерфейс FastAPI (Swagger/ReDoc) по адресу /docs, где можно изучить все эндпоинты.
Веб-интерфейс: по адресу /ui доступна простая «песочница», где можно загружать файлы или указывать ссылки и сразу видеть результат. Это невероятно удобно для тестов и демонстраций.

Интерфейс для отправки документов

Вам не нужно писать ни строчки фронтенда, чтобы показать, как работает система, или чтобы быстро проверить гипотезу.

Визуализация результата в UI

Ключевая возможность №2: Гибкое развертывание с помощью контейнеров

Развертывание ML-моделей — та еще задачка. Нужно подобрать правильные версии драйверов, библиотек типа PyTorch и CUDA. Команда Docling Serve позаботилась об этом, подготовив несколько вариантов контейнерных образов:

| Образ | Описание | Для чего подходит | |---|---|---| | docling-serve | Базовый образ с поддержкой GPU (CUDA). | Для мощных серверов с видеокартами NVIDIA. | | docling-serve-cpu | Версия только для CPU. | Для менее требовательных задач, тестов или окружений без GPU. | | docling-serve-cu... | Сборки под конкретные версии CUDA (например, 12.6, 12.8). | Когда нужна совместимость с определенной версией драйвера. |

Запустить сервер можно одной командой, например, с помощью Podman:

podman run -p 5001:5001 -e DOCLING_SERVE_ENABLE_UI=1 quay.io/docling-project/docling-serve

Это избавляет от часов отладки проблем с окружением. Интересно, что авторы также поддерживают сборку для AMD ROCm, хотя и не публикуют готовый образ из-за его размера. Это говорит о серьезном подходе к поддержке разного железа.

Где это можно применить на практике?

Возможности Docling Serve ограничены только вашей фантазией. Вот несколько идей:

Автоматизация документооборота. Представьте систему, куда менеджеры загружают сканы счетов-фактур, а Docling Serve автоматически извлекает оттуда сумму, дату, поставщика и добавляет в вашу ERP или базу данных.
Создание "умного" поиска по документам. Вы можете использовать Docling для извлечения чистого текста из корпоративной базы знаний (PDF, DOCX), а затем индексировать его в Elasticsearch. Сотрудники смогут искать информацию по содержимому файлов, а не только по названиям.
Анализ научных статей или юридических документов. Можно создать сервис, который "скармливает" Docling Serve сотни статей, извлекает из них ключевые термины, цитаты или таблицы, помогая исследователям в их работе.
Основа для RAG-систем (Retrieval-Augmented Generation). Чтобы большая языковая модель (LLM) могла отвечать на вопросы по вашим документам, ей сначала нужно предоставить их содержимое в чистом виде. Docling Serve — идеальный первый шаг в этом конвейере: он берет на себя грязную работу по парсингу файлов.

Что под капотом?

Хотя Docling Serve и скрывает сложность, полезно знать, на чем он построен. В основе лежит Python и, судя по всему, фреймворк FastAPI для создания API. Главный компонент — это, конечно, сама библиотека Docling, которая использует модели машинного обучения (вероятно, на базе PyTorch) для анализа структуры и содержания документов.

Стоит отметить, что контейнерные образы довольно увесистые (от 4 до 11 ГБ). Это нормально для ML-приложений, так как они включают в себя не только код, но и сами модели. Разработчики обещают в будущем выпустить slim-версии образов, которые будут загружать веса моделей при первом запуске, что уменьшит их первоначальный размер.

Выводы: кому стоит попробовать?

Docling Serve — это фантастический инструмент для любого разработчика, который сталкивается с задачей обработки документов.

Вам точно стоит на него посмотреть, если:

Вы хотите добавить в свой продукт функцию анализа PDF/сканов, но не хотите становиться ML-инженером.
Вам нужен быстрый и надежный способ извлекать текст и данные для последующей обработки (например, для LLM).
Вы цените готовые решения, которые можно развернуть одной командой и сразу начать использовать.
Вы ищете опенсорсный проект с поддержкой крупной компании (IBM), что дает надежду на его долгосрочное развитие.

Проект избавляет от огромного пласта низкоуровневой работы и позволяет сосредоточиться на бизнес-логике вашего приложения. Обязательно загляните на их GitHub и попробуйте запустить его сами — это займет не больше пяти минут.