Как запустить свой интерпретатор кода для ИИ-агентов с помощью E2B Infra
Представьте, что вы строите ИИ-агента, которому нужно не просто генерировать текст, а выполнять реальный код на Python или JavaScript. Первая мысль — поднять Docker-контейнер. Но тут же вылезает ворох проблем: как изолировать этот код, чтобы агент не удалил вам базу данных? Как быстро запускать сотни таких песочниц и убивать их через секунду после выполнения задачи?
Команда E2B столкнулась с этим, когда создавала свою платформу для ИИ-агентов. В итоге они выложили в опенсорс свою инфраструктуру, которая крутится под капотом их облака. Репозиторий e2b-dev/infra — это набор Terraform-скриптов и конфигураций, которые позволяют развернуть собственную среду для безопасного выполнения кода.
Что внутри этой коробки
Проект E2B Infra — это не просто библиотека, а полноценный чертеж серверной части. Если вы не хотите зависеть от их платного облака или требования безопасности обязывают держать данные внутри своего контура, этот репозиторий станет отправной точкой.
Главная фишка здесь в использовании Firecracker. Это технология микро-виртуальных машин от Amazon, на которой работает AWS Lambda. В отличие от обычного Docker, микро-ВМ обеспечивают гораздо более жесткую изоляцию на уровне ядра. При этом они стартуют за доли секунды.
Технологический стек проекта
Ребята выбрали довольно консервативный, но проверенный стек для управления инфраструктурой:
- Terraform — основной инструмент для развертывания. Все ресурсы в облаке описываются кодом.
- HashiCorp Nomad — используется вместо привычного Kubernetes для оркестрации микро-ВМ. Он проще в настройке для таких специфических задач.
- Consul — отвечает за обнаружение сервисов и хранение конфигураций.
- Go — на нем написана логика управления жизненным циклом песочниц.
Сейчас проект лучше всего дружит с Google Cloud Platform (GCP). Поддержка AWS находится в статусе беты, а Azure и запуск на обычных Linux-машинах пока только в планах. Это стоит учитывать, если ваш стек завязан на другие облака.
Как это работает на практике
Когда вашему LLM-агенту нужно посчитать сложную формулу или построить график в Matplotlib, происходит следующее:
- Инфраструктура через SDK получает запрос на создание песочницы.
- Nomad запускает микро-ВМ Firecracker из заранее подготовленного образа.
- Внутри ВМ выполняется код агента.
- Результаты (текст, файлы, изображения) возвращаются обратно, а ВМ мгновенно уничтожается.
Такой подход решает проблему «грязного» окружения: каждый запуск кода начинается с абсолютно чистого листа.
Стоит ли разворачивать это у себя
Скажу честно: если вы только начинаете экспериментировать с агентами, проще использовать готовое SDK и облако E2B. Самостоятельный деплой всей этой махины требует понимания Terraform и работы с облачными провайдерами.
Однако проект незаменим в двух случаях. Во-первых, когда вам нужно кастомизировать окружение до неузнаваемости, установив специфические системные зависимости. Во-вторых, если вы работаете в энтерпрайзе, где передача кода на исполнение в стороннее облако запрещена службой безопасности.
Заглянуть в репозиторий стоит хотя бы ради того, чтобы посмотреть, как организована работа с Firecracker и Nomad в продакшене. Документация по self-hosting там довольно подробная, хоть и требует вдумчивого чтения.
E2B Infra — это серьезный инструмент для тех, кто перерос простые чат-боты и строит автономные системы. Проект активно развивается, и хотя он сильно завязан на GCP, переход к открытой архитектуре дает разработчикам ту самую свободу, которой часто не хватает в мире закрытых AI-сервисов. Если вы планируете масштабировать своих агентов до тысяч одновременных сессий, этот репозиторий точно должен быть в ваших закладках.
