NVIDIA начала серийное производство ускорителей Groq 3 LPX

На конференции Hot Chips компания NVIDIA объявила о запуске серийного производства интерактивного ускорителя Groq 3 LPX. Устройство расширяет платформу Vera Rubin NVL72. Оно рассчитано на ускорение фазы генерации токенов в многошаговых агентных сценариях, сокращая время выполнения инженерных задач с нескольких часов до минут.

В тестах Artificial Analysis система показала скорость 3400 токенов в секунду на открытой модели Gemma 4 31B с окном контекста в 100 000 токенов. Это рекордный результат для указанной модели. По замерам компании, ускоритель дает четырехкратное преимущество по времени отклика по сравнению с ближайшими альтернативами при выполнении чувствительных к задержкам нагрузок.

Первым облачным провайдером с поддержкой Groq 3 LPX стала Nebius. Доступ к чипам открыт в сервисе Nebius Token Factory через привычный API без миграции на новый программный стек. Следующей интеграцию чипов в свою инфраструктуру начнет облачная платформа Groq.

Платформа Vera Rubin объединяет семь специализированных чипов и пять типов стоек. Ускорители Groq 3 LPX работают вместе с процессорами Vera CPU, DPU BlueField-4, хранилищами Vera BlueField-4 STX и сетевыми коммутаторами Spectrum-6 SPX Ethernet.