Cuda
CUDA позволяет переложить тяжелые математические расчеты с центрального процессора на тысячи ядер видеокарт NVIDIA, кратно ускоряя обучение нейросетей и научное моделирование. Это стандарт де-факто в задачах компьютерного зрения и криптографии, где важна максимальная пропускная способность при параллельной обработке данных.
Как Moonshot AI ускоряет Kimi Delta Attention на чипах NVIDIA Hopper
Обзор библиотеки FlashKDA от Moonshot AI — высокопроизводительных CUDA-ядер на CUTLASS для ускорения Kimi Delta Attention на чипах NVIDIA Hopper.