Что входит
Проверка под нагрузкой
Стресс-тест GPU, памяти и дисков, замер температур и частот, проверка ошибок памяти (ECC). Отчёт прикладываем к поставке.
Прошивки и управление
BIOS, BMC (IPMI, Redfish), прошивки GPU и сетевых карт, RAID-массивы.
Операционная система
Ubuntu Server LTS, Astra Linux или РЕД ОС, на выбор заказчика.
Драйверы и вычислительный стек
NVIDIA Driver, CUDA, cuDNN, NCCL. Для AMD Instinct и Radeon — ROCm.
Контейнеры и оркестрация
Docker и NVIDIA Container Toolkit. Для нескольких серверов — Kubernetes с GPU Operator или Slurm для обучения.
Сеть для кластера
InfiniBand или RoCE между серверами, проверка пропускной способности NCCL-тестами.
Мониторинг
DCGM, Prometheus и Grafana: загрузка GPU, температура, память, ошибки. Оповещения в Telegram или на почту.
Передача
Доступы, схема, описание настроек и инструкция для вашего администратора.
Обсудить задачу
Расскажите, какую модель и для скольких пользователей нужно запустить, или пришлите конфигурацию сервера. Ответим в течение 15 минут в рабочее время.