Что это
H200 — ускоритель NVIDIA Hopper с памятью 141 ГБ HBM3e. Одна-две карты держат инференс моделей на 70–200 млрд параметров, сервер из восьми — дообучение 70B. Основа новых кластеров у крупных российских игроков.
Для каких задач подходит H200
- Обучение моделей с нуляПодходит
- Дообучение (LoRA, full fine-tune)Оптимально
- Инференс LLMОптимально
- Генерация изображений и видеоПодходит
- RAG, поиск и эмбеддингиОптимально
- Компьютерное зрение и видеоаналитикаПодходит
- Рендер, 3D и инженерные расчётыНе рекомендуем
- ИгрыНе рекомендуем
Какие нейросети запустятся
Сколько карт H200 нужно для инференса популярных моделей. Расчёт по объёму памяти с запасом 25% на контекст; при большом числе пользователей памяти нужно больше.
| Модель | Память, 4 бита | H200, 4 бита | Память, 8 бит | H200, 8 бит |
|---|---|---|---|---|
| Qwen3.8 27B | ≈19 ГБ | 4 карты | ≈35 ГБ | 4 карты |
| Gemma 4 31B | ≈21 ГБ | 4 карты | ≈39 ГБ | 4 карты |
| Llama 3.3 70B | ≈48 ГБ | 4 карты | ≈88 ГБ | 4 карты |
| gpt-oss-120b (MoE) | ≈81 ГБ | 4 карты | выпущена в FP4 — см. 4 бита | |
| DeepSeek V4 Flash (MoE, 284B) | ≈200 ГБ | 4 карты | выпущена в FP4 — см. 4 бита | |
| GLM-5.3 (MoE, 744B) | ≈512 ГБ | 4 карты | ≈930 ГБ | 8 карт |
| DeepSeek V4 Pro (MoE, 1,6T) | ≈1 081 ГБ | 8 карт | выпущена в FP4 — см. 4 бита | |
Генерация изображений и видео на одной карте
- Stable Diffusion XLпомещается
- FLUX.2 [klein] 4Bпомещается
- FLUX.2 [dev] 32B, 4 битапомещается
- Wan 2.2 TI2V-5B, видео 720pпомещается
- FLUX.2 [klein] 9Bпомещается
- Wan 2.2 A14B, видеопомещается
Ориентир: FP8 ≈ 1 ГБ на 1 млрд параметров, 4 бита ≈ 0,55 ГБ, плюс 25% на контекст. gpt-oss и DeepSeek V4 выпущены сразу в 4-битном формате — считаем их родной размер. Число карт — 1, 2, 4 или 8, как их запускают в vLLM. Сколько видеопамяти нужно для нейросети · Калькулятор подбора
Кому подходит: масштаб бизнеса
Ориентиры, а не требования. Подскажем, имеет ли смысл H200 именно для вас.
Команда
ИИ-отдел от 10 ML-инженеров или хостер, который сдаёт GPU в аренду
Компания ориентир по обороту
компании с оборотом от 1 млрд ₽, хостеры, интеграторы, исследовательские центры
Бюджет
от десятков миллионов рублей на сервер 8×GPU
Типовые сценарии
- Банк разворачивает внутренний ассистент на модели 70B для сотрудников.
- Интегратор дообучает модель под отраслевые документы клиента.
- Хостер добавляет H200 в линейку аренды.
Что нужно для эксплуатации и обслуживания
Чтобы H200 работал стабильно, заранее проверьте питание, охлаждение и площадку. Поможем с каждым пунктом.
Питание
До 700 Вт на GPU, сервер 8×H200 — порядка 10 кВт; трёхфазное питание.
Охлаждение
Воздушное охлаждение в сервере 6–8U.
Платформа и сеть
Сервер HGX H200 или PCIe-сервер с картами H200 NVL, 2 CPU, 1–2 ТБ DDR5, сеть 400G.
Размещение
серверная или ЦОД со стойками 20–40 кВт и выше, трёхфазное питание 380 В, горячий и холодный коридоры. Модули SXM ставятся только в серверы HGX, не в обычный ПК.
Программы
CUDA, NCCL, драйверы Data Center, контейнеры NGC, vLLM, TensorRT-LLM, PyTorch; Kubernetes или Slurm для кластера; мониторинг DCGM.
Кто нужен в команде
DevOps/системный инженер и ML-инженер; для кластера из нескольких серверов — отдельная команда эксплуатации.
Регламент обслуживания
- мониторинг температур и ошибок памяти (ECC, XID)
- чистка фильтров и проверка вентиляторов раз в квартал
- обновление драйверов, прошивок GPU и BMC
- замена модуля по гарантии продавца
Настроим и запустим
Сервер включается и сразу работает: проверка, система, драйверы, окружение и модель под вашу задачу.
- Стресс-тест под нагрузкой и отчёт к поставке
- Система, драйверы NVIDIA, CUDA или AMD ROCm
- Docker, Kubernetes или Slurm
- Мониторинг температур и ошибок памяти
- Модель под вашу задачу: vLLM, API и чат для сотрудников
Характеристики H200
Паспортные данные. Точную конфигурацию и версию фиксируем в КП.
Изображения на сайте иллюстративные: внешний вид, маркировка и комплектация зависят от производителя и партии и указываются в КП.
| Архитектура | Hopper |
|---|---|
| Память | 141 ГБ HBM3e |
| Пропускная способность | 4,8 ТБ/с |
| Форматы | FP8, BF16, FP16, TF32, INT8 |
| Межсоединение | NVLink 900 ГБ/с (SXM) |
| Мощность | до 700 Вт (SXM), до 600 Вт (H200 NVL) |
| Поставка | сервер HGX H200 8×GPU или карты H200 NVL для PCIe-серверов |
Сравнение с похожими моделями
| H200 | H100 | B200 | RTX PRO 6000 Blackwell | |
|---|---|---|---|---|
| Класс | Ускоритель SXM и PCIe · Hopper | Ускоритель SXM и PCIe · Hopper | Ускоритель SXM · Blackwell | Профессиональная · Blackwell |
| Память | 141 ГБ HBM3e | 80 ГБ HBM3 | 180 ГБ HBM3e | 96 ГБ GDDR7 ECC |
| Пропускная способность | 4,8 ТБ/с | 3,35 ТБ/с (SXM), 2 ТБ/с (PCIe) | до 8 ТБ/с | 1,79 ТБ/с |
| Мощность | до 700 Вт | до 700 Вт | до 1000 Вт | 300–600 Вт |
| Лучше всего для | Дообучение (LoRA, full fine-tune), Инференс LLM | Дообучение (LoRA, full fine-tune), Инференс LLM | Обучение моделей с нуля, Дообучение (LoRA, full fine-tune) | Дообучение (LoRA, full fine-tune), Инференс LLM |
Сомневаетесь между покупкой и арендой? Купить или арендовать GPU: что выгоднее
Гарантия продавца
Гарантия продавца на каждую позицию, срок указываем в КП. Замена или ремонт — через нас, без пересылки к производителю.
Проверка перед отправкой
Стресс-тест под нагрузкой, диагностика DCGM, протокол испытаний к поставке.
Как проверяемВопросы о H200
Сколько стоит H200?
Цена зависит от количества, конфигурации и условий оплаты и меняется вместе с рынком. Пришлём КП с точной ценой и сроком поставки. Напишите в Telegram, на почту или оставьте заявку.
Какой срок поставки H200?
H200 поставляется под заказ. Срок подтверждаем у поставщика и указываем в КП; до подтверждения сроки не обещаем.
Для каких задач подходит H200?
Оптимально: дообучение (lora, full fine-tune), инференс llm, rag, поиск и эмбеддинги. Подробная таблица задач и моделей — на этой странице.
Что нужно для работы H200?
До 700 Вт на GPU, сервер 8×H200 — порядка 10 кВт; трёхфазное питание. Воздушное охлаждение в сервере 6–8U. Сервер HGX H200 или PCIe-сервер с картами H200 NVL, 2 CPU, 1–2 ТБ DDR5, сеть 400G.
Настроите H200 и запустите модель?
Да. Проверяем под нагрузкой, ставим систему, драйверы, CUDA или ROCm, Docker, разворачиваем модель под вашу задачу и отдаём API и чат для сотрудников.
Сколько H200 нужно для модели 70B?
В FP8 модель 70B занимает около 70 ГБ плюс память на контекст, поэтому хватает одной H200; для высокой нагрузки ставят 2–4 карты.
H200 или H100?
У H200 почти вдвое больше памяти и в 1,4 раза выше пропускная способность. Для больших моделей это меньше карт на задачу.
Работаете с юридическими лицами?
Да: договор, счёт с НДС, УПД, NDA по запросу. Реквизиты и карточку компании пришлём по запросу.