Короткий ответ
- H200 — проверенный Hopper со 141 ГБ HBM3e: хороший выбор для инференса моделей до 671B в FP8 на одном сервере 8 × GPU.
- B200 — Blackwell со 180 ГБ и поддержкой FP4: заметно быстрее на обучении и инференсе.
- B300 — Blackwell Ultra с 288 ГБ: больше всего памяти на GPU, модели 671B помещаются в один сервер на 8 GPU в FP8.
Сравнение
| Параметр | H200 | B200 | B300 |
|---|---|---|---|
| Архитектура | Hopper | Blackwell | Blackwell Ultra |
| Память | 141 ГБ HBM3e | 180 ГБ HBM3e | 288 ГБ HBM3e |
| Пропускная способность | 4,8 ТБ/с | до 8 ТБ/с | до 8 ТБ/с |
| Межсоединение | NVLink 900 ГБ/с | NVLink 5, 1,8 ТБ/с | NVLink 5, 1,8 ТБ/с |
| FP4 | нет | да | да (NVFP4) |
| Мощность GPU | до 700 Вт | до 1000 Вт | до 1100–1400 Вт |
| Сервер на 8 GPU, память | 1,1 ТБ | 1,44 ТБ | 2,3 ТБ |
Что поместится в сервер на 8 GPU
Ориентир для FP8 с запасом 25% на контекст: модель 70B — около 88 ГБ, 235B — около 294 ГБ, 671B — около 839 ГБ.
- Llama 3.3 70B: одна H200 или одна B300.
- Qwen3 235B: HGX 4 × H200 или 2 × B300.
- DeepSeek-V3/R1 671B: сервер 8 × H200, 8 × B200 или 4 × B300.
Питание и охлаждение
Сервер HGX H200 потребляет порядка 10 кВт, HGX B200 и B300 — больше, и часть конфигураций B300 требует жидкостного охлаждения. Перед заказом проверьте мощность стойки и охлаждение в серверной или ЦОДе.
Как выбрать
- Только инференс, модели до 671B в FP8, важен срок — H200.
- Обучение и дообучение, нужен FP4 — B200.
- Самые большие модели и длинный контекст на одном сервере — B300.
- Больше одного сервера — смотрите стойки GB300 NVL72 и Vera Rubin NVL72.
