Как мы отбирали
- Открытые веса опубликованы на Hugging Face.
- Модель поддерживается в vLLM — основном движке для серверов.
- Модель помещается в конфигурации из нашего каталога.
Модели и железо
Память — с запасом 25% на контекст. Для MoE-моделей в памяти держатся все веса. gpt-oss, DeepSeek V4 и Kimi K3 выпущены сразу в 4-битном формате — для них указан родной размер, версии FP8 нет.
| Модель | Параметры | FP8 | 4 бита | Конфигурация | vLLM |
|---|---|---|---|---|---|
| gpt-oss-20b | 21B (MoE) | — | ≈16 ГБ (MXFP4) | RTX 5080, RTX 5090 | да |
| Qwen3.8 27B | 28B | ≈35 ГБ | ≈19 ГБ | RTX 5090 (4 бита), RTX PRO 6000 | да |
| Gemma 4 31B | 31B | ≈39 ГБ | ≈21 ГБ | RTX 5090 (4 бита), RTX PRO 5000 48 ГБ | да |
| gpt-oss-120b | 117B, 5,1B активных | — | ≈80 ГБ (MXFP4) | RTX PRO 6000, H100, H200 | да |
| Llama 4 Scout | 109B, 17B активных | ≈136 ГБ | ≈75 ГБ | H200 (FP8), RTX PRO 6000 (4 бита) | да |
| DeepSeek V4 Flash | 284B, 13B активных | — | ≈200 ГБ (родной FP4+FP8) | 1 × B300 или MI355X, HGX 4 × H200 | да |
| MiniMax M3 | 428B, 23B активных | ≈535 ГБ | ≈294 ГБ | HGX 4 × H200 (4 бита) или 8 × H200 | да |
| Mistral Large 3 | 675B, 41B активных (MoE) | ≈844 ГБ | ≈464 ГБ | сервер 8 × H200 или 8 × B300 | да |
| GLM-5.3 | 744B, 40B активных | ≈930 ГБ | ≈512 ГБ | сервер 8 × H200 или 8 × B300 | да (GLM-5) |
| DeepSeek V4 Pro | 1,6T, 49B активных | — | ≈1,1 ТБ (родной FP4+FP8) | сервер 8 × H200 или 8 × B200 / B300 | да |
| Kimi K3 | 2,8T, 104B активных | — | ≈1,95 ТБ (родной MXFP4) | стойка GB300 / Vera Rubin или 8 × B300 впритык | уточняется |
Что выбрать компании
- Чат и документы для 20–50 сотрудников — Gemma 4 31B или gpt-oss-120b на одной RTX PRO 6000.
- Агенты, код и сложные рассуждения для отдела — DeepSeek V4 Flash на одном B300 или сервере HGX 4 × H200.
- Флагманское качество внутри контура — GLM-5.3 или DeepSeek V4 Pro на сервере 8 GPU.
- Модели на триллионы параметров — стойка; обычно выгоднее начать с Flash-версий.
Генерация изображений и видео
| Модель | Память | Что подойдёт |
|---|---|---|
| FLUX.2 [klein] 4B | ≈13 ГБ | RTX 5070 Ti, RTX 5080 |
| FLUX.2 [klein] 9B | ≈29 ГБ | RTX 5090, RTX PRO 5000 |
| FLUX.2 [dev] 32B | 24–32 ГБ в 4 битах | RTX 5090, RTX PRO 6000 |
| Wan 2.2 TI2V-5B, видео 720p | ≈24 ГБ | RTX 4090, RTX 5090 |
| Wan 2.2 A14B, видео | до 80 ГБ на одной GPU | RTX PRO 6000, H100, H200 |
Перед покупкой
Новые модели выходят каждый месяц, а поддержка в движках появляется не сразу. Мы проверяем запуск вашей модели на выбранной конфигурации и замеряем скорость до отгрузки.
