Что это
Сервер на восемь ускорителей AMD Instinct под задачу: MI355X для максимальной производительности, MI325X и MI300X — для большой памяти по разумной цене. Собираем, проверяем под нагрузкой и отдаём с настроенным ROCm.
Для каких задач подходит Сервер 8×Instinct
- Обучение моделей с нуляОптимально
- Дообучение (LoRA, full fine-tune)Оптимально
- Инференс LLMОптимально
- Генерация изображений и видеоПодходит
- RAG, поиск и эмбеддингиОптимально
- Компьютерное зрение и видеоаналитикаПодходит
- Рендер, 3D и инженерные расчётыНе рекомендуем
- ИгрыНе рекомендуем
Какие нейросети запустятся
Сколько карт Сервер 8×Instinct нужно для инференса популярных моделей. Расчёт по объёму памяти с запасом 25% на контекст; при большом числе пользователей памяти нужно больше.
| Модель | Память, 4 бита | Сервер 8×Instinct, 4 бита | Память, 8 бит | Сервер 8×Instinct, 8 бит |
|---|---|---|---|---|
| Qwen3.8 27B | ≈19 ГБ | 1 карта | ≈35 ГБ | 1 карта |
| Gemma 4 31B | ≈21 ГБ | 1 карта | ≈39 ГБ | 1 карта |
| Llama 3.3 70B | ≈48 ГБ | 1 карта | ≈88 ГБ | 1 карта |
| gpt-oss-120b (MoE) | ≈81 ГБ | 1 карта | выпущена в FP4 — см. 4 бита | |
| DeepSeek V4 Flash (MoE, 284B) | ≈200 ГБ | 1 карта | выпущена в FP4 — см. 4 бита | |
| GLM-5.3 (MoE, 744B) | ≈512 ГБ | 2 карты | ≈930 ГБ | 4 карты |
| DeepSeek V4 Pro (MoE, 1,6T) | ≈1 081 ГБ | 4 карты | выпущена в FP4 — см. 4 бита | |
Генерация изображений и видео на одной карте
- Stable Diffusion XLпомещается
- FLUX.2 [klein] 4Bпомещается
- FLUX.2 [dev] 32B, 4 битапомещается
- Wan 2.2 TI2V-5B, видео 720pпомещается
- FLUX.2 [klein] 9Bпомещается
- Wan 2.2 A14B, видеопомещается
Ориентир: FP8 ≈ 1 ГБ на 1 млрд параметров, 4 бита ≈ 0,55 ГБ, плюс 25% на контекст. gpt-oss и DeepSeek V4 выпущены сразу в 4-битном формате — считаем их родной размер. Число карт — 1, 2, 4 или 8, как их запускают в vLLM. Сколько видеопамяти нужно для нейросети · Калькулятор подбора
Кому подходит: масштаб бизнеса
Ориентиры, а не требования. Подскажем, имеет ли смысл Сервер 8×Instinct именно для вас.
Команда
ИИ-команда от 5 человек, хостер или интегратор
Компания ориентир по обороту
компании с оборотом от 500 млн ₽
Бюджет
от нескольких до десятков миллионов рублей за сервер
Типовые сценарии
- Хостер добавляет серверы AMD в линейку аренды.
- Компания запускает модель 671B в FP8 на одном сервере с 2,3 ТБ памяти.
Что нужно для эксплуатации и обслуживания
Чтобы Сервер 8×Instinct работал стабильно, заранее проверьте питание, охлаждение и площадку. Поможем с каждым пунктом.
Питание
От 10 до 14 кВт на сервер в зависимости от ускорителей; трёхфазное питание.
Охлаждение
Воздушное в корпусе 8U или жидкостное для MI355X.
Платформа и сеть
Стойка 42U, сеть 400G, хранилище NVMe.
Размещение
стойка в серверной или ЦОДе; поможем с колокейшном и подключением питания.
Программы
установка ОС (Ubuntu, Astra Linux, RED OS по запросу), драйверы, CUDA или ROCm, Docker, Kubernetes, vLLM — настраиваем перед отгрузкой.
Кто нужен в команде
системный инженер или DevOps; для кластера — команда эксплуатации.
Регламент обслуживания
- мониторинг через BMC/IPMI
- чистка фильтров и проверка вентиляторов
- обновление прошивок BIOS, BMC, GPU
- выезд и замена компонентов по договору
Настроим и запустим
Сервер включается и сразу работает: проверка, система, драйверы, окружение и модель под вашу задачу.
- Стресс-тест под нагрузкой и отчёт к поставке
- Система, драйверы NVIDIA, CUDA или AMD ROCm
- Docker, Kubernetes или Slurm
- Мониторинг температур и ошибок памяти
- Модель под вашу задачу: vLLM, API и чат для сотрудников
Характеристики Сервер 8×Instinct
Паспортные данные. Точную конфигурацию и версию фиксируем в КП.
Изображения на сайте иллюстративные: внешний вид, маркировка и комплектация зависят от производителя и партии и указываются в КП.
| Ускорители | 8 × MI355X (288 ГБ), MI325X (256 ГБ) или MI300X (192 ГБ) |
|---|---|
| Процессоры | 2 × AMD EPYC 9004/9005 |
| Память | до 3 ТБ DDR5 |
| Накопители | NVMe U.2 или E3.S |
| Сеть | до 8 × 400G для кластера |
| Программы | ROCm, PyTorch, vLLM, SGLang |
Сравнение с похожими моделями
| Сервер 8×Instinct | Сервер HGX 8×GPU | MI355X | MI325X | |
|---|---|---|---|---|
| Класс | Сервер · 8 ускорителей OAM | Сервер · 8 ускорителей SXM | Ускоритель OAM · CDNA 4 | Ускоритель OAM · CDNA 3 |
| Память | до 3 ТБ DDR5 | до 4 ТБ DDR5 | 288 ГБ HBM3E | 256 ГБ HBM3e |
| Пропускная способность | — | — | 8 ТБ/с | 6 ТБ/с |
| Мощность | — | 10–15 кВт | до 1400 Вт | до 1000 Вт |
| Лучше всего для | Обучение моделей с нуля, Дообучение (LoRA, full fine-tune) | Обучение моделей с нуля, Дообучение (LoRA, full fine-tune) | Обучение моделей с нуля, Дообучение (LoRA, full fine-tune) | Дообучение (LoRA, full fine-tune), Инференс LLM |
Сомневаетесь между покупкой и арендой? Купить или арендовать GPU: что выгоднее
Гарантия продавца
Гарантия продавца на каждую позицию, срок указываем в КП. Замена или ремонт — через нас, без пересылки к производителю.
Проверка перед отправкой
Стресс-тест под нагрузкой, диагностика DCGM, протокол испытаний к поставке.
Как проверяемВопросы о Сервер 8×Instinct
Сколько стоит Сервер 8×Instinct?
Цена зависит от количества, конфигурации и условий оплаты и меняется вместе с рынком. Пришлём КП с точной ценой и сроком поставки. Напишите в Telegram, на почту или оставьте заявку.
Какой срок поставки Сервер 8×Instinct?
Сервер 8×Instinct поставляется под заказ. Срок подтверждаем у поставщика и указываем в КП; до подтверждения сроки не обещаем.
Для каких задач подходит Сервер 8×Instinct?
Оптимально: обучение моделей с нуля, дообучение (lora, full fine-tune), инференс llm, rag, поиск и эмбеддинги. Подробная таблица задач и моделей — на этой странице.
Что нужно для работы Сервер 8×Instinct?
От 10 до 14 кВт на сервер в зависимости от ускорителей; трёхфазное питание. Воздушное в корпусе 8U или жидкостное для MI355X. Стойка 42U, сеть 400G, хранилище NVMe.
Настроите Сервер 8×Instinct и запустите модель?
Да. Проверяем под нагрузкой, ставим систему, драйверы, CUDA или ROCm, Docker, разворачиваем модель под вашу задачу и отдаём API и чат для сотрудников.
Настроите ROCm и модель?
Да: ставим ROCm, PyTorch, vLLM или SGLang, запускаем вашу модель и отдаём API.
Работаете с юридическими лицами?
Да: договор, счёт с НДС, УПД, NDA по запросу. Реквизиты и карточку компании пришлём по запросу.