Линейка
| Ускоритель | Память | Пропускная способность | Мощность |
|---|---|---|---|
| MI300X | 192 ГБ HBM3 | 5,3 ТБ/с | до 750 Вт |
| MI325X | 256 ГБ HBM3e | 6 ТБ/с | до 1000 Вт |
| MI355X | 288 ГБ HBM3E | 8 ТБ/с | до 1400 Вт |
Сильные стороны AMD
- Много памяти на GPU: большие модели помещаются на меньшем числе карт.
- Платформа на 8 ускорителей OAM — от 1,5 до 2,3 ТБ памяти в сервере.
- ROCm поддерживает PyTorch, vLLM, SGLang и популярные модели.
Когда лучше NVIDIA
- Код и библиотеки завязаны на CUDA.
- Нужен TensorRT-LLM или специфичные ядра.
- Кластер из стоек с NVLink на 72 GPU.
Как мы помогаем
Проверяем, запустится ли ваша модель на ROCm, ставим драйверы и окружение, замеряем скорость до отгрузки.
