Главное — память
Для нейросетей объём видеопамяти важнее частот. В 24 ГБ помещается модель до 32B в 4 битах, в 32 ГБ — с запасом на контекст, в 96 ГБ — модель 70B в FP8 на одной карте.
Сравнение
| Параметр | RTX 4090 | RTX 5090 | RTX PRO 6000 Blackwell |
|---|---|---|---|
| Память | 24 ГБ GDDR6X | 32 ГБ GDDR7 | 96 ГБ GDDR7 ECC |
| Пропускная способность | 1 008 ГБ/с | 1,79 ТБ/с | 1,79 ТБ/с |
| FP4 | нет | да | да |
| Мощность | 450 Вт | 575 Вт | 600 Вт (300 Вт Max-Q) |
| Для серверов | нет | нет | есть серверная версия |
Что выбрать
- Генерация изображений, модели до 14–32B — RTX 5090.
- Бюджетный вариант с проверкой — RTX 4090 или RTX 3090 с тестом под нагрузкой.
- Модели 70B на одной карте, работа 24/7, ECC — RTX PRO 6000.
- Несколько карт в одном сервере — серверные версии с турбинным или пассивным охлаждением.
RTX 4090 48 ГБ
Модифицированные карты с удвоенной памятью дают 48 ГБ по цене ниже профессиональных. Это не заводская модель NVIDIA: берите только с тестом под нагрузкой и гарантией продавца.
Питание и корпус
RTX 5090 и RTX PRO 6000 Workstation потребляют до 575–600 Вт: нужен блок питания от 1000 Вт (рекомендация NVIDIA), лучше 1200 Вт на одну карту и корпус с хорошим потоком воздуха. Для 2–4 карт лучше рабочая станция с турбинными картами.
