Что это
L40S — универсальный серверный ускоритель с памятью 48 ГБ: инференс моделей 7–34B, генерация изображений Stable Diffusion и Flux, видеоаналитика. Хорошее соотношение цены и производительности для среднего сегмента.
Для каких задач подходит L40S
- Обучение моделей с нуляНе рекомендуем
- Дообучение (LoRA, full fine-tune)Подходит
- Инференс LLMОптимально
- Генерация изображений и видеоОптимально
- RAG, поиск и эмбеддингиОптимально
- Компьютерное зрение и видеоаналитикаОптимально
- Рендер, 3D и инженерные расчётыОптимально
- ИгрыНе рекомендуем
Какие нейросети запустятся
Сколько карт L40S нужно для инференса популярных моделей. Расчёт по объёму памяти с запасом 25% на контекст; при большом числе пользователей памяти нужно больше.
| Модель | Память, 4 бита | L40S, 4 бита | Память, 8 бит | L40S, 8 бит |
|---|---|---|---|---|
| Qwen3.8 27B | ≈19 ГБ | 1 карта | ≈35 ГБ | 1 карта |
| Gemma 4 31B | ≈21 ГБ | 1 карта | ≈39 ГБ | 1 карта |
| Llama 3.3 70B | ≈48 ГБ | 2 карты | ≈88 ГБ | 2 карты |
| gpt-oss-120b (MoE) | ≈81 ГБ | 2 карты | выпущена в FP4 — см. 4 бита | |
| DeepSeek V4 Flash (MoE, 284B) | ≈200 ГБ | 8 карт | выпущена в FP4 — см. 4 бита | |
| GLM-5.3 (MoE, 744B) | ≈512 ГБ | нужен кластер | ≈930 ГБ | нужен кластер |
| DeepSeek V4 Pro (MoE, 1,6T) | ≈1 081 ГБ | нужен кластер | выпущена в FP4 — см. 4 бита | |
Генерация изображений и видео на одной карте
- Stable Diffusion XLпомещается
- FLUX.2 [klein] 4Bпомещается
- FLUX.2 [dev] 32B, 4 битапомещается
- Wan 2.2 TI2V-5B, видео 720pпомещается
- FLUX.2 [klein] 9Bпомещается
- Wan 2.2 A14B, видеонужна выгрузка в RAM
Ориентир: FP8 ≈ 1 ГБ на 1 млрд параметров, 4 бита ≈ 0,55 ГБ, плюс 25% на контекст. gpt-oss и DeepSeek V4 выпущены сразу в 4-битном формате — считаем их родной размер. Число карт — 1, 2, 4 или 8, как их запускают в vLLM. Сколько видеопамяти нужно для нейросети · Калькулятор подбора
Кому подходит: масштаб бизнеса
Ориентиры, а не требования. Подскажем, имеет ли смысл L40S именно для вас.
Команда
продуктовая команда 3–20 человек, которой нужен свой инференс
Компания ориентир по обороту
компании с оборотом от 300 млн ₽, хостеры, интеграторы видеоаналитики
Бюджет
от нескольких миллионов рублей на сервер
Типовые сценарии
- Сервис генерации изображений обслуживает пользователей на Flux и SDXL.
- Интегратор видеоаналитики обрабатывает потоки с сотен камер.
- Продуктовая команда запускает чат-бота на модели 32B.
Что нужно для эксплуатации и обслуживания
Чтобы L40S работал стабильно, заранее проверьте питание, охлаждение и площадку. Поможем с каждым пунктом.
Питание
350 Вт на карту, сервер 8×L40S — порядка 4–5 кВт.
Охлаждение
Пассивный радиатор: только серверный корпус с мощным обдувом.
Платформа и сеть
PCIe-сервер 4U на 4–8 карт, 2 CPU, 512 ГБ–1 ТБ DDR5.
Размещение
серверная или ЦОД. Карта с пассивным радиатором: нужен сервер с направленным потоком воздуха, в обычном корпусе ПК она перегреется.
Программы
драйверы Data Center, CUDA, контейнеры NGC, vLLM, Triton Inference Server, DeepStream для видеоаналитики.
Кто нужен в команде
системный администратор; для промышленного инференса — DevOps и ML-инженер.
Регламент обслуживания
- контроль температур и оборотов вентиляторов сервера
- чистка от пыли раз в квартал
- обновление драйверов и прошивки
- замена по гарантии продавца
Настроим и запустим
Сервер включается и сразу работает: проверка, система, драйверы, окружение и модель под вашу задачу.
- Стресс-тест под нагрузкой и отчёт к поставке
- Система, драйверы NVIDIA, CUDA или AMD ROCm
- Docker, Kubernetes или Slurm
- Мониторинг температур и ошибок памяти
- Модель под вашу задачу: vLLM, API и чат для сотрудников
Характеристики L40S
Паспортные данные. Точную конфигурацию и версию фиксируем в КП.
Изображения на сайте иллюстративные: внешний вид, маркировка и комплектация зависят от производителя и партии и указываются в КП.
| Архитектура | Ada Lovelace |
|---|---|
| Память | 48 ГБ GDDR6 с ECC |
| Пропускная способность | 864 ГБ/с |
| Форматы | FP8, BF16, FP16, INT8 |
| Интерфейс | PCIe 4.0 x16, два слота |
| Мощность | 350 Вт |
| Видео | 3 энкодера и 3 декодера, поддержка AV1 |
Сравнение с похожими моделями
| L40S | RTX PRO 6000 Blackwell | A100 | L4 | |
|---|---|---|---|---|
| Класс | Ускоритель PCIe · Ada Lovelace | Профессиональная · Blackwell | Ускоритель SXM и PCIe · Ampere | Ускоритель PCIe · низкий профиль |
| Память | 48 ГБ GDDR6 ECC | 96 ГБ GDDR7 ECC | 40 ГБ HBM2 или 80 ГБ HBM2e | 24 ГБ GDDR6 |
| Пропускная способность | 864 ГБ/с | 1,79 ТБ/с | 1,6–2 ТБ/с | 300 ГБ/с |
| Мощность | 350 Вт | 300–600 Вт | 300–400 Вт | 72 Вт |
| Лучше всего для | Инференс LLM, Генерация изображений и видео | Дообучение (LoRA, full fine-tune), Инференс LLM | RAG, поиск и эмбеддинги, Компьютерное зрение и видеоаналитика | RAG, поиск и эмбеддинги, Компьютерное зрение и видеоаналитика |
Сомневаетесь между покупкой и арендой? Купить или арендовать GPU: что выгоднее
Гарантия продавца
Гарантия продавца на каждую позицию, срок указываем в КП. Замена или ремонт — через нас, без пересылки к производителю.
Проверка перед отправкой
Стресс-тест под нагрузкой, диагностика DCGM, протокол испытаний к поставке.
Как проверяемВопросы о L40S
Сколько стоит L40S?
Цена зависит от количества, конфигурации и условий оплаты и меняется вместе с рынком. Пришлём КП с точной ценой и сроком поставки. Напишите в Telegram, на почту или оставьте заявку.
Какой срок поставки L40S?
L40S поставляется под заказ. Срок подтверждаем у поставщика и указываем в КП; до подтверждения сроки не обещаем.
Для каких задач подходит L40S?
Оптимально: инференс llm, генерация изображений и видео, rag, поиск и эмбеддинги, компьютерное зрение и видеоаналитика, рендер, 3d и инженерные расчёты. Подробная таблица задач и моделей — на этой странице.
Что нужно для работы L40S?
350 Вт на карту, сервер 8×L40S — порядка 4–5 кВт. Пассивный радиатор: только серверный корпус с мощным обдувом. PCIe-сервер 4U на 4–8 карт, 2 CPU, 512 ГБ–1 ТБ DDR5.
Настроите L40S и запустите модель?
Да. Проверяем под нагрузкой, ставим систему, драйверы, CUDA или ROCm, Docker, разворачиваем модель под вашу задачу и отдаём API и чат для сотрудников.
Можно ли поставить L40S в рабочую станцию?
Не рекомендуем: у карты нет вентиляторов. Для рабочей станции лучше RTX PRO 6000 или RTX 6000 Ada.
Работаете с юридическими лицами?
Да: договор, счёт с НДС, УПД, NDA по запросу. Реквизиты и карточку компании пришлём по запросу.