Можно ли запустить языковую модель без облака?

Да. Модель с открытыми весами работает на вашем сервере: запросы и документы не выходят за пределы вашей сети. Мы подбираем и поставляем сервер под выбранную модель и число пользователей, разворачиваем модель и настраиваем сервис.

Есть ли GPU-серверы в реестре Минпромторга?

Да. YADRO G4208P G3, «Гравитон» С2124АГ и С2124ОГ — серверы 4U до восьми ускорителей с записями в реестре Минпромторга. Мы работаем с обоими производителями; номера указываем в спецификации по каждой позиции.

Можно ли испытать сервер до закупки?

Да. По согласованию предоставляем GPU-сервер для испытаний на вашей площадке — проверите модель на своих задачах и документах. Конфигурацию и срок испытаний обсуждаем при запросе.

Какой срок поставки?

GPU-серверы собираются на производстве под заказ и конкретную конфигурацию, поэтому срок уточняем под проект — после согласования состава.

Какие модели можно запустить?

Модели, которые распространяются для установки на собственные серверы: открытые семейства вроде Qwen, DeepSeek и Llama и российские модели с открытыми весами. Модель и условия её лицензии выбирает заказчик — мы подбираем под неё оборудование и разворачиваем её.

Что нужно от серверной?

Сервер 4U с восемью ускорителями потребляет несколько киловатт и столько же отдаёт в тепло. До поставки проверяем электропитание, ИБП, охлаждение и место в стойке.

GPU-⁠серверы для ИИ и языковых моделей

Языковую модель для работы с документами и обращениями можно запустить на своём сервере — без передачи данных во внешние облака. Подбираем GPU-⁠сервер из реестра Минпромторга под модель и нагрузку, по согласованию предоставляем образец для испытаний, поставляем и запускаем сервис под ключ: от четырёх ускорителей для пилотного проекта до восьми — для сервиса на всё учреждение.

до 8GPUускорителей в одном сервере 4U — YADRO и «Гравитон» из реестра Минпромторга

Направить запрос

Кому подходит

Органы власти, учреждения и государственные компании, которые запускают ИИ-⁠сервисы на собственных мощностях, а также вузы, научные центры и коммерческие компании. Запросы и документы остаются внутри вашей инфраструктуры.

Закупка: 44-ФЗ и 223-ФЗ; оборудование — из реестра Минпромторга, ПО — из единого реестра российского ПО.
Документы: Спецификация с реестровыми номерами и коммерческое предложение с вариантами по бюджету.
Срок: Под заказ: сервер собирается на производстве под вашу конфигурацию — срок уточняем под проект.
Стоимость: Рассчитывается по проекту: коммерческое предложение — после обследования объекта. Цены на сайте не публикуются.

Образец на стенде

Реестр Минпромторга№ 10697711

Сервер YADRO G4208P G3

Процессор: 2 × Intel Xeon Scalable 4/5 поколения
TDP процессора: 350 Вт
Форм-фактор: 4U

Карточка

Источник: по данным производителя.

Задачи

Модель работает на вашем сервере: запросы и документы не уходят во внешние облака.

Поиск ответов по документам: Сотрудник задаёт вопрос — модель отвечает по приказам, регламентам и нормативной базе учреждения и показывает, из какого документа взят ответ.
Обращения граждан и заявки: Классификация и маршрутизация обращений, черновики ответов для специалиста, сводки по повторяющимся темам.
Распознавание документов и речи: Сканы и фотографии документов — в текст, записи совещаний — в расшифровку и протокол.
Аналитика и разработка: Помощник для аналитиков и ИТ-⁠отдела: разбор таблиц и отчётов, написание и проверка кода.

Платформы из реестра

Платформу выбирают по ускорителям: до 350 Вт на ускоритель — класс 48 ГБ памяти; до 600 Вт — в том числе ускорители с 96 и 141 ГБ для крупных моделей. Все три сервера — 4U, в реестре Минпромторга.

YADRO G4208P G3, вид сверху: восемь ускорителей двойной ширины в задней части корпуса — YADRO G4208P G3, вид сверху: восемь ускорителей двойной ширины. Рендер производителя.

Платформы: ускорители, процессоры и статус реестра
Сервер	Ускорители	Процессоры
YADRO G4208P G3 Реестр Минпромторга№ 10697711	до 8 двойной ширины, PCIe 5.0 x16, до 600 Вт каждый	2 × Intel Xeon Scalable 4/5 Gen, до 8 ТБ DDR5
«Гравитон» С2124АГ Реестр Минпромторга№ 10800495	до 8 полноразмерных, до 350 Вт каждый	2 × AMD EPYC 7002/7003
«Гравитон» С2124ОГ Реестр Минпромторга№ 10800496	до 8 полноразмерных, до 350 Вт каждый	2 × Intel Xeon Scalable 3 Gen

Источник: ускорители и процессоры — данные производителей (yadro.com; graviton.ru, 04.05.2026), реестровые номера — реестр Минпромторга.

Сколько ускорителей нужно

Оценка: размер модели, память под веса, типовая конфигурация
Модель	Память под веса	Типовая конфигурация
до 8 млрд параметров	16 ГБ в 16 битах, 8 ГБ в 8 битах	1 ускоритель с 48 ГБ; на четырёх — несколько моделей или больше одновременных пользователей
около 32 млрд	64 ГБ в 16 битах, 32 ГБ в 8 битах	2 ускорителя по 48 ГБ или 1 ускоритель с 96 ГБ
около 70 млрд	140 ГБ в 16 битах, 70 ГБ в 8 битах	4 ускорителя по 48 ГБ — в 8 битах; в 16 битах — 8 по 48 ГБ или 2–4 по 96 ГБ
крупные модели-«смеси экспертов», 600+ млрд	около 670 ГБ в 8 битах	8 ускорителей по 141 ГБ — только на платформе до 600 Вт на ускоритель

Оценка памяти под веса модели: число параметров × 2 байта (16 бит) или × 1 байт (8 бит). Сверху нужен запас на контекст и одновременных пользователей — точную конфигурацию считаем под вашу модель, длину документов и нагрузку. Классы памяти — из списка совместимости G4208P G3: 48 ГБ (L40S, RTX 6000 Ada), 96 ГБ (RTX PRO 6000 Blackwell), 141 ГБ (H200 NVL).

Источник: инженерная оценка по числу параметров модели; классы памяти ускорителей — список совместимости производителя сервера.

Схема решения

Принципиальная схема: узлы по порядку — слева направо, на телефоне сверху вниз. Число узлов, модели и сечения линий уточняются после обследования объекта.

СотрудникиАРМ, портал, СЭД
Сервис ИИчат, поиск по документам
GPU-⁠сервер4–8 ускорителей
Хранилищедокументы, база знаний

Состав

Состав решения: позиции и карточки каталога
Номер позиции	Позиция	В каталоге
1	GPU-⁠сервер YADRO G4208P G3 4U, 2 × Intel Xeon Scalable 4/5 Gen, до 8 ускорителей двойной ширины до 600 Вт, до 8 ТБ DDR5	Сервер YADRO G4208P G3Реестр Минпромторга№ 10697711
2	или «Гравитон» С2124АГ / С2124ОГ 4U, до 8 полноразмерных ускорителей до 350 Вт, российские материнские платы из реестра	Сервер Гравитон С2124АГРеестр Минпромторга№ 10800495
3	Графические ускорители, 4–8 шт. Из списка совместимости сервера — под модель, нагрузку и доступность поставки	Подбирается по проекту
4	Накопители NVMe Под веса моделей, документы и базу знаний	Подбирается по проекту
5	Сетевые адаптеры 25/100 GbE Подключение к сети учреждения и объединение серверов при росте нагрузки	Подбирается по проекту
6	ОС из единого реестра российского ПО Совместимость с драйверами ускорителей проверяем при подборе	Подбирается по проекту
7	Электропитание и охлаждение Сервер с восемью ускорителями потребляет несколько киловатт: проверяем ИБП, линии питания и охлаждение серверной	Подбирается по проекту

Источник: состав ориентировочный, уточняется после обследования; характеристики позиций — по данным производителей, реестровые номера — реестр Минпромторга.

Работы

шаг 1Разбор задачи и расчёт конфигурации под модель и нагрузку
шаг 2Испытание сервера на вашей площадке — по согласованию
шаг 3Проверка серверной: электропитание, охлаждение, место в стойке
шаг 4Поставка, монтаж в стойку и пусконаладка
шаг 5Установка ОС, драйверов ускорителей и среды запуска моделей
шаг 6Развёртывание модели и сервиса: чат и поиск по вашим документам, доступы
шаг 7Обучение администраторов и сопровождение

Сроки, объёмы и порядок сдачи фиксируются в коммерческом предложении и договоре после обследования объекта.

Вопросы и ответы

Можно ли запустить языковую модель без облака?: Да. Модель с открытыми весами работает на вашем сервере: запросы и документы не выходят за пределы вашей сети. Мы подбираем и поставляем сервер под выбранную модель и число пользователей, разворачиваем модель и настраиваем сервис.
Есть ли GPU-⁠серверы в реестре Минпромторга?: Да. YADRO G4208P G3, «Гравитон» С2124АГ и С2124ОГ — серверы 4U до восьми ускорителей с записями в реестре Минпромторга. Мы работаем с обоими производителями; номера указываем в спецификации по каждой позиции.
Можно ли испытать сервер до закупки?: Да. По согласованию предоставляем GPU-⁠сервер для испытаний на вашей площадке — проверите модель на своих задачах и документах. Конфигурацию и срок испытаний обсуждаем при запросе.
Какой срок поставки?: GPU-⁠серверы собираются на производстве под заказ и конкретную конфигурацию, поэтому срок уточняем под проект — после согласования состава.
Сколько ускорителей нужно?: Зависит от модели и нагрузки. Модели до 8 млрд параметров хватает одного ускорителя на 48 ГБ, модели около 70 млрд — четырёх таких ускорителей в 8 битах. Четыре ускорителя — типовой пилот, восемь — сервис на всё учреждение или крупная модель.
Какие модели можно запустить?: Модели, которые распространяются для установки на собственные серверы: открытые семейства вроде Qwen, DeepSeek и Llama и российские модели с открытыми весами. Модель и условия её лицензии выбирает заказчик — мы подбираем под неё оборудование и разворачиваем её.
Что нужно от серверной?: Сервер 4U с восемью ускорителями потребляет несколько киловатт и столько же отдаёт в тепло. До поставки проверяем электропитание, ИБП, охлаждение и место в стойке.

Оборудование, услуги и решения по направлению

Разделы каталога

Серверы917

Производители

Услуги

Решения по направлению

Направить запрос

Опишите задачу: какие модели планируете, сколько пользователей и документов — рассчитаем конфигурацию, проверим реестровые номера и подготовим спецификацию с коммерческим предложением.

Телефон: +7 (495) 646-01-16
Электронная почта: alliance@alliance-it.ru

ИмяобязательноТелефон или e-mailобязательно

КомментарийНеобязательно. Техническое задание или перечень можно направить ответным письмом.

Даю согласие на обработку персональных данных из этой формы, чтобы получить ответ на запрос.

Как мы обращаемся с данными — в политике обработки персональных данных (откроется в новой вкладке)

Проверка «Я не робот» появится после отметки согласия.

Свяжемся в течение рабочего дня.

Удобнее в мессенджере: