YH002 Mezzanine Сервер 768ГБ
GPU-сервер, разработанный для приложений больших моделей, поддерживает последние процессоры Intel® Xeon® Scalable, обладает высокой ёмкостью памяти и сверхбыстрыми интерфейсами ввода-вывода. Каждый сервер оснащён восемью модулями GPU-карт YH002 и четырьмя чипами коммутатора, обеспечивая суммарную пропускную способность 12,8 ТБ/с при полной связности восьми карт TP16.
Процессоры
2x Intel 8558（48 ядер，2.1ГГц）
Оперативная память
1,5ТБ (24x 64ГБ)
Ускорители
8x YH002 Module 96GB
Хранилище
2x 960G SATA SSD + 4x 3.84T NVME SSD
Предзаказ
Статус продукта
Процессор и память
CPU
2x Intel 8558（48 ядер，2.1ГГц）
Оперативная память
1,5ТБ (24x 64ГБ)
Тип RAM
-
Конфигурация хранилища
Модель SSD
-
Общий объём
2x 960G SATA SSD + 4x 3.84T NVME SSD
Интерфейс дисков
-
Конфигурация GPU
Вендор GPU
YH
Модель GPU
YH002 Module 96GB
Кол-во GPU
8
Общий объём VRAM
768ГБ HBM3e
Интерконнект
YHLink 1200ГБ/c
Сеть и виртуализация
Сетевые интерфейсы
DH E310 (2*25Гбит/с) + 8x DH E316 (2*200Гбит/с) или MLX CX7(2*200Гбит/с)
Виртуализация (MIG)
-
Совместимость CUDA
Не зависит от совместимости с CUDA, нативно поддерживает основные фреймворки
Питание и охлаждение
Блоки питания
-
TDP
8 600 - 11 200
Тип охлаждения
Пассивное
Спецификации сервера
Технический ID
YH002 Mezzanine Server
Платформа
YH
Форм-фактор
8U
Гарантия
3
Основные задачи
Обучение LLM,распределённое обучение, высоконагруженный inference, построение масштабируемых AI-кластеров
Стоимость
По запросу