Moore Threads MCCX D800 384ГБ

Moore Threads MCCX D800 — это высокопроизводительный ИИ-сервер формата 4U, специально разработанный для работы с наиболее требовательными большими языковыми моделями (LLM).

Он объединяет восемь графических процессоров MTT S4000 на базе архитектуры MUSA, обеспечивая вычислительный фундамент как для обучения моделей, так и для инференса с высокой пропускной способностью.

Оснащенный двумя процессорами Intel® Xeon® Gold 6430 и 1 ТБ высокоскоростной памяти DDR5, MCCX D800 гарантирует бесперебойную оркестрацию данных.

Особенностью является технология интерконнекта MTLink 1.0 в сочетании с PCIe Gen5 P2P, обеспечивающая межкарточную пропускную способность до 240 ГБ/с.
Это позволяет серверу выступать в качестве базового блока для масштабных вычислительных кластеров KUAE, поддерживая линейное масштабирование производительности.

Благодаря полной совместимости с CUDA через программный стек MUSA, MCCX D800 предоставляет готовую к эксплуатации среду для таких фреймворков глубокого обучения, как PyTorch и Megatron-LM.

Сценарии применения

Обучение LLM от 70B до 130B параметров в KUAE-кластерах.
AI-инференс (LLaMA, GLM, Baichuan, GPT).
Видеоаналитика и транскодирование (768 потоков 1080p).
Облачные VDI-платформы с vGPU/SR-IOV.