Moore Threads MCCX D800 (8xMTT S4000 48ГБ, 2x Xeon Gold 6430, 1ТБ DDR5)

Moore Threads MCCX D800 — это серверная платформа, специально разработанная для высокопроизводительных вычислений, с акцентом на искусственный интеллект и глубокое обучение. Основные сценарии применения: 1. Обучение и дообучение больших языковых моделей (LLM): MCCX D800 полностью совместим с CUDA и PyTorch, что позволяет использовать его для обучения таких моделей, как GPT, LLaMa и GLM.  Платформа поддерживает распределенные фреймворки, такие как Megatron-LM и DeepSpeed, что обеспечивает высокую производительность и гибкость 2. Инференс больших языковых моделей: MCCX D800 также предназначен для эффективного инференса LLM.