Ali PG1 Сервер 1536ГБ
Ali AP1 (Alibaba PG1) — это ИИ-сервер формата 10U, спроектированный для наиболее ресурсоемких задач обучения и инференса больших языковых (LLM), мультимодальных и генеративных моделей.
Система объединяет 16 ускорителей Pingtou Ge Zhenwu 810E, обеспечивая суммарный объем видеопамяти 1536 ГБ HBM2e и производительность 1968 TFLOPS (FP16).
Благодаря пропускной способности памяти 2765 ГБ/с и проприетарному интерконнекту со скоростью 700 ГБ/с (ICN), сервер гарантирует почти линейное масштабирование при работе с моделями на сотни миллиардов параметров.
Вычислительная часть базируется на двух процессорах Intel® Xeon® 8558P (суммарно 96 ядер) и 2 ТБ оперативной памяти ECC DDR5. Сетевая подсистема включает десять портов 200 Гбит/с Ethernet и два порта 25 Гбит/с для управления.
Полностью оптимизированный для экосистемы DeepSeek, Qwen и совместимый с PyTorch/TensorFlow.
Сценарии применения
Обучение крупнейших LLM и мультимодальных моделей.
Масштабные AI-кластеры.
Генеративный AI и сложная аналитика.