О продукте
Ускоритель, созданный для корпоративных AI-нагрузок
Решение для плотного инференса, адаптации моделей и приватной AI-инфраструктуры, где критичны предсказуемая доступность, локализованные поставки и совместимость ПО.
Архитектура
TPU Архитектура
Память и производительность
Профиль памяти с высокой пропускной способностью для инференса и обучения.
Объём видеопамяти96
Тип памятиHBM3e
Пропускная способность1200
Тип интерконнектаYHLink
Скорость интерконнекта1200
Архитектура
Вычислительная архитектура и модель исполнения.
АрхитектураTPU Архитектура
Ядра-
Питание и охлаждение
Требования к интеграции в дата-центр.
Тепловыделение (TDP)-
ОхлаждениеПассивное
Форм-факторMezzanine Module
Pixel Rate-
Texture Rate-
Производительность
Пиковая теоретическая производительность для основных точностей AI.
FP64
INT4 TOPS 2048
FP32
128
FP16
-
TF32
-
BF16 Tensor
512
FP8 Tensor
1024
INT8 Tensor
1024
Совместимость
Интерфейсы, фреймворки и среда развёртывания.
Интерфейс PCIePCIe 5.0x16
Кодирование видео-
Декодирование видео-
Физические размеры
Габариты карты для серверных платформ.
Слоты-
Длина- мм
Высота- мм
Ширина- мм
Стоимость
По запросу
Специальные цены для кластерных развёртываний и пилотных партий.
Documentation