Nvidia T4 – серверный графический акселератор

NVIDIA T4 Tensor Core GPU – универсальный серверный графический ускоритель, который создан на базе архитектуры NVIDIA Turing. В качестве основы использует тензорные ядра второго поколения. Графический ускоритель отличается малыми размерами и низким электропотреблением.  GPU NVIDIA® T4 показывает хорошие результаты при работе с различными вычислительными нагрузками. Ускоритель хорошо показывает себя для организации удаленной работы виртуальных рабочих столов для офисных приложений, 3D моделирования начального уровня и решения инженерных задач. Обеспечивает эффективную работу систем ИИ в продуктивном режиме (инференс) и обучения моделей(ML).

Графический ускоритель оптимизирован для основных вычислительных сред, оснащен 320 тензорными ядрами Turing и 40 новыми ядрами трассировки лучей второго поколения (RT – Ray Tracing). Пользователи могут по достоинству оценить прирост производительности, реализуемый ускорителем используя программное обеспечение из реестра NGC. NGC является реестром программного обеспечения, который оптимизирован под GPU - ИИ, высокопроизводительные вычисления (НРС) и анализ данных. NGC предназначен для ускорения и упрощения различных задач. NGC содержит контейнеры приложений корпоративного уровня, предварительно обученные модели ИИ и отраслевые SDK, которые можно развернуть на локальных системах, в ЦОДе предприятия или на уровне производства. Это позволяет создавать лучшие в своем классе решения, получать результаты и достигать коммерческих успехов быстрее, чем когда-либо прежде.

При работе системы Нейронного машинного перевода Google (GNMT) использование GPU NVIDIA T4 позволило повысить производительность перевода в 36 раз в сравнение с серверной системой на базе процессора Intel Xeon 6140. А  сверточная нейронная сеть ResNet-50 используемая для распознавания изображений показала прирост производительности в 27 рас в сравнении с упомянутым выше процессором.

Ускоритель поддерживает следующие технологии виртуализации NVIDIA RTX Virtual Workstation(vWS), NVIDIA Virtual PC (vPC), NVIDIA Virtual Applications (vApps), NVIDIA Virtual Compute Server (vCS)

24Гб высокоскоростной памяти GDDR6 с пропускной способностью 320 Гбит/с позволяют ученым, инженерам и специалистам по data science получить объем памяти, необходимый для работы с большими наборами данных и такими задачами, как обработка данных, моделирования и прогнозной аналитики.

Ускоритель поддерживает следующие фреймворки: DirectX 12 Ultimate, OpenGL 4.6, OpenCL 3.0, Vulkan 1.2, CUDA 7,5.