| 0 |
|
По сообщению NVIDIA, ее платформа инференса ИИ, которая недавно пополнилась графическими процессорами NVIDIA A30 и A10 для серверов, показала рекордную производительность во всех категориях в последней версии MLPerf.
Напомним, что MLPerf — это признанный в отрасли бенчмарк для измерения производительности ИИ в различных задачах, включая компьютерное зрение, медицинскую визуализацию, рекомендательные системы, распознавание речи и обработку естественного языка.
Стоит отметить, что это дебют графических процессоров NVIDIA A30 и A10 в MLPerf. Заявлено, что Hewlett Packard Enterprise, Inspur и Lenovo планируют интегрировать эти графические процессоры в свои серверы уже этим летом.
«Поскольку ИИ продолжает трансформировать все отрасли, MLPerf становится еще более важным инструментом для компаний, позволяя принимать обоснованные решения об инвестициях в ИТ-инфраструктуру, — сказал Ян Бак (Ian Buck), директор и вице-президент по ускоренным вычислениям в NVIDIA. — Теперь, когда результаты MLPerf предлагает каждый крупный OEM-производитель, NVIDIA и ее партнеры хотят не только на обеспечить лучшую в мире производительность для ИИ, но и демократизировать ИИ с помощью новой волны корпоративных серверов на базе новых графических процессоров A30 и A10».
Сообщается, что NVIDIA — единственная компания, представившая результаты всех тестов в категориях ЦОД и edge-систем. Некоторые результаты также включают данные Triton Inference Server, который упрощает развертывание ИИ в приложениях благодаря поддержке моделей из всех основных фреймворков, работающих на GPU и CPU, и оптимизации для различных типов запросов, включая пакетные данные, данные в реальном времени и потоковую передачу. Результаты Triton показывают производительность, близкую к наиболее оптимизированным GPU-системам, а также CPU-системам с сопоставимыми конфигурациями.
NVIDIA также открыла новые возможности, представив результаты, полученные при использовании технологии Multi-Instance GPU архитектуры NVIDIA Ampere, одновременно запустив все семь тестов MLPerf Offline на одном графическом процессоре с использованием семи инстансов MIG. Конфигурация показала почти идентичную производительность по сравнению с одним инстансом MIG. Эти результаты демонстрируют производительность и универсальность MIG и позволяют администраторам инфраструктуры выделять нужные объемы вычислительной мощности GPU для конкретных приложений, чтобы получить максимальную отдачу от каждого графического процессора ЦОД.
Помимо собственных результатов NVIDIA, партнеры компании Alibaba, DellEMC, Fujitsu, GIGABYTE, HPE, Inspur, Lenovo и Supermicro представили в общей сложности более 360 результатов с использованием графических процессоров NVIDIA.
Графические процессоры NVIDIA A100 доступны в серверах от ведущих производителей и в облаке от всех основных поставщиков облачных услуг. Кроме того, графические процессоры A100 представлены в системах NVIDIA DGX, включая NVIDIA DGX Station A100, NVIDIA DGX A100 и NVIDIA DGX SuperPOD.
GPU A30 и A10 появятся в широком спектре серверов уже этим летом, включая сертифицированные NVIDIA системы, которые проходят тестирование для обеспечения высокой производительности в широком диапазоне рабочих нагрузок.
Системы Jetson AGX Xavier и Jetson Xavier NX можно приобрести у дистрибьюторов по всему миру.
NVIDIA Triton и NVIDIA TensorRT доступны в NGC, каталоге программного обеспечения NVIDIA.
Ready, set, buy! Посібник для початківців - як придбати Copilot для Microsoft 365
| 0 |
|
