Новые ускорители NVIDIA работают с алгоритмами машинного обучения в ЦОД
Компания NVIDIA представила комплексную масштабируемую платформу для ЦОД, которая позволяет компаниям, занимающимся веб-сервисами, ускорять анализ данных, которые связаны с алгоритмами машинного обучения.
Линейка специализированных ускорителей NVIDIA включает два решения. Одно позволяет исследователям быстрее продвигаться в своей работе, создавая новые сети глубокого обучения (deep learning) для каждого приложения, которое они хотят оснастить искусственным интеллектом. Второе решение представляет собой экономичный ускоритель, предназначенный для развертывания таких сетей в дата-центрах. В состав представленных решений также входит набор GPU-ускоряемых библиотек. Вместе они позволяют разработчикам использовать вычислительную платформу Tesla для ускорения машинного обучения в масштабируемых дата-центрах и создавать приложения на базе искусственного интеллекта.
Новые программно-аппаратные продукты нацелены на поддержку новой волны веб-приложений, которые стремятся обрасти возможностями искусственного интеллекта. Достигнутые результаты в области машинного обучения позволяют с помощью искусственного интеллекта сделать приложения и сервисы умнее.
Машинное обучение применяют, например, чтобы повысить точность распознавания звучащей речи. Оно позволяет добавлять метки при распознавании объектов и сцен в видеозаписях и фотографиях для дальнейшего поиска, а также распознавать лица в видеозаписях и фотографиях даже при неотчетливом изображении. Машинное обучение также лежит в основе сервисов, которые помогут составлять расписания и подбирать новости с учетом индивидуальных вкусов и интересов, а также точно реагировать на голосовые команды, сделанные в разговорной манере.
Линейка специализированных решений NVIDIA включает два ускорителя — NVIDIA Tesla M40 GPU и NVIDIA Tesla M4 GPU и пакет NVIDIA Hyperscale Suite.
NVIDIA Tesla M40 GPU — самый мощный ускоритель, созданный для обучения глубоких нейронных сетей. Заявлено, что возможности ускорителя NVIDIA Tesla M40 позволяют сократить время на обучение до 8 раз по сравнению с системами на базе CPU: 1,2 дня против 10 дней при стандартном обучении AlexNet. А поддержка NVIDIA GPUDirect обеспечивает быстрое обучение многоузловых нейронных сетей.
NVIDIA Tesla M4 GPU — экономичный компактный ускоритель, предназначенный для систем машинного обучения и обработки потокового видео и фотоизображений. Для модели заявлено, что она кодирует, улучшает и анализирует в пять раз больше видеопотоков одновременно по сравнению с CPU. Обладая нескольким режимами питания, Tesla M4 потребляет 50-75 Вт и является до 10 раз экономичнее, чем CPU, при обработке видео и работе с алгоритмами машинного обучения. Это компактное PCIe-решение, которое подходит для систем в масштабируемых ЦОД.
NVIDIA Hyperscale Suite — набор программных инструментов, оптимизированный для машинного обучения и обработки видеоданных. В его состав, в частности, входят:
• cuDNN — самый популярный в индустрии алгоритм для обработки глубоких сверточных нейронных сетей, используемых для приложений, использующих искусственный интеллект;
• GPU-ускоряемое мультимедийное ПО FFmpeg — широко используемое программное обеспечение FFmpeg для ускорения перекодировки и обработки видео;
• NVIDIA GPU REST Engine — позволяет легко и быстро создавать и развертывать ускоренные веб-сервисы высокой пропускной способности и низкой латентности, включающие изменение размеров изображений, ускорение поиска, классификацию изображений и др.;
• NVIDIA Image Compute Engine — GPU-ускоряемый сервис с API REST, который позволяет изменять размер изображения в 5 раз быстрее, чем CPU.
Mesosphere уже объявила о сотрудничестве с NVIDIA и добавлении поддержки GPU в Apache Mesos и операционную систему Mesosphere Datacenter (DCOS). Этот шаг позволит разработчикам веб-сервисов быстрее создавать и разворачивать ускоренные дата-центры для приложений нового поколения.
Ускоритель M40 GPU и пакет Hyperscale появятся на рынке к концу года. Ускоритель Tesla M4 будет доступен в первом квартале 2016 года.