NVIDIA EGX — платформа периферийных вычислений для применения ИИ в индустрии

Компания NVIDIA представила платформу ускоренных вычислений NVIDIA EGX, которая позволяет компаниям использовать ИИ с низкими задержками на периферийных устройствах. Платформа NVIDIA EGX призвана удовлетворить растущий спрос на мгновенное выполнение задач ИИ локально — там, где создаются данные, с гарантированным временем отклика, позволяя снизить объем данных, отправляемых в облако.

Платформа EGX охватывает широкий спектр решений, начиная с чипа NVIDIA Jetson Nano с производительностью полтриллиона операций в секунду (TOPS) при энергопотреблении несколько Ватт в таких задачах, как распознавание изображений. EGX масштабируется до полноценной стойки серверов NVIDIA T4, способных обеспечить свыше 10 000 TOPS в операциях распознавания речи и других ИИ-задачах в реальном времени.

NVIDIA заключила соглашение с Red Hat для интеграции и оптимизации набора ПО NVIDIA Edge Stack под OpenShift, ведущую платформу управления кластером контейнеров Kubernetes корпоративного уровня.

NVIDIA Edge Stack — это оптимизированный пакет ПО, включающий драйверы NVIDIA, плагин CUDA Kubernetes, среду исполнения для контейнеров CUDA, библиотеки CUDA-X и контейнеризированные AI фреймворки и приложения, включая TensorRT, TensorRT Inference Server и DeepStream. NVIDIA Edge Stack оптимизирован для сертифицированных серверов и доступен для загрузки из NVIDIA NGC.

EGX объединяет полный набор вычислительных ИИ-технологий NVIDIA с Red Hat OpenShift и NVIDIA Edge Stack, а также технологии защиты, связи и хранения данных Mellanox и Cisco.

ИИ-вычисления NVIDIA доступны в ключевых облаках и архитектурно совместимы с NVIDIA EGX. ИИ-приложения, разработанные в облаке, могут работать на NVIDIA EGX и наоборот. NVIDIA Edge Stack подключается к ключевым облачным IoT-сервисам, и клиенты могут удаленно управлять своим сервисом из AWS IoT Greengrass и Microsoft Azure IoT Edge.

NVIDIA EGX оптимизирует ИИ для расширяющейся экосистемы программных решений. Сюда относятся приложения для видеоаналитики, подходящие для крупных розничных сетей и умных городов, от таких поставщиков, как AnyVision, DeepVision, IronYun и Malong Technologies, а также приложения здравоохранения от 12 Sigma, Infervision, Qunatib и Subtle Medical.

EGX серверы доступны у ведущих мировых поставщиков корпоративных решений ATOS, Cisco, Dell EMC, Fujitsu, Hewlett Packard Enterprise, Inspur и Lenovo, а также у крупных производителей серверов и IoT-систем Abaco, Acer, ADLINK, Advantech, ASRock Rack, ASUS, AverMedia, Cloudian, Connect Tech, Curtiss-Wright, GIGABYTE, Leetop, MiiVii, Musashi Seimitsu, QCT, Sugon, Supermicro, Tyan, WiBase и Wiwynn.

Серверы NVIDIA EGX оптимизированы для NVIDIA Edge Stack и поддерживают NGC для CUDA-ускоренных контейнеров.