| 0 |
|
Представлена на конференції GTC платформа NVIDIA AI Enterprise 5.0 містить мікросервіси NVIDIA, програмні контейнери, що завантажуються, для розгортання застосунків генеративного AI та прискорених обчислень. Рішення доступне у провідних провайдерів хмарних послуг, збирачів систем і постачальників ПЗ і вже використовується такими клієнтами, як Uber.
"Ми використовуємо програмне забезпечення NVIDIA AI Enterprise для обчислень, що важливо для забезпечення високої продуктивності, на яку очікують наші користувачі", - сказав Альберт Грінберг (Albert Greenberg), віцепрезидент з розробки платформ в Uber. "Uber пишається тим, що перебуває на передньому краї впровадження та використання найновіших, найпередовіших інновацій у галузі AI для забезпечення платформи обслуговування клієнтів, яка встановлює галузеві стандарти ефективності та досконалості".
Розробники звертаються до мікросервісів як до ефективного способу створення сучасних корпоративних додатків у глобальному масштабі. Працюючи через браузер, вони використовують хмарні API, або інтерфейси прикладного програмування, для створення застосунків, які можуть працювати в системах і обслуговувати користувачів по всьому світу.
NVIDIA AI Enterprise 5.0 тепер включає широкий спектр мікросервісів - NVIDIA NIM для розгортання моделей AI у виробництві та колекцію мікросервісів NVIDIA CUDA-X, яка включає NVIDIA cuOpt.
Мікросервіси NIM оптимізують обчислення для десятків популярних моделей AI від NVIDIA та її партнерської екосистеми.
На базі програмного забезпечення для обчислень NVIDIA, включно з Triton Inference Server, TensorRT і TensorRT-LLM, NIM скорочує час розгортання з тижнів до хвилин. Він забезпечує безпеку і керованість на основі промислових стандартів, а також сумісність з інструментами управління корпоративного рівня.
NVIDIA cuOpt - це мікросервіс AI з GPU-прискоренням, який встановив світовий рекорд з оптимізації маршрутів і дає змогу ухвалювати динамічні рішення, скорочуючи витрати, час і вуглецевий слід. Це один із мікросервісів CUDA-X допомагає галузям впроваджувати AI у виробництво.
Інші можливості перебувають у розробці. Наприклад, оператор NVIDIA RAG LLM, який зараз перебуває в ранньому доступі, дасть змогу перевести copilots та інші застосунки генеративного AI, що використовують генерацію з доповненням пошуку, з пілотної версії у виробничу без переписування коду.
Мікросервіси NVIDIA використовують провідні постачальники застосунків і платформ кібербезпеки, зокрема CrowdStrike, SAP і ServiceNow.
Варто відзначити ще три оновлення у версії 5.0.
Платформа тепер включає NVIDIA AI Workbench, інструментарій розробника для швидкого завантаження, налаштування і запуску проєктів генеративного AI. Програмне забезпечення тепер загальнодоступне і підтримується ліцензією NVIDIA AI Enterprise.
Версія 5.0 також тепер підтримує Red Hat OpenStack Platform - середовище, яке більшість компаній зі списку Fortune 500 використовують для створення приватних і публічних хмарних сервісів. Підтримувана Red Hat, вона надає розробникам звичний варіант для створення віртуальних обчислювальних середовищ. IBM Consulting допоможе замовникам розгорнути ці нові можливості.
Крім того, у версії 5.0 розширено підтримку широкого спектра новітніх графічних процесорів NVIDIA, мережевого обладнання та програмного забезпечення для віртуалізації.
Мікросервіси NIM і CUDA-X і всі функції 5.0 скоро будуть доступні на ринках AWS, Google Cloud, Microsoft Azure та Oracle Cloud.
Для тих, хто вважає за краще запускати код у власних дата-центрах, VMware Private AI Foundation з NVIDIA буде підтримувати програмне забезпечення, щоб його можна було розгорнути у віртуалізованих дата-центрах клієнтів Broadcom.
Компанії можуть запустити NVIDIA AI Enterprise на Red Hat OpenShift, що дозволить їм розгорнути його в апаратних або віртуалізованих середовищах. Вона також підтримується на Charmed Kubernetes від Canonical і Ubuntu.
Крім того, платформа AI стане частиною програмного забезпечення, доступного на серверах HPE ProLiant від Hewlett Packard Enterprise (HPE). Корпоративне обчислювальне рішення HPE для генеративного AI обробляє висновки та тонке налаштування моделей за допомогою NVIDIA AI Enterprise.
Зазначається, Anyscale, Dataiku і DataRobot - три провідні постачальники програмного забезпечення для управління операціями машинного навчання - підтримуватимуть NIM на своїх платформах. Вони приєднуються до екосистеми NVIDIA, що складається із сотень партнерів з MLOps, включно з Microsoft Azure Machine Learning, Dataloop AI, Domino Data Lab і Weights & Biases.
Як би вони не отримали доступ, користувачі NVIDIA AI Enterprise 5.0 можуть скористатися безпечним, готовим до виробництва та оптимізованим для продуктивності ПЗ. Його можна гнучко розгорнути для додатків у центрі обробки даних, хмарі, на робочих станціях або на кордоні мережі.
Платформа NVIDIA AI Enterprise доступна у провідних системних постачальників, включно з Cisco, Dell Technologies, HP, HPE, Lenovo і Supermicro.
Ready, set, buy! Посібник для початківців - як придбати Copilot для Microsoft 365
| 0 |
|
