Nvidia робить доступною нову хмарну платформу DGX Cloud для завдань генеративного АІ
Nvidia оголосила про широку доступність наступного покоління своєї суперкомп’ютерної платформи DGX, яка надає компаніям доступ до тисяч графічних процесорів у хмарній інфраструктурі Oracle та на власних хмарних серверах, які находяться у США та Великій Британії.
Анонсований на конференції Nvidia GTX у березні, DGX Cloud - це хмарний сервіс суперкомп’ютерних обчислень, який надає прямий доступ до всього необхідного для початку навчання найсучасніших моделей для генеративного АІ та інших додатків.
Сервіс базується на платформі Nvidia DGX, яка є спеціалізованим апаратним забезпеченням, яке компанії можуть придбати та налаштувати для роботи у власних локальних центрах обробки даних. Завдяки DGX Cloud підприємствам більше не потрібно чекати на придбання дорогої платформи, натомість вони можуть орендувати інфраструктуру. Іншими словами, Nvidia робить свій суперкомп’ютер зі штучним інтелектом доступним для набагато більшої кількості підприємств, включаючи ті, які не можуть дозволити собі розгортати та керувати своїми системами самостійно.
Nvidia пояснила, що кожен екземпляр DGX Cloud надає доступ до восьми графічних процесорів Tensor Core з 80 гігабайтами памʼяті, що означає 640 гігабайт графічної пам’яті на кожен вузол. Платформа побудована на високопродуктивній мережевій структурі з низькою затримкою, щоб забезпечити масштабування робочих навантажень між кластерами взаємопов’язаних систем. Таким чином, кілька екземплярів DGX Cloud можуть працювати як один величезний графічний процесор для вирішення найвимогливіших робочих навантажень.
Платформа DGX Cloud працює в парі з програмним забезпеченням Nvidia AI Enterprise, яке надає клієнтам доступ до більш ніж 100 фреймворків і попередньо навчених моделей АІ.
Nvidia також надає доступ до свого програмного забезпечення Base Command для управління та моніторингу навчальних навантажень у DGX Cloud.
Nvidia раніше оголосила, що ціни на один екземпляр DGX Cloud починаються від 36 999 доларів на місяць.
Спочатку DGX Cloud запускається на хмарній інфраструктурі Oracle і пізніше буде запропонований на платформі Azure від Microsoft, а потім на Google Cloud. Поки що не повідомляється, чи буде Amazon Web Services також розміщувати DGX Cloud.
Аналітики зазначають, що Nvidia не єдина, хто йде шляхом створення суперкомп’ютерів, як це продемонстрували такі компанії, як Hewlett Packard Enterprise з її комп’ютерами Cray, та стартапи, подібні Cerebras Systems.
Деякі наглядачі вважають, що рішення Nvidia здавати в аренду DGX Cloud на щомісячній основі може виявитися занадто дорогим для деяких клієнтів. На противагу цьому, HPE та Cerebras планують пропонувати свої послуги за моделлю оплати по мірі використання.