NVIDIA починає постачання найменшого у світі AI-суперкомп’ютера DGX Spark

NVIDIA оголосила про початок поставок NVIDIA DGX Spark, який позиціонується компанією як найменший у світі AI-суперкомп’ютер. 

Як зазначається, це рішення покликане вирішити проблему, коли сучасні AI-навантаження вже перевищують можливості стандартних ПК і робочих станцій, змушуючи розробників постійно переносити роботу в хмару чи локальні дата-центри.

Новий клас комп'ютера DGX Spark пропонує потужність у 1 петаФЛОПС для завдань штучного інтелекту та 128 ГБ уніфікованої пам’яті у компактному настільному форм-факторі. Ця потужність дає змогу розробникам локально запускати інференс AI-моделей розміром до 200 мільярдів параметрів та точно налаштовувати моделі до 70 мільярдів параметрів. Крім того, DGX Spark дозволяє створювати AI-агентів та локально запускати складні програмні стеки.

Генеральний директор NVIDIA Дженсен Хуанг (Jensen Huang) підкреслив місію нового продукту: "У 2016 році ми створили DGX-1, щоб AI-дослідники могли отримати їхній власний суперкомп’ютер. Я особисто доставив першу систему Ілону Маску до офісу невеликого стартапу під назвою OpenAI, і з неї з'явився ChatGPT, що започаткував AI-революцію. Зі стартом постачання DGX Spark ми повертаємося до цієї місії — надати AI-комп'ютер у руки кожного розробника, щоб запалити наступну хвилю проривів".

DGX Spark об'єднує повну AI-платформу NVIDIA, включаючи GPU, CPU, мережеві компоненти, бібліотеки CUDA та програмний стек NVIDIA AI, у систему, достатньо малу за габаритами для лабораторії чи офісу. Пристрій прискорений суперчипом NVIDIA GB10 Grace Blackwell Superchip та використовує мережеву технологію NVIDIA ConnectX-7 200 Гбіт/с і NVIDIA NVLink-C2C, яка забезпечує в 5 разів більшу пропускну здатність, ніж п’яте покоління PCIe, з 128 ГБ когерентної пам’яті CPU-GPU.

Попередньо встановлений програмний стек NVIDIA AI дозволяє розробникам одразу розпочати роботу. Вони можуть отримати доступ до необхідних інструментів, включаючи моделі, бібліотеки та мікросервіси NVIDIA NIM, для локальних робочих процесів.

На честь початку поставок, Дженсен Хуанг особисто вручив один з перших пристроїв DGX Spark Ілону Маску у Старбазі (Starbase), штат Техас, посилаючись на аналогічну подію 2016 року.

Серед перших тестувальників DGX Spark — Anaconda, Google, Hugging Face, Microsoft, Meta, та дослідницькі організації, такі як NYU Global Frontier Lab. Професор Кюнгхюн Чо (Kyunghyun Cho) з NYU зазначив, що DGX Spark дає їм "доступ до пета-масштабних обчислень на робочому столі", що дозволяє швидко робити прототипи навіть для конфіденційних застосунків, наприклад, у сфері охорони здоров’я.

Систему DGX Spark вже можна замовити на NVIDIA.com, а також у партнерів, включаючи Acer, ASUS, Dell Technologies, HP, Lenovo та інших.