| 0 |
|
Компанія NVIDIA анонсувала новий клас суперкомп'ютерів для штучного інтелекту з великою пам'яттю - NVIDIA DGX на базі чіпів NVIDIA GH200 Grace Hopper та системи перемикання NVIDIA NVLink. Це рішення націлене на розробку гігантських моделей наступного покоління додатків генеративної мови штучного інтелекту, рекомендаційні системи та робочі навантаження аналізу даних.
Величезний обсяг загальної пам'яті NVIDIA DGX GH200 використовує технологію міжз'єднань NVLink із системою комутації NVLink для об'єднання 256 чіпів GH200, що дозволяє працювати як один графічний процесор. Це забезпечує продуктивність рівня 1 екзафлоп при 144 терабайтах загальної пам'яті - майже в 500 разів більше пам'яті, ніж у попереднього покоління NVIDIA DGX A100, представленого у 2020 році.
«Генеративний ШІ, великі мовні моделі та рекомендаційні системи – це цифрові двигуни сучасної економіки, – сказав Дженсен Хуанг (Jensen Huang), засновник та генеральний директор NVIDIA. «Суперкомп'ютери зі штучним інтелектом DGX GH200 об'єднують найпередовіші прискорені обчислення та мережеві технології NVIDIA, щоб розширити межі штучного інтелекту».
Чіпи GH200 усувають необхідність у традиційному PCIe-з'єднанні CPU-GPU шляхом об'єднання процесора NVIDIA Grace на базі Arm з графічним процесором NVIDIA H100 з тензорним ядром в одному корпусі з використанням міжз'єднань чіпів NVIDIA NVLink-C2C. Це збільшує пропускну здатність між GPU та CPU в 7 разів у порівнянні з новітньою технологією PCIe, знижує енергоспоживання міжз'єднань більш ніж у 5 разів та формує будівельний блок GPU з архітектурою Hopper місткістю 600 ГБ для суперкомп'ютерів DGX GH200.
DGX GH200 - це перший суперкомп'ютер, в якому чіпи Grace Hopper об'єднані із системою комутації NVIDIA NVLink, новим міжмережевим з'єднанням, яке дозволяє всім графічним процесорам у системі DGX GH200 працювати разом як єдине ціле. У системі попереднього покоління було передбачено лише вісім графічних процесорів, які можна було поєднати з NVLink в один графічний процесор без шкоди для продуктивності.
Архітектура DGX GH200 забезпечує в 48 разів більшу пропускну здатність NVLink, ніж попереднє покоління, надаючи потужність потужного суперкомп'ютера ШІ з простотою програмування одного графічного процесора.
Очікується, що Google Cloud, Meta та Microsoft одними з перших матимуть доступ до DGX GH200, щоб вивчити його можливості для генеративних робочих навантажень ШІ. NVIDIA також має намір надати дизайн DGX GH200 як план постачальникам хмарних послуг та іншим гіперскейлерам, щоб вони могли додатково налаштувати його для своєї інфраструктури.
«Створення передових генеративних моделей потребує інноваційних підходів до інфраструктури штучного інтелекту, – сказав Марк Ломейєр (Mark Lohmeyer), віцепрезидент з обчислювальних ресурсів Google Cloud. «Новий масштаб NVLink та загальна пам'ять чіпів Grace Hopper усувають ключові вузькі місця у великомасштабному ШІ, і ми з нетерпінням чекаємо на можливість вивчити його можливості для Google Cloud та наших ініціатив у галузі генеративного ШІ».
«У міру того, як моделі ШІ стають більшими, їм потрібна потужна інфраструктура, яка може масштабуватися для задоволення потреб, що зростають», — сказав Алексіс Бйорлін (Alexis Björlin), віцепрезидент з інфраструктури, систем ШІ та прискорених платформ в Meta. «Дизайн Grace Hopper від NVIDIA покликаний надати дослідникам можливість дослідити нові підходи до вирішення їх найскладніших завдань».
«Навчання великих моделей ШІ традиційно є ресурсомістким та трудомістким завданням, – сказав Гіріш Баблані (Girish Bablani), корпоративний віцепрезидент з інфраструктури Azure у Microsoft. «Можливість DGX GH200 працювати з наборами даних розміром в терабайт дозволить розробникам проводити розширені дослідження у більшому масштабі та на вищих швидкостях».
NVIDIA створює власний суперкомп'ютер зі штучним інтелектом на базі DGX GH200, щоб забезпечити роботу своїх дослідників та команд розробників. Суперкомп'ютер під назвою NVIDIA Helios буде оснащений чотирма системами DGX GH200. Кожен з них буде з'єднаний з мережею NVIDIA Quantum-2 InfiniBand, щоб підвищити пропускну здатність даних для навчання великих моделей ШІ. Helios включить до свого складу 1024 чіпи Grace Hopper і, як очікується, буде запущено до кінця року.
Суперкомп'ютери DGX GH200 включають програмне забезпечення NVIDIA, що надає готове рішення з повним стеком для найбільших робочих навантажень ШІ та аналізу даних. Програмне забезпечення NVIDIA Base Command забезпечує управління робочими процесами ШІ, управління кластерами корпоративного рівня, бібліотеки, що прискорюють обчислення, сховище та мережеву інфраструктуру, а також системне програмне забезпечення, оптимізоване для виконання робочих навантажень ШІ.
Також включено NVIDIA AI Enterprise, програмний рівень платформи NVIDIA AI. Він надає понад 100 фреймворків, попередньо навчених моделей та інструментів розробки для оптимізації розробки та розгортання виробничого ШІ, включаючи генеративний ШІ, комп'ютерний зір, мовленнєвий ШІ та багато іншого.
Очікується, що суперкомп'ютери NVIDIA DGX GH200 будуть доступні до кінця року.
Ready, set, buy! Посібник для початківців - як придбати Copilot для Microsoft 365
| 0 |
|
