| 0 |
|
Nvidia підготувала до CES багато анонсів та презентацій, але можливо найбільший резонанс отримала демонстрація прототипу АІ-суперкомп'ютера Project Digits.
Голова Nvidia Дженсен Хуан (Jensen Huang) заявив, що Project Digits, буде представлений у травні і матиме продуктивність 1 пфлопс в обчисленнях з плаваючою комою FP4. Прототип був у форм-факторі, який легко тримав у руках Дженсен Хуан.
Зазначається, що Project Digits був розроблений з тією ж концепцією, що і сервери Nvidia DGX 100 - надати кінцевим користувачам готове суперкомп'ютерне рішення для АІ без проблем, пов'язаних з повноцінним суперкластерним рішенням. Там, де DGX 100 вписується в серверні стійки, Project Digits розміщується на робочому столі, займаючи таку ж площу, як і Mac Mini.
Digits працює на базі суперчипа GB10 Grace Blackwell, спільної розробки Nvidia та MediaTek. Графічний процесор Nvidia Blackwell, що забезпечує продуктивність 1 петафлопс, розміщений на кристалі з 20-ядерним процесором Grace завдяки технології NVLink C2C. Суперчіп використовує до 128 ГБ пам'яті LPDDR5X від Micron та накопичувач NVMe SSD об'ємом 4 ТБ. Також у комп'ютері встановлений інтелектуальний мережевий адаптер Nvidia ConnectX, що забезпечує підтримку NCCL, RDMA і GPUDirect.
«Процесор NVIDIA Grace оснащений нашими передовими, високопродуктивними технологіями Arm Cortex-X і Cortex-A має 10 процесорних ядер Arm Cortex-X925 та 10 ядер Cortex-A725, - зазначила Arm у своєму прес-релізі.
Один блок Project Digits може запускати до 200 мільярдів ітерацій великих мовних моделей АІ. Для порівняння, модель GPT-4o від OpenAI має 12-мільярдну ітерацію, що означає, що Project Digits може запускати та налаштовувати ChatGPT локально.
Project Digits буде постачатися з попередньо встановленим повним стеком програмного забезпечення Nvidia AI Enterprise; бібліотеками, фреймворками та інструментами управління інфраструктурою для підключення та управління більш широким рішенням АІ.
Користувачі «можуть створювати прототипи, налаштовувати та тестувати моделі на локальних системах Project DIGITS», а потім розгортати їх у хмарі або локальній інфраструктурі центру обробки даних, йдеться у прес-релізі Nvidia.
«З Project Digits суперчіп Grace Blackwell стає доступним мільйонам розробників. Розміщення суперкомп'ютера зі штучним інтелектом на робочому столі кожного аналітика даних, дослідника штучного інтелекту та студента дає їм можливість брати участь у формуванні епохи штучного інтелекту», зазначає Хуанг.
Прогнозується, що Project Digits буде пропонуватися за ціною 3000 дол.
Комп’ютерний розум: генеративний штучний інтелект у рішеннях AWS
| 0 |
|
