| 0 |
|
Nvidia на своєму віртуальному заході GTC 2022 оголосила, що перші продукти і сервіси на базі графічного процесора нового покоління, Nvidia H100 Tensor Core GPU, будуть випущені вже наступного місяця.
Слід зазначити, що Nvidia H100 Tensor Core - це найпотужніший графічний процесор, який коли-небудь створювала компанія. Він заснований на новій архітектурі Hopper і містить понад 80 мільярдів транзисторів. Чип також має нові функції, такі як Transformer Engine та більш ефективне з'єднання NVLink, що дозволяє йому працювати з більш масштабними моделями штучного інтелекту, рекомендаційними системами та іншими типами робочих навантажень. , Кажуть, що завдяки Transformer Engine чип здатний прискорювати моделі обробки природної мови в шість разів швидше ніж попереднє покоління графічних процесорів A100.
Коли чип був вперше анонсований у квітні, Nvidia заявила, що він настільки потужний, що всього 20 таких процессорів теоретично можуть бути використані для підтримки всього світового інтернет-трафіку. Це робить H100 ідеальним для найсучасніших додатків АІ, включаючи отримання висновків на основі даних в реальному часі.
Також графічні процесори H100 є одними з першими, які підтримують PCIe Gen5 та використовують HBM3, що означає, що вони мають більше 3 терабайт пропускної здатності пам'яті.
Крім того, графічні процесори H100 оснащені захищеною багатопроцесорною технологією другого покоління, яка дозволяє розділити чіп на сім менших, повністю ізольованих екземплярів для одночасної роботи з декількома робочими навантаженнями. Інші можливості включають підтримку конфіденційних обчислень, що означає шифрування даних під час їх обробки, і нові інструкції DPX для прискореного динамічного програмування.
Ця техніка широко використовується в багатьох алгоритмах оптимізації, обробки даних і омічних алгоритмах. Графічний процесор H100 може робити це в 40 разів швидше, ніж найсучасніші центральні процесори, обіцяє Nvidia.
Засновник і генеральний директор Nvidia Дженсен Хуанг (Jensen Huang) заявив на GTC, що він бачить Hopper як "новий двигун фабрик АІ», який буде сприяти значному прогресу в мовному АІ, робототехніці, охороні здоров'я та у науках про життя. "Трансформаторний двигун Hopper підвищує продуктивність на порядок, роблячи великомасштабний АІ і високопродуктивні обчислення доступними для компаній і дослідників", наголосив він.
Цікавою деталлю є те, що всі нові основні сервери на базі Nvidia H100 будуть продаватися з п'ятирічною ліцензією на Nvidia AI Enterprise. Це програмний комплекс, який використовується для оптимізації розробки і розгортання моделей АІ і надає доступ до фреймворків і інструментів для створення чат-ботів і багато іншого.
Nvidia заявила, що графічні процесори H100 будуть широко доступні в наступному місяці на новітніх серверах PowerEdge від Dell Technologies через сервіс Nvidia LaunchPad, який надає безjплатнe практичну лабораторію для компаній, щоб почати роботу з обладнанням. Крім того, клієнти можуть замовити нові системи Nvidia DGX H100, які поставляються з вісьмома графічними процесорами H100 і забезпечують продуктивність 32 петафлопс при точності FP8.
Кожна система DGX працює на базі програмних стеків Nvidia Base Command та AI Enterprise. Вони дозволяють розгортати від одного вузла до цілого Nvidia DGX SuperPOD для більш складних робочих навантажень ШІ, таких як великі мовні моделі.
Крім того, графічні процесори H100 будуть доступні в різноманітних серверних системах сторонніх виробників, серед яких Dell, Cisco Systems, Fujitsu, Gigabyte Technology, Hewlett Packard Enterprise, Lenovo та Super Micro Computer протягом найближчих тижнів.
Крім того, сервіси Amazon Web Services, Google Cloud, Microsoft Azure і Oracle Cloud Infrastructure будуть одними з перших, хто розгорне екземпляри на базі H100 на початку наступного року.
Також Nvidia повідомила, що багато провідних світових моделей АІ і фреймворків глибокого навчання тепер оптимізуються для графічних процесорів H100, включаючи власний фреймворк компанії NeMo Megatron, а також DeepSpeed від Microsoft і JAX, PyTorch, TensorFlow і XLA від Google.
Ready, set, buy! Посібник для початківців - як придбати Copilot для Microsoft 365
| 0 |
|
