| 0 |
|
Nvidia та Microsoft заявили про співпрацю у створенні суперкомп'ютера, оптимізованого для роботи програмного забезпечення штучного інтелекту.
У технічному плані система буде заснована на хмарній інфраструктурі Microsoft Azure.
«Розвиток технологій штучного інтелекту, а також їх впровадження в промисловість прискорюється, - сказав Манувір Дас (Manuvir Das), віце-президент з корпоративних обчислень в Nvidia. - Прорив фундаментальних моделей викликав хвилю досліджень, сприяв появі нових стартапів і уможливив нові корпоративні додатки. Наша співпраця з Microsoft надасть дослідникам і компаніям найсучаснішу інфраструктуру та програмне забезпечення для АІ».
В рамках співпраці Microsoft оснастить свої сервери у Azure десятками тисяч графічних процесорів Nvidia, разом з декількома іншими технологіями, включаючи серію мережевих комутаторів Quantum-2.
Azure вже маю значну кількість встановлених графічних процесорів від Nvidia. Клієнти Azure можуть отримати доступ до декількох обчислювальних екземплярів на базі Nvidia A100. В рамках оголошеного партнерства Microsoft представить хмарні екземпляри Azure на базі флагманського графічного процесора Nvidia H100.
Майбутні екземпляри Azure на базі H100, які Microsoft планує запустити, будуть використовувати серію комутаторів Nvidia Quantum-2 InfiniBand для управління мережевим трафіком. Комутатори можуть обробляти 400 гігабіт трафіку в секунду на мережевий порт, що вдвічі більше, ніж обладнання Nvidia попереднього покоління.
В рамках співпраці компанії також зроблять свої інструменти для розробки АІ більш доступними в Azure.
Microsoft надає набір інструментів з відкритим вихідним кодом під назвою DeepSpeed, який розробники використовують для зниження вимог до інфраструктури своїх нейтральних мереж. За словами Microsoft, інструментарій може зменшити кількість обладнання, необхідного для навчання та запуску нейронних мереж. Microsoft і Nvidia оптимізують DeepSpeed для роботи на відеокартах виробника H100.
Зусилля з оптимізації будуть спрямовані на те, щоб допомогти розробникам прискорити роботу моделей штучного інтелекту, які використовують популярну архітектуру нейронних мереж Transformer. Підвищення швидкості буде забезпечено за допомогою функції, відомої як Transformer Engine, яка вбудована в відеокарту Nvidia H100. За словами чипмейкера, Transformer Engine прискорює роботу нейронних мереж за рахунок зменшення обсягу даних, які вони повинні обробити для завершення обчислень.
Nvidia зі свого боку надає програмну платформу Nvidia AI Enterprise, щоб допомогти компаніям легше запускати додатки АІ на своїх чіпах. Платформа зменшує кількість ручної роботи, необхідної для побудови, розгортання та управління нейронними мережами. Вона також містить набір попередньо налаштованих нейронних мереж, оптимізованих для таких завдань, як генерація рекомендацій по покупках.
Компанія Nvidia планує розширити використання Azure в рамках партнерства. Чіпмейкер буде використовувати екземпляри Azure для підтримки своїх досліджень в напрямку генеративного АІ. Це тип просунутої нейронної мережі, яка може виконувати такі завдання, як генерація тексту, відео та програмного коду.
Ready, set, buy! Посібник для початківців - як придбати Copilot для Microsoft 365
| 0 |
|
