| 0 |
|
За повідомленням HPE, суперкомп'ютерна платформа виробника для генеративного AI доступна для замовлення організаціям, які шукають попередньо налаштоване і протестоване повнофункціональне рішення для розробки та навчання великих AI-моделей. Створене спеціально для того, щоб допомогти клієнтам прискорити проєкти GenAI та глибокого навчання, готове рішення працює на платформі NVIDIA і може підтримувати до 168 суперчипів NVIDIA GH200 Grace Hopper.
Рішення дає змогу великим підприємствам, дослідницьким інститутам і урядовим організаціям спростити процес розроблення моделей за допомогою програмного стека AI/ML, який допомагає клієнтам прискорити проєкти GenAI та глибокого навчання, включно з LLM, рекомендаційними системами й векторними базами даних. Готове рішення, що поставляється разом з послугами зі встановлення та налаштування, призначене для використання в дослідницьких центрах AI та на великих підприємствах для поліпшення співвідношення часу і вартості та прискорення навчання у 2-3 рази.
Крім того, корпоративне обчислювальне рішення HPE для генеративного AI тепер доступне для клієнтів безпосередньо або через HPE GreenLake з гнучкою і масштабованою моделлю оплати за використання. Розроблене спільно з NVIDIA, попередньо сконфігуроване рішення для тонкого налаштування і висновків покликане скоротити час і витрати на запуск, пропонуючи необхідні обчислення, системи зберігання, програмне забезпечення, мережеві та консультаційні послуги, які потрібні організаціям для створення додатків GenAI. Повнофункціональне рішення на основі AI забезпечує підприємствам швидкість, масштаб і контроль, необхідні для створення фундаментальних моделей на основі приватних даних і розгортання застосунків GenAI в гібридній хмарній моделі.
Завдяки високопродуктивному обчислювальному кластеру AI та програмному забезпеченню від HPE і NVIDIA, рішення підходить для тонкого налаштування моделей, RAG і масштабних висновків. Час тонкого налаштування моделі Llama 2 з 70 мільярдами параметрів при використанні цього рішення лінійно зменшується з кількістю вузлів і займає шість хвилин на 16-вузловій системі. Швидкість і продуктивність дають змогу замовникам прискорити процес отримання прибутку завдяки підвищенню продуктивності бізнесу за допомогою додатків AI, як-от віртуальні помічники, інтелектуальні чат-боти та корпоративний пошук.
Рішення працює на базі серверів HPE ProLiant DL380a Gen11 і попередньо сконфігуровано з графічними процесорами NVIDIA, мережевою платформою NVIDIA Spectrum-X Ethernet і процесорами NVIDIA BlueField-3 DPU. Рішення доповнено платформою машинного навчання та аналітичним ПЗ HPE, ПЗ NVIDIA AI Enterprise 5.0 з новим мікросервісом NVIDIA NIM для оптимізованого виведення генеративних моделей ШІ, а також NVIDIA NeMo Retriever та іншими бібліотеками для науки про дані та AI.
Ready, set, buy! Посібник для початківців - як придбати Copilot для Microsoft 365
| 0 |
|
