`

СПЕЦІАЛЬНІ
ПАРТНЕРИ
ПРОЕКТУ

Чи використовує ваша компанія ChatGPT в роботі?

BEST CIO

Определение наиболее профессиональных ИТ-управленцев, лидеров и экспертов в своих отраслях

Человек года

Кто внес наибольший вклад в развитие украинского ИТ-рынка.

Продукт года

Награды «Продукт года» еженедельника «Компьютерное обозрение» за наиболее выдающиеся ИТ-товары

 

Прискорювачі вводу-виводу d-Matrix JetStream забезпечують наднизьку затримку для масштабного виведення AI-висновків

0 
 

Прискорювачі вводу-виводу d-Matrix JetStream забезпечують наднизьку затримку для масштабного виведення AI-висновків

Компанія d-Matrix оголосила про розширення свого портфеля AI-продуктів за допомогою d-Matrix JetStream, спеціально розробленої карти вводу-виводу, яка забезпечує провідну в галузі обробку даних на рівні центрів обробки даних. Зараз мільйони людей користуються послугами AI, а також зростає популярність агентного AI, міркування та мультимодального інтерактивного контенту, тому увага галузі швидко переходить від навчання моделей до впровадження AI з наднизькою затримкою для багатьох користувачів.

У поєднанні з прискорювачами d-Matrix Corsair та програмним забезпеченням d-Matrix Aviator прискорювачі вводу-виводу JetStream можуть масштабуватися до найсучасніших моделей, що перевищують 100 млрд параметрів, забезпечуючи в 10 разів вищу швидкість, в 3 рази кращу економічну ефективність та в 3 рази вищу енергоефективність, ніж рішення на базі GPU. Додавання JetStream до портфеля продуктів компанії робить d-Matrix одним з небагатьох постачальників інфраструктури штучного інтелекту, що пропонує повну платформу, яка охоплює обчислення, програмне забезпечення та мережі.
Прискорювачі вводу-виводу d-Matrix JetStream забезпечують наднизьку затримку для масштабного виведення AI-висновків
«Мережа JetStream з'являється в той час, коли штучний інтелект стає мультимодальним, а користувачі вимагають надшвидких рівнів інтерактивності», — сказав Сід Шет (Sid Sheth), співзасновник і генеральний директор d-Matrix. «Завдяки JetStream, а також нашій раніше анонсованій платформі обчислювальних прискорювачів Corsair, d-Matrix прокладає шлях до масштабованості та надзвичайної швидкості штучного інтелекту».

Зазначено, JetStream — це прозоре мережеве рішення, оптимізоване для прискорювачів d-Matrix Corsair. NIC JetStream, упаковані в стандартний формат PCIe і сумісні з готовими комутаторами Ethernet, легко розгортаються в наявних центрах обробки даних, що виключає необхідність дорогої заміни інфраструктури.
Прискорювачі вводу-виводу d-Matrix JetStream забезпечують наднизьку затримку для масштабного виведення AI-висновків

NIC JetStream — це повнорозмірні карти PCIe Gen 5, що забезпечують максимальну пропускну здатність 400 Гбіт/с. Зразки вже доступні, а повне виробництво очікується до кінця року.

Стратегія охолодження ЦОД для епохи AI

0 
 

Напечатать Отправить другу

Читайте также

 

Ukraine

 

  •  Home  •  Ринок  •  IТ-директор  •  CloudComputing  •  Hard  •  Soft  •  Мережі  •  Безпека  •  Наука  •  IoT