Компанія IBM презентувала новий суперкомп'ютер Vela, орієнтований на роботу зі штучним інтелектом, на базі платформ від Intel та Nvidia.
Кожен з вузлів Vela оснащений двома процесорами Intel Xeon "Cascade Lake" та вісьмома графічними процесорами Nvidia A100, 1,5 ТБ оперативної пам'яті та чотирма накопичувачами NVMe об'ємом 3,2 ТБ. Вузли об'єднані в мережу з допомогою мережевих інтерфейсів 100 Гбіт/с.
Повідомляється, що Vela інтегрована в середовище віртуальної приватної хмари (VPC) IBM Cloud.
Суперкомп'ютер, як пише компанія, вже працює з травня минулого року, та складається з 60 стійок. Однак не вказано точно скільки всього вузлів. Наглядачі кажуть, що по її оцінкам кожна стійка має по шість вузлів, тобто загалом 360 вузлів і 2 880 графічних процесорів A100.
IBM розробляла Vela з урахуванням можливостей штучного інтелекту і, зокрема, розробки фундаментальних моделей, які компанія описує як "моделі АІ, навчені на широкому наборі немаркованих даних, які можуть бути використані для багатьох різних завдань". З цією метою компанія обрала значну пам'ять на всіх рівнях: варіант A100 з більшим обсягом пам'яті та значні обсяги DRAM і NVMe, які підходять для кешування даних під навчання АІ та пов'язаних з ним завдань.
Цікаво, що IBM зробила вибір на користь конфігурації віртуальної машини для Vela, аргументуючи це тим, що, хоча для продуктивності АІ краще використовувати bare-metal, ВМ забезпечують більшу гнучкість. Щоб зменшити вплив на продуктивність, IBM заявляє, що вони "розробили спосіб винести всі можливості вузла ... у віртуальну машину", зменшивши накладні витрати на віртуалізацію до менш ніж 5%.
IBM також зробила кілька гострих зауважень щодо елементів традиційних високопродуктивних обчислень, від яких вона відмовляється у Vela. «Традиційні» суперкомп'ютери з такими елементами, як високопродуктивне мережеве обладнання, не були розроблені для АІ, щоб добре виконувати завдання моделювання або імітації. Кажуть, що навіть суперкомп'ютер Microsoft Azure AI, побудований для OpenAI, є прикладом "традиційного дизайну", який призводить до "вибору технологій, що збільшує вартість і обмежує гнучкість розгортання".
Наразі IBM пропонує Vela лише дослідницькій спільноті IBM Research, описуючи систему як нове "середовище" для фахівців, які працюють над АІ. Однак IBM також натякнула, що Vela - це перевірка концепції для більш масштабного плану розгортання.
Ready, set, buy! Посібник для початківців - як придбати Copilot для Microsoft 365