Фабрики AI замість серверних шаф. Кейс Vultr

Приватний хмарний оператор Vultr впроваджує один із найбільших інфраструктурних проєктів у своїй історії, покликаний задовольнити вибуховий корпоративний попит на приватні хмари, тренування мультимодальних моделей та AI-inference у промислових масштабах. Для масштабного будівництва AI дата-центрів наступного покоління компанія обрала HPE та NVIDIA стратегічними партнерами.

Фінансові деталі угоди та локації нових об'єктів тримають у секреті. Проте технічні контури проєкту чітко вказують на глобальний зсув у тому, як індустрія взагалі розглядає архітектуру обчислювальних систем.

Стійка як єдиний суперчип: анатомія NVIDIA GB300 NVL72

Головним будівельним блоком нової інфраструктури Vultr стане система NVIDIA GB300 NVL72 by HPE. Це не набір дискретних серверів, а монолітна обчислювальна стійка (rack-scale), яка на логічному рівні працює як один гігантський компактний прискорювач. Фізично архітектура об'єднує в єдиний контур 72 графічні плати Blackwell Ultra (GB300) та 36 процесорних Arm-суперчипів Grace.

Усі компоненти всередині цієї шафи комутуються за допомогою мідної матриці NVLink 5 покоління. Вона забезпечує внутрішню пропускну здатність на рівні 130 ТБ/с. Завдяки цьому графічні чіпи обмінюються проміжними даними безпосередньо, минаючи затримки традиційних мережевих плат, що зазвичай гальмують роботу класичних серверних кластерів.

Перехід на таку архітектуру означає, що Vultr припиняє масштабувати інфраструктуру за принципом купівлі окремих серверів. Відтепер базовим елементом розширення хмари стає готова фабрика AI в межах однієї стійки.

Проте така щільність обчислень створює серйозний інженерний виклик, адже одна шафа споживає понад 120 кВт електроенергії та виділяє колосальну кількість тепла. Звичайне повітряне охолодження тут безсиле, тому запуск Blackwell Ultra став можливим лише завдяки технології прямого рідинного охолодження (DLC) від HPE, яка включає спеціальні розподільчі вузли та ізольовані контури циркуляції холодоагенту.

Ринок поступово переходить від продажу окремих серверів до постачання готових rack-scale систем. Якщо раніше дата-центр масштабувався десятками або сотнями серверів, то тепер виробники пропонують готові обчислювальні модулі, які одразу включають GPU, CPU, мережу та систему охолодження. Саме навколо таких модулів сьогодні проєктуються нові AI-кластери.

Прокляття трафіку East-West та мережевий фактор Juniper

У сучасних AI-кластерах класична топологія мережі дата-центрів виявилася неефективною. Трафік типу North-South, який забезпечує зв'язок між сервером та зовнішнім користувачем, сьогодні становить лише кілька відсотків від загального обсягу. Понад 95% навантаження припадає на трафік East-West: тобто внутрішній обмін даними між тисячами прискорювачів, які паралельно прораховують одну велику модель.

Під час синхронізації мільярдів параметрів мережа стає головним обмеженням продуктивності. Якщо хоча б один пакет даних губиться або затримується, весь суперкомп'ютерний комплекс вартістю в десятки мільйонів доларів простоює, очікуючи на цей пакет.

Щоб подолати цей ефект, HPE розгортають для Vultr мережеву екосистему Spectrum-X Ethernet зі швидкостями 400 та 800 Гбіт/с на базі комутаторів Spectrum-4 та адаптерів BlueField-3. Завдяки розширенням RoCEv2 та адаптивній маршрутизації, ця система оптимізує потоки даних і забезпечує AI-навантаженням таку ж стабільність, яку раніше гарантував лише дорогий пропрієтарний стандарт InfiniBand.

«Ви можете купити найкращі чипи у світі, але дуже швидко вузьким місцем стає все, що знаходиться за межами стійки. Продуктивність великого кластера залежить від мікросекундних затримок обміну даними між цими "фабриками"», зазначає Джей Джей Кардвелл (J.J. Cardwell), СЕО Vultr.

Цей анонс виглядає особливо вагомим на тлі завершення масштабної інтеграції мережевого гіганта Juniper Networks, якого HPE придбала за 14 млрд дол. Повне об'єднання партнерських програм під брендом HPE Partner Ready Vantage заплановане на 1 листопада 2026 року. Це свідчить про намір HPE повністю контролювати весь стек AI-інфраструктури: від кремнію NVIDIA до власних систем рідкого охолодження та корпоративних мереж із технологіями штучного інтелекту Mist AI від Juniper.

Чому нео-хмари роблять ставку на інференс

Найважливіший стратегічний маркер цієї угоди - остаточне зміщення фокуса з тренування AI-моделей на їх виконання (inference). Три роки тому ринок GPU підігрівався стартапами, які залучали мільярдні венчурні кошти лише для того, щоб навчити власну модель з нуля. Сьогодні ця епоха завершилася, оскільки ринок насичений потужними open-source рішеннями на зразок Llama від Meta або платформ від Mistral.

Корпоративний сектор почав рахувати гроші: бізнесу більше не потрібно тренувати гігантів, компаніям необхідно експлуатувати готові моделі в режимі 24/7, інтегруючи їх у внутрішні процеси через механізми RAG та автономні агентні системи.

Навантаження інференсу потребує принципово іншого підходу до побудови хмари. З одного боку, воно вимагає мінімальних мікросекундних затримок безпосередньо на межі мережі (Edge), щоб користувач або автономний AI-агент отримували миттєву відповідь. З іншого боку, таке навантаження є хвилеподібним і залежить від поточної активності клієнтів, на відміну від лінійного багатомісячного процесу тренування. Архітектура Blackwell Ultra в стійках GB300 розроблена саме під сценарії так званого агентного підприємства (agentic enterprise), де тисячі цифрових помічників одночасно виконують складні логічні ланцюжки.

Глибокий диверсифікований підхід Vultr та стратегія NVIDIA

Слід зазначити, що компанія Vultr, заснована у 2014 році Девідом Аніновскі (David Aninowsky) як дочірня структура інфраструктурного холдингу Constant, пройшла унікальний шлях. На відміну від багатьох нових AI-провайдерів, які створювалися з нуля під дефіцит чипів NVIDIA, компанія Vultr понад десять років розвивалася як класичний, незалежний хмарний бренд. Цей провайдер зробив собі ім'я на доступних, швидких та передбачуваних за ціною VPS-серверах для розробників, успішно конкуруючи з DigitalOcean та базовими сервісами AWS.

Такий бекграунд дав Vultr колосальну перевагу у вигляді вже готової глобальної мережевої інфраструктури, яка сьогодні налічує понад 32 географічні регіони по всьому світу - від Токіо та Мумбаї до Сан-Паулу та Франкфурта. Коли розпочався бум генеративного AI, Vultr не довелося будувати дата-центри з нуля. Компанія просто почала інтегрувати AI-специфічне залізо у свої наявні локації, що автоматично зробило її ідеальним майданчиком для інференсу на межі мережі (Edge AI).

Для фінансування цієї експансії Vultr розгорнула масштабну кампанію на Wall Street, залучивши спочатку 333 млн дол. інвестицій від AMD та LuminArx Capital, а згодом відкривши кредитну лінію на 329 млн дол. від консорціуму провідних банків, включаючи Bank of America, Citi та Goldman Sachs.

При цьому Vultr веде дуже тонку політику диверсифікації, яка вирізняє її з-поміж конкурентів на зразок CoreWeave чи Lambda Labs. Поки інші нео-хмари повністю концентруються на екосистемі NVIDIA, Vultr паралельно будує гігантський 50-мегаватний AI-кластер в Огайо вартістю понад 1 млрд дол., повністю базований на процесорах AMD Instinct MI300X. Такий двовекторний підхід дозволяє компанії пропонувати корпоративним клієнтам захист від залежності від одного постачальника чипів.

Для самої NVIDIA підтримка таких гравців, як Vultr, є питанням стратегічного балансу сил. Великі класичні гіперскейлери активно розробляють власні AI-процесори, прагнучи зменшити витрати на закупівлю заліза у NVIDIA. Натомість нео-хмари будують свій бізнес безпосередньо навколо екосистеми NVIDIA та її програмної платформи NVIDIA AI Enterprise. Саме тому розробник Blackwell відвантажує дефіцитні стійки GB300 цим компаніям у пріоритетному порядку.

Що це означає для ІТ-ринку

Угода між HPE, NVIDIA та Vultr демонструє остаточну індустріалізацію ринку штучного інтелекту. Період хаотичних експериментів із AI-моделями завершився, і індустрія прийшла до стандартизованої концепції AI Factory. Великим корпоративним замовникам більше не цікаво купувати окремо залізо, самостійно шукати софт чи наймати дефіцитних інженерів для мікросекундного налаштування мережевих комутаторів.

«HPE, Vultr та NVIDIA створюють АІ-інфраструктуру, розраховану на майбутнє штучного інтелекту та агентних підприємств, - заявив Антоніо Нері (Antonio Neri), президент і генеральний директор HPE. - Vultr уособлює нове покоління хмарних провайдерів у сфері АІ, і вибір компанії на користь HPE підтверджує важливість архітектур АІ-дата-центрів, спроєктованих для підтримки наступної хвилі глобального зростання технологій».

Сучасний бізнес прагне підписати один комплексний контракт, у межах якого великий системний інтегратор рівня HPE розгорне готову архітектуру під ключ, забезпечивши все - від рідинного охолодження на фізичному рівні до безпечного програмного шару. Той факт, що надскладні системи рівня GB300 NVL72 тепер з'являються у публічному доступі через незалежні платформи з розвиненою глобальною мережею, подібні до Vultr, робить передові обчислювальні потужності доступними для підприємств будь-якого масштабу в усьому світі.

Стратегія охолодження ЦОД для епохи AI