Корпорації Oracle та Google під час конференції Oracle AI World у Лас-Вегасі оголосили про партнерство, у межах якого спеціалізовані процесори Google Tensor Processing Units (TPU) стануть доступними на платформі Oracle Cloud Infrastructure (OCI).
OCI стане першим стороннім гіперскейлером поза межами хмарної екосистеми Google, який надасть своїм клієнтам безпосередній доступ до апаратних прискорювачів TPU. Як повідомляється, інтеграція фірмових чипів розширить портфель обчислювальних ресурсів Oracle для завдань штучного інтелекту, забезпечуючи лінійну масштабованість та оптимізовану економічну ефективність.
Розгортання апаратної інфраструктури Google TPU в дата-центрах OCI заплановане на 2027 календарний рік із подальшим багаторічним розширенням потужностей. У межах угоди Oracle забезпечить енергопостачання, системи охолодження та високошвидкісні мережеві з'єднання для масштабного розгортання прискорювачів. Клієнти OCI отримають можливість запускати навчання великих моделей, післятренувальне донавчання, у тому числі для архітектур Mixture-of-Experts (MoE). Також вони зможуть проводити високопродуктивне виведення (inference) для мультиагентних AI-систем і моделей із довгим контекстним вікном. Додатковою перевагою для клієнтів стане можливість обробляти дані та навчати моделі на прискорювачах TPU безпосередньо поруч із корпоративними базами даних Oracle без необхідності їх міграції до сторонніх хмар.
У хмарі OCI буде представлено восьме покоління спеціалізованих чипів Google, яке включає дві оптимізовані архітектури: TPU 8t для навчання та TPU 8i для інференсу. Зазначається, що модель TPU 8t скорочує цикли розробки передових моделей із місяців до тижнів, забезпечуючи майже триразове зростання обчислювальної продуктивності на кожен под порівняно з попереднім поколінням. Своєю чергою, чип TPU 8i розроблений для ітеративної обробки запитів від автономних агентів. «Різні AI-навантаження мають різні потреби в обчисленнях. Інтеграція Google TPU в OCI дає клієнтам доступ до кількох провідних обчислювальних архітектур в одній хмарі, надаючи гнучкість у виборі інфраструктури під вимоги продуктивності та економіки кожного завдання», підкреслив президент Oracle Cloud Infrastructure Маєш Тіагараджан (Mahesh Thiagarajan).
Інтеграція TPU доповнює мультихмарну стратегію обох компаній та розширює асортимент прискорювачів OCI разом із наявними рішеннями на базі графічних процесорів NVIDIA. Спеціалізована архітектура TPU розроблена для максимізації обчислювальної потужності з кожного вата споживаної електроенергії, забезпечуючи високу швидкість обміну даними між чіпами. «Наступне покоління AI вимагатиме різноманітного спектру обчислювальних ресурсів. Інтеграція Google TPU в OCI надасть більшій кількості організацій доступ до цієї технології та забезпечить більшу гнучкість у тому, як вони будують і запускають свої найскладніші AI-додатки», наголосив старший віцепрезидент та головний технічний спеціаліст напрямку AI та інфраструктури Google Амін Вахдат (Amin Vahdat).
Крок Oracle із впровадження Google TPU у власну хмарну інфраструктуру дещо похитує монополію NVIDIA в сегменті високопродуктивних обчислень для AI. Ставши першим стороннім гіперскейлером із підтримкою TPU, OCI трансформується на нейтральний мультиархітектурний майданчик, де корпоративні замовники можуть вільно комбінувати графічні процесори та спеціалізовані тензорні прискорювачі. Для Google це партнерство є можливістю суттєво розширити ринкову частку власного кремнію за межами Google Cloud, перетворюючи архітектуру TPU на загальногалузевий стандарт для навчання та виведення великих мовних моделей.
З точки зору економіки хмарних обчислень, поява TPU 8t та TPU 8i в OCI відповідає запиту ринку на оптимізацію вартості володіння інфраструктурою. Поділ восьмого покоління чіпів Google на спеціалізовані модулі для навчання та інференсу дозволяє компаніям знизити питомі витрати на обробку токенів, що є критичним фактором при розгортанні мультиагентних AI-систем. Можливість запускати високонавантажені завдання поруч із корпоративними базами даних Oracle усуває витрати на транзит даних між різними хмарами, суттєво підвищуючи привабливість OCI для корпоративного сектору.
Основні ризики для обох партнерів лежать у площині реалізації масштабної апаратної інфраструктури та строків її введення в експлуатацію. Запланований на 2027 рік запуск вимагатиме від Oracle колосальних капітальних витрат на розбудову енергетичної та мережевої інфраструктури дата-центрів. Крім того, затримки у ланцюгах постачання напівпровідникової продукції або складнощі з адаптацією програмного стека PyTorch і JAX під мультихмарну інфраструктуру OCI можуть стримати темпи комерційного впровадження нового сервісу.
Як безпечно перейти до системного та керованого використання ChatGPT Business