Компанія Oracle оголосила перший кластер хмарних обчислень масштабу zettascale, прискорений платформою NVIDIA Blackwell. Oracle Cloud Infrastructure (OCI) вже приймає замовлення на найбільший хмарний AI-суперкомп'ютер, доступний з 131072 графічними процесорами NVIDIA Blackwell.
«У нас одна з найширших пропозицій щодо інфраструктури AI, і ми підтримуємо клієнтів, які виконують найвимогливіші робочі навантаження AI у хмарі», - сказав Махеш Тіагараджан (Mahesh Thiagarajan), виконавчий віцепрезидент Oracle Cloud Infrastructure. «Завдяки розподіленій хмарі Oracle клієнти можуть розгортати хмарні та AI-сервіси в будь-якому місці на свій розсуд, зберігаючи водночас найвищий рівень суверенітету даних та AI».
OCI приймає замовлення на найбільший хмарний суперкомп'ютер для AI, доступний з 131072 GPU NVIDIA Blackwell, що забезпечує пікову продуктивність у 2,4 zettaFLOPS. Максимальний масштаб OCI Supercluster пропонує більш ніж утричі більше GPU, ніж суперкомп'ютер Frontier, і більш ніж у шість разів більше, ніж інші гіпермасштабовані системи. OCI Supercluster включає OCI Compute Bare Metal, мережі RoCEv2 з ультранизькою затримкою і мережевими картами ConnectX-7 і ConnectX-8 SuperNIC або NVIDIA Quantum-2 InfiniBand, а також HPC-сховище на вибір.
Суперкластери OCI можна замовити з OCI Compute на базі графічних процесорів NVIDIA H100 або H200 Tensor Core або NVIDIA Blackwell GPU. Суперкластери OCI з GPU H100 можуть масштабуватися до 16384 GPU з продуктивністю до 65 ExaFLOPS і сумарною пропускною спроможністю мережі 13 Пб/с. Суперкластери OCI з GPU H200 будуть масштабуватися до 65536 GPU з продуктивністю до 260 ExaFLOPS і пропускною спроможністю агрегованої мережі 52 Пб/с і будуть доступні пізніше цього року. Суперкластери OCI з «голими» екземплярами NVIDIA GB200 NVL72 з рідинним охолодженням використовуватимуть NVLink і NVLink Switch для забезпечення зв'язку до 72 GPU Blackwell один з одним із сумарною пропускною спроможністю 129,6 ТБ/с в одному домені NVLink. Графічні процесори NVIDIA Blackwell, доступні в першій половині 2025 року, з NVLink п'ятого покоління, NVLink Switch і кластерною мережею забезпечать безшовний зв'язок GPU-GPU в одному кластері.
«Оскільки підприємства, дослідники та країни прагнуть інновацій за допомогою AI, доступ до потужних обчислювальних кластерів і програмного забезпечення для AI дуже важливий», - сказав Ян Бак (Ian Buck), віцепрезидент із гіпермасштабних і високопродуктивних обчислень у NVIDIA. «Повнофункціональна обчислювальна платформа NVIDIA для AI в широко розповсюдженій хмарі Oracle забезпечить обчислювальні можливості AI в безпрецедентному масштабі для просування зусиль у сфері AI в усьому світі та допоможе організаціям прискорити дослідження, розроблення та впровадження».
Такі клієнти, як WideLabs та Zoom, використовують високопродуктивну інфраструктуру AI OCI з потужними засобами контролю безпеки та суверенітету.
WideLabs, бразильський стартап у галузі прикладного AI, навчає на базі OCI одного з найбільших у Бразилії магістрів португальської мови, Amazonia IA. Вони розробили додаток bAIgrapher, який використовує LLM для створення біографічного контенту на основі даних, зібраних у пацієнтів із хворобою Альцгеймера, щоб допомогти їм зберегти важливі спогади.
WideLabs використовує Oracle Cloud São Paulo Region для виконання своїх робочих навантажень у галузі штучного інтелекту, гарантуючи, що конфіденційні дані залишаться в межах країни. Це дає змогу WideLabs дотримуватися вимог бразильського суверенітету в царині AI та контролювати місце розгортання й експлуатації своїх AI-технологій. WideLabs використовує інфраструктуру OCI AI з графічними процесорами NVIDIA H100 для навчання LLM, а також Oracle Kubernetes Engine для надання, управління і роботи контейнерів з GPU-прискоренням у суперкластері OCI, що складається з OCI Compute, підключених до кластерної мережі OCI на базі RMDA.
«Інфраструктура штучного інтелекту OCI забезпечує нам максимальну ефективність для навчання та роботи наших LLM», - каже Нельсон Леоні (Nelson Leoni), генеральний директор WideLabs. «Масштаб і гнучкість OCI неоціненні, оскільки ми продовжуємо впроваджувати інновації в охороні здоров'я та інших ключових секторах».
Zoom, провідна платформа для спільної роботи, заснована на штучному інтелекті, використовує OCI для забезпечення умовиводів для Zoom AI Companion, персонального помічника зі штучним інтелектом, доступного без додаткової плати. Zoom AI Companion допомагає користувачам складати електронні листи та повідомлення в чаті, підбивати підсумки зустрічей і бесід, генерувати ідеї під час мозкових штурмів із колегами та багато іншого. Можливості OCI щодо забезпечення суверенітету даних і AI допоможуть Zoom зберегти дані клієнтів у регіоні та підтримати вимоги суверенітету AI в Саудівській Аравії, де рішення OCI впроваджуватиметься на початковому етапі.
«Zoom AI Companion революціонізує методи роботи організацій, надаючи передові можливості генеративного AI без додаткової плати в платних акаунтах клієнтів», - говорить Бо Ян (Bo Yan), керівник відділу AI компанії Zoom. «Використовуючи можливості OCI зі створення висновків на основі штучного інтелекту, Zoom може надавати точні результати з низькою затримкою, даючи змогу користувачам безперешкодно співпрацювати, спілкуватися без зусиль і підвищувати продуктивність, ефективність і потенціал, як ніколи раніше».