| 0 |
|
У межах конференції Google Cloud Next партнерство між NVIDIA та Google Cloud, яке триває вже понад десять років, сягнуло нового піка. Компанії представили масштабні оновлення платформи Google Cloud AI Hypercomputer, що покликані вивести «агентний» (орієнтований на автономні дії) та «фізичний» (робототехніка та цифрові двійники) AI з лабораторій у реальне промислове виробництво.
Головною подією заходу став анонс нових інстансів A5X на базі архітектури NVIDIA Vera Rubin NVL72. Завдяки глибокій оптимізації чипів, систем та ПЗ, ці рішення забезпечують у 10 разів нижчу вартість інференсу (виведення) на один токен та у 10 разів вищу пропускну здатність на мегават енергії.
Завдяки мережевим технологіям Google Virgo та NVIDIA ConnectX-9, кластери можуть масштабуватися до 960000 графічних процесорів (GPU) Rubin у межах мультисайтової інфраструктури. Це дозволяє компаніям тренувати найбільші у світі моделі AI.
«Наступне десятиліття AI буде визначатися здатністю клієнтів запускати найскладніші робочі навантаження на справді інтегрованому стеку», - підкреслив Марк Ломейєр (Mark Lohmeyer), віцепрезидент Google Cloud.
Компанії приділили особливу увагу конфіденційним обчисленням. Моделі Google Gemini тепер доступні у прев’ю на платформі Google Distributed Cloud, що працює на базі GPU Blackwell.
Це дозволяє запускати найпотужніші моделі в захищеному середовищі, де запити користувачів та дані для донавчання залишаються зашифрованими. Доступу до них не мають навіть оператори інфраструктури, що критично важливо для державних установ та регульованих галузей.
Для розробників інтелектуальних агентів, здатних планувати та діяти автономно, на платформі Gemini Enterprise Agent стали доступні відкриті моделі NVIDIA Nemotron 3 Super.
Крім того, новий API для навчання з підкріпленням (RL), побудований на базі NVIDIA NeMo, дозволяє автоматизувати управління кластерами, щоб команди могли зосередитися на якості моделей, а не на адмініструванні інфраструктури. Серед перших користувачів технології - лідер кібербезпеки CrowdStrike, що використовує NeMo для генерації синтетичних даних та виявлення загроз.
NVIDIA та Google Cloud роблять промисловий AI мейнстримом. На маркетплейсі Google Cloud з’явилися бібліотеки NVIDIA Omniverse та інструменти симуляції робототехніки Isaac Sim.
Інженери можуть створювати фізично точні копії заводів та тестувати роботів у віртуальному середовищі перед реальним розгортанням.
Мікросервіси NVIDIA NIM (зокрема Cosmos Reason 2) дозволяють роботам «бачити», логічно мислити та діяти в реальному світі подібно до людей.
Рішення від Cadence та Siemens тепер прискорені на інфраструктурі NVIDIA в хмарі Google.
Понад 90000 розробників приєдналися до спільноти NVIDIA та Google Cloud лише за останній рік.
Snap скорочує витрати на A/B тестування завдяки прискоренню Spark на GPU.
Schrödinger скоротив час симуляції пошуку нових ліків із тижнів до лічених годин.
Стартапи на кшталт CodeRabbit використовують моделі Nemotron для автономного огляду коду.
На завершення конференції Google відзначив NVIDIA нагородами «Партнер року» у двох категоріях, підтверджуючи роль компанії як ключового технологічного двигуна сучасної хмарної екосистеми.
Стратегія охолодження ЦОД для епохи AI
| 0 |
|
