`

СПЕЦІАЛЬНІ
ПАРТНЕРИ
ПРОЕКТУ

Чи використовує ваша компанія ChatGPT в роботі?

BEST CIO

Определение наиболее профессиональных ИТ-управленцев, лидеров и экспертов в своих отраслях

Человек года

Кто внес наибольший вклад в развитие украинского ИТ-рынка.

Продукт года

Награды «Продукт года» еженедельника «Компьютерное обозрение» за наиболее выдающиеся ИТ-товары

 

Google Cloud представляє свій найпродуктивніший AI-процесор Trillium

0 
 

Google Cloud анонсувала свій найпотужніший і найенергоефективніший нині тензорний процесор Trillium TPU.

TPU Google аналогічні графічним процесорам Nvidia, які стали найпопулярнішою платформою для виконання робочих навантажень генеративного штучного інтелекту. За допомогою Trillium Google сподівається надати замовникам альтернативу графічним процесорам Nvidia.

Представлений на Google I/O 2024 чіп Trillium – це TPU шостого покоління компанії. Він призначений для підтримки найвибагливіших моделей та робочих навантажень генеративного штучного інтелекту, забезпечуючи значно більші обчислювальні та мережеві можливості, ніж наявні TPU.

Амін Вадхат (Amin Vadhat), віцепрезидент і генеральний менеджер з машинного навчання, систем та хмарного штучного інтелекту в Google Cloud, сказав, що TPU Trillium забезпечують збільшення пікової обчислювальної продуктивності в 4,7 раза в порівнянні з TPU v5e, який на цей час є найпотужнішим чіпом компанії, анонсованим на Google Cloud Next у серпні минулого року. Щоб досягти вищої продуктивності, було докладено чимало зусиль для збільшення розміру матричних помножувачів або MXU, що виконують обчислення, а також збільшено тактову частоту.

Крім того, графічні процесори Trillium мають вдвічі більший об'єм і пропускну здатність пам'яті, а продуктивність міжчіпового з'єднання також збільшена вдвічі. За словами Аміна, ці покращення дозволять значно скоротити час навчання та зменшити затримку обслуговування для великих мовних моделей.

Ще однією новою інновацією є SparseCore третього покоління, спеціалізований прискорювач для обробки надвеликих вкладень, що зустрічаються у передових системах ранжирування та рекомендацій на основі штучного інтелекту. Завдяки цьому TPU Trillium зможуть навчати базові моделі штучного інтелекту наступного покоління та обслуговувати їх із набагато меншими затримками та витратами. Водночас вони забезпечують підвищення енергоефективності до 67%, що означає менші експлуатаційні витрати та менший викид вуглекислого газу, ніж TPU v5e, сказав Амін.

У Google заявили, що Trillium буде запущено пізніше цього року з можливістю масштабування до більш ніж 256 TPU в одному модулі з високою пропускною здатністю та низькою затримкою. А використовуючи досягнення Google в області масштабованості на рівні модулів, технології мультизрізів та інтелектуальних процесорів Titanium, користувачі зможуть пов'язувати сотні окремих модулів Trillium TPU для створення суперкомп'ютерів та мереж центрів обробки даних розміром кілька петабайтів.

Деякі клієнти Google Cloud вже планують використовувати TPU Trillium. Наприклад, Google DeepMind буде використовувати нові чіпи для навчання та обслуговування майбутніх поколінь моделей Google Gemini, причому робити це швидше, ефективніше та з меншою затримкою, ніж раніше. Щобільше, компанія Deep Genomics планує використати TPU Trillium для просування розробки ліків за допомогою AI.

"Наша місія - створювати та застосовувати передові моделі штучного інтелекту, щоб розсунути межі можливого в галузі РНК-терапії", - сказав засновник і директор з інформаційних технологій Deep Genomics Брендан Фрей (Brendan Frey), який очікує, що TPU Trillium 100-кратно покращать навчання та роботу його AI-моделі. "Просунуті моделі штучного інтелекту розширюють межі можливого в області РНК-терапії".

TPU Trillium також будуть інтегровані з проєктом Google Cloud AI Hypercomputer, який є суперкомп'ютерною платформою, призначеною для виконання передових робочих навантажень штучного інтелекту. Гіперкомп'ютер штучного інтелекту поєднує найпередовіші TPU та графічні процесори з програмними платформами з відкритим вихідним кодом та гнучку модель споживання для підтримки розробки надзвичайно потужних нових робочих навантажень штучного інтелекту.

Коли Trillium буде запущено, він буде доданий в AI Hypercomputer як ще один варіант апаратного забезпечення поряд з графічними процесорами Google TPU v5p та Nvidia H100. Компанія також планує інтегрувати нові графічні процесори Nvidia Blackwell з AI Hypercomputer, але не повідомила, коли це відбудеться, тому незрозуміло, чи будуть доступні TPU Trillium першими.

Ready, set, buy! Посібник для початківців - як придбати Copilot для Microsoft 365

0 
 

Напечатать Отправить другу

Читайте также

 

Ukraine

 

  •  Home  •  Ринок  •  IТ-директор  •  CloudComputing  •  Hard  •  Soft  •  Мережі  •  Безпека  •  Наука  •  IoT