Google анонсувала АІ-процесор Ironwood - вдвічі продуктивніший TPU Trillium

Новий тензорний процесор Ironwood був анонсований на конференції Google Cloud Next 2025.

 

За словами Аміна Вахдата (Amin Vahdat), віце-президента і генерального директора Google з питань машинного навчання, систем і хмарного АІ, Ironwood стане сьомим поколінням TPU Google, який буде запущений в кінці цього року. 

 

Підкреслюється, що це найпотужніший TPU-прискорювач, який компанія коли-небудь будувала, і він може масштабуватися до мегакластера з 9 216 чіпів з рідинним охолодженням, пов'язаних між собою за допомогою передової технології Inter-Chip Interconnect. 

 

Вахдат зазначає, що Ironwood був створений спеціально для задоволення вимог нових «моделей мислення», які використовують методи «суміші експертів» для виконання передових міркувань. Він пояснив, що для роботи цих моделей потрібні величезні обсяги паралельної обробки та високоефективний доступ до пам'яті. Ironwood задовольняє ці потреби, мінімізуючи рух даних і затримки на чіпі, одночасно виконуючи масивні маніпуляції з тензорами.

 

Коли Ironwood масштабується до 9 216 чіпів, він забезпечує загальну продуктивність 42,5 ексафлопс, що більш ніж у 24 рази перевищує обчислювальну потужність El Capitan, офіційно визнаного найбільшим суперкомп'ютером у світі, при 1,7 ексафлопс на блок. Кожен окремий чип забезпечує пікову обчислювальну продуктивність у 4,614 терафлопс, і вони підтримуються оптимізованою мережевою архітектурою, яка гарантує, що вони завжди мають доступ до необхідних даних.

 

Чип Ironwood має 192 гігабайти високошвидкісної пам'яті, що в шість разів більше, ніж попередній найкращий TPU від Google, шостого покоління Trillium, і прокладає шлях до набагато швидшої обробки та передачі даних. Пропускна здатність HBM також значно збільшилася - до 7,2 терабайт на секунду на чип, що в 4,5 рази швидше, ніж у попередньої моделі, і забезпечує швидкий доступ до даних для робочих навантажень, що вимагають багато пам'яті.

 

Крім того, Google представила «покращений» міжчіповий інтерконектор, який збільшує двосторонню пропускну здатність до 1,2 Тбіт/с для підтримки в 1,5 рази швидшого зв'язку між чипами.

 

За словами Вахдата, Ironwood також має вдосконалений «SparseCore», або спеціалізований прискорювач, який дозволяє обробляти надвеликі вбудовування, що зустрічаються в робочих навантаженнях, пов'язаних з ранжуванням і рекомендаціями. Це робить цей процесор ідеальним для фінансових і наукових додатків в реальному часі.

 

Для найпотужніших додатків АІ клієнти зможуть використовувати програмне забезпечення Google Pathways для виконання, щоб значно збільшити розмір своїх обчислювальних кластерів АІ. Завдяки Pathways клієнти не обмежуються одним модулем Ironwood, а можуть створювати величезні кластери, що охоплюють «сотні тисяч» TPU Ironwood.

 

За словами Вахдата, ці вдосконалення дозволяють Ironwood забезпечити вдвічі більшу загальну продуктивність на ват порівняно з шостим поколінням TPU Trillium і в 30 разів більше порівняно з першим поколінням TPU, яке зʼявилося у 2018 році.