| 0 |
|
Дослідники з Пекінського університету розробили повністю оптичну систему міжчипового зв'язку, яка з'єднує традиційні електронні мікросхеми та радикально прискорює роботу штучного інтелекту. Нова архітектура об'єднує програмовані апаратні засоби з оптичним передаванням даних. Це дозволило збільшити швидкість розподіленого інференсу AI-моделей у понад 100 разів, використовуючи при цьому менш ніж одну дев'яту частину обчислювальних ресурсів, які споживає аналогічний графічний процесор.
Результати дослідження, опубліковані в науковому журналі National Science Review, пропонують вирішення однієї з найгостріших проблем AI-інфраструктури. Замість нарощування кількості дорогих і енергомістких GPU, вчені пропонують якісно покращити комунікацію між уже наявними процесорами. Такий підхід допоможе знизити енергоспоживання дата-центрів, зменшити затримки та підвищити ефективність обробки AI-завдань як у хмарі, так і на периферійних пристроях.
Створений вченими прототип складається з п'яти програмованих логічних інтегральних схем (FPGA), об'єднаних двома кастомними оптичними компонентами: кремнієвий фотонний трансивер зі швидкістю роботи 400 Гбіт/с, який перетворює електричні сигнали на оптичні, та оптичний комутатор 16×16, який динамічно розподіляє потоки даних між процесорами.
Під час експерименту з очищення 1000 зображень від шумів (розмір кожного — 32768 біт) оптична система на базі FPGA завершила обробку за 105,16 мікросекунди.
Для порівняння, потужний комерційний графічний процесор із продуктивністю 16,96 teraflops витратив на це ж завдання 15,6 мілісекунди. Таким чином, оптична система виявилася майже в 150 разів швидшою, попри те, що її сукупна теоретична обчислювальна потужність становила скромні 1,969 teraflops.
Автори дослідження пояснюють такий колосальний приріст продуктивності архітектурними особливостями системи. Оптичний інтерфейс дозволяє проміжним даним нейромережі перетікати безпосередньо з одного етапу обробки на інший без постійного та енергомісткого звернення до оперативної пам'яті. Цей безперервний конвеєр утримує обчислювальні ядра постійно активними та ліквідує комунікаційні затримки, які зазвичай гальмують роботу традиційних GPU.
«Конкретних технологічних цілей можна досягати навіть за обмежених обчислювальних ресурсів, якщо алгоритми, мікроархітектура процесорів та міжчипові з'єднання розробляються спільно, як єдине ціле», - зазначають автори дослідження Шу Хаовень (Shu Haowen) та Ван Сінцзюнь (Wang Xingjun) із Пекінського університету. - «Ця технологічна мережа також здатна зупинити неконтрольоване зростання споживання енергії в дата-центрах та оптимізувати затримки в сценаріях периферійних обчислень».
Стратегія охолодження ЦОД для епохи AI
| 0 |
|
