Intel презентувала найбільшу у світі нейроморфну систему для створення більш стійкого АІ

Корпорація Intel оголосила про створення найбільшої у світі нейроморфної системи.

Масштабна нейроморфна система під кодовою назвою Hala Point, яка спочатку була розгорнута в Сандійській національній лабораторії, використовує процесор Intel Loihi 2. Вона спрямована на підтримку досліджень майбутніх рішень на базі штучного інтелекту, натхненного роботою мозку, і вирішує проблеми, пов’язані з ефективністю та стійкістю сучасного АІ.

Hala Point вдосконалює великомасштабну дослідницьку систему Intel першого покоління Pohoiki Springs за допомогою архітектурних удосконалень, що дозволяють досягти більш ніж 10-кратного збільшення кількості нейронів і до 12-кратного підвищення продуктивності.

«Вартість обчислень сучасних моделей штучного інтелекту зростає неприйнятними темпами. Індустрія потребує принципово нових підходів, здатних до масштабування. Саме тому ми розробили Hala Point, який поєднує в собі ефективність глибокого навчання з новими можливостями навчання та оптимізації, натхненними тим, як функціонує мозок. Ми сподіваємося, що дослідження з Hala Point сприятимуть підвищенню ефективності та адаптивності широкомасштабних технологій АІ», заявив Майк Девіс (Mike Davies), директор лабораторії нейроморфних обчислень в Intel Labs.

Зазначається, що Hala Point - це перша великомасштабна нейроморфна система, яка демонструє найсучаснішу обчислювальну ефективність на основних робочих навантаженнях АІ. Характеристики показують, що вона може підтримувати до 20 квадрильйонів операцій на секунду, або 20 петаопсів, з ефективністю, що перевищує 15 трильйонів 8-бітних операцій на ват (TOPS/W) при виконанні звичайних глибоких нейронних мереж. Це перевищує рівні, досягнуті архітектурами, побудованими на графічних процесорах (GPU) і центральних процесорах (CPU). Унікальні можливості Hala Point потенційно уможливлюють майбутнє безперервне навчання в режимі реального часу для таких застосувань АІ, як вирішення наукових та інженерних завдань, логістика, управління інфраструктурою розумних міст, великі мовні моделі та АІ-агенти.

Дослідники з Сандійської національної лабораторії планують використовувати Hala Point для передових досліджень в області обчислень «на рівні мозку». Організація зосередиться на вирішенні наукових обчислювальних проблем у фізиці пристроїв, архітектурі комп’ютерів, комп’ютерних науках та інформатиці.

«Співпраця з Hala Point покращує можливості нашої команди Sandia у вирішенні обчислювальних задач та завдань наукового моделювання. Проведення досліджень за допомогою системи такого розміру дозволить нам йти в ногу з розвитком штучного інтелекту в різних сферах - від комерційної до оборонної та фундаментальної науки», підкреслив Крейг Вайн’ярд (Craig Vineyard), керівник команди Hala Point в Сандійській національній лабораторії.

Останні тенденції до масштабування моделей глибокого навчання до трильйонів параметрів виявили серйозні проблеми зі стійкістю АІ і підкреслили необхідність інновацій на найнижчих рівнях апаратної архітектури. Нейроморфні обчислення - це принципово новий підхід, який спирається на дані нейробіології, що об’єднує пам’ять і обчислення з високогранульованим паралелізмом для мінімізації переміщення даних. В опублікованих цього місяця результатах Міжнародної конференції з акустики, мовлення та обробки сигналів (ICASSP) Loihi 2 продемонстрував порядковий приріст ефективності, швидкості та адаптивності нових невеликих периферійних робочих навантажень.

Завдяки численним вдосконаленням свого попередника, Pohoiki Springs, система Hala Point тепер забезпечує нейроморфну продуктивність і підвищення ефективності традиційних моделей глибокого навчання, особливо тих, що обробляють робочі навантаження в реальному часі, такі як відео, мова і бездротовий зв’язок. Наприклад, Ericsson Research застосовує Loihi 2 для оптимізації ефективності телекомунікаційної інфраструктури, про що було повідомлено на цьогорічному Mobile World Congress.

Нейроморфні процесори Loihi 2, які складають основу Hala Point, застосовують принципи обчислень, натхненні мозком, такі як асинхронні, засновані на подіях нейронні мережі (SNN), інтегровані пам’ять і обчислення, а також розріджені з’єднання, що постійно змінюються, для досягнення значного підвищення енергоспоживання та продуктивності. Нейрони спілкуються безпосередньо один з одним, а не через пам’ять, що знижує загальне енергоспоживання.

Hala Point використовує 1 152 процесори Loihi 2, виготовлені з використанням техпроцесу Intel 4, в шасі центру обробки даних з шістьма стійками розміром з мікрохвильову пічку. Система підтримує до 1,15 мільярда нейронів і 128 мільярдів синапсів, розподілених між 140 544 нейроморфними обчислювальними ядрами, що споживають максимум 2 600 Вт енергії. Система також включає понад 2300 вбудованих процесорів x86 для допоміжних обчислень.

Hala Point об’єднує обчислювальні канали, пам’ять і канали зв’язку в масивну розпаралелену структуру, забезпечуючи загальну пропускну здатність пам’яті 16 петабайт на секунду, пропускну здатність міжядерного зв’язку 3,5 ПБ/с і пропускну здатність міжчіпового зв’язку 5 терабайт на секунду. Система може обробляти понад 380 трильйонів 8-бітних синапсів і понад 240 трильйонів операцій нейронів за секунду.

Застосовуючи біонатхненні моделі нейронних мереж, система може реалізувати свою повну потужність на 1,15 мільярда нейронів у 20 разів швидше, ніж людський мозок, і до 200 разів швидше при меншій потужності. Хоча Hala Point не призначена для нейронаукового моделювання, її нейронна потужність приблизно еквівалентна потужності мозку сови або кори головного мозку мавпи капуцинів.

Системи на основі Loihi можуть робити АІ-висновки та розв’язувати оптимізаційні задачі, використовуючи в 100 разів менше енергії та працюючи в 50 разів швидше, ніж звичайні архітектури CPU та GPU. Використовуючи розрідженість зв’язку до 10:1 та активність, керовану подіями, перші результати Hala Point показують, що система може досягти ефективності глибокої нейронної мережі на рівні 15 TOPS/W. І це без необхідності збирати вхідні дані в пакети, що є звичайною оптимізацією для графічних процесорів, яка значно затримує обробку даних, що надходять в режимі реального часу, наприклад, відео з камер. Майбутні нейроморфні LLM, здатні до безперервного навчання, можуть призвести до економії гігават-годин енергії шляхом усунення потреби в періодичному перенавчанні для роботи з постійно зростаючими наборами даних, хоча вони ще перебувають на стадії досліджень.