| 0 |
|
Нідерландська компанія Innatera випустила перший комерційно доступний мікроконтролер із нейроморфною архітектурою для сенсорних додатків.
Чіп Pulsar має гетерогенну архітектуру, що поєднує аналогові та цифрові нейроморфні блоки з традиційним прискорювачем конволюційної нейронної мережі та ядром RISC-V. У 36-контактному чіпі розміром 2,6x2,8 мм, виконаному за стандартним 28-нм техпроцесом у TSMC за ціною менш як $5, час затримки в 100 разів менше, а енергоспоживання в 500 разів нижче, ніж у звичайних AI-процесорів.
«Pulsar - це не просто ще один чіп штучного інтелекту - це перший у світі нейроморфний мікроконтролер, що серійно випускається, який є фундаментальним зрушенням у тому, як ми доставляємо інтелект до краю», - заявив Суміт Кумар (Sumeet Kumar), співзасновник і генеральний директор компанії Innatera. «Минулого року було поставлено 38 млрд датчиків, а у 2030 році їх кількість зросте до 60 млрд. Всі вони будуть генерувати дані швидше, ніж ми зможемо відправити їх в хмару, тому обробка на краю не буде необов'язковою. Але моделі, розгорнуті на мікроконтролерах, були обмежені, і розробникам додатків, і розробникам додатків, і розробникам додатків, потужністю».
"Цей запуск - кульмінація більш ніж десятирічних глибоких досліджень і розробок у галузі нейроморфних обчислень у поєднанні з революційною гетерогенною архітектурою. Він знаменує собою момент, коли наша технологія, натхненна мозком, стає готовою до масового впровадження на ринку. Це буквально єдиний мікроконтролер, який потрібен датчику", підкреслив Кумар. «Аналогова нейронна мережа (ANN) використовує імпульси тимчасової напруги виявлення закономірностей і отримання інформації для обробки часових рядів без необхідності використання складних моделей. Прискорювач ANN повністю обчислює за допомогою імпульсів, це велика мережа нейронів та синапсів з аналоговими та цифровими пристроями, із затримкою 1 мс та потужністю менше ніж 1 мВт».
«Усередині тканини ключ із перехресною мережею конденсаторів, і цей процес не лінійний, а експоненційний, і це просто з одним транзистором в аналоговій області», - повідомив він. "Причина, через яку ми ввели цифрову нейронну мережу з шипами, полягає в конфігурованості та гнучкості - це робиться за допомогою вентилів і помножувачів. Обчислення асинхронні та управляються подіями, і обчислення відбуваються будь-якої миті, коли надходять дані. У CNN ви отримуєте всі дані за один раз і обчислюєте їх".
"Ми бачимо, що багато клієнтів, що мають наявні AI-моделі, можуть просто перемикнутися на них, але, як правило, традиційні CNN розглядають все як зображення з буферизацією, і все це вимагає багато енергії, в той час, як мережі з шипами можуть ефективно обробляти потокові дані. Наприклад, модель CNN з 1 млн параметрів для розпізнавання жестів може бути реалізована 54 нейронами з неймовірно низьким енергоспоживанням.
"Для вирішення більшості прикладних завдань необхідно вибирати підхід, заснований на AI, тому, і додавши CNN, розробники можуть отримати потрібний інструмент для роботи", - каже Суміт Кумар.
Він вказує на бездротові гарнітури, де енергія класифікації звукових відчуттів на один висновок знизилася в 100 разів до 400 мкВт при 33-кратному зменшенні моделі та тієї ж точності 90% +. Розпізнавання звуків має у 88 разів меншу енергію на висновок за тієї ж точності та затримки. Розпізнавання жестів за допомогою радара має у 42 рази менше енергоспоживання, ніж прискорювач CNN при потужності 600 мкВт, та у 167 разів меншу затримку.
Ключовою частиною дизайну чіпа є наявність інтерфейсів для датчиків, включаючи камери та медичні датчики. Іншим ключовим елементом є комплект для розробки програмного забезпечення (SDK) за назвою Talamo та бібліотеки для шипових мереж.
«SDK Talamo створений для взаємодії з PyTorch з розширенням, яке вносить всю інфраструктуру мережі шипів, так що розробники знаходяться у знайомому середовищі, а опис моделі на Python разом із навчальними даними. Наш компілятор SNN відображає модель на архітектуру чіпа, що радикально знижує бар'єр для нейроморфних обчислень, спрощуючи створення та розгортання шипових моделей на фреймворках».
Innatera запускає свою програму для розробників, яка зараз відкрита для ранніх послідовників з нейроморфною платою для розробки в липні. Майбутній відкритий PyTorch інтерфейс і marketplace створять ще більш спільну екосистему для нейроморфного AI.
Стратегія охолодження ЦОД для епохи AI
| 0 |
|
