Принстонский чип в сотни раз увеличит быстродействие нейронных сетей

Искусственные нейронные сети представляют собой комплексы взаимосвязанных единиц, соответствующих нейронам человеческого мозга, которые могут быть обучены принимать ценные решения на основании неструктурированных данных. Ключевым компонентом современных нейронных систем являются чипы ускорителей, которые повышают вычислительную производительность. Но сами такие чипы могут становиться узким местом из-за заторов, возникающих при обработке интенсивных потоков данных.

Принстонский университет в сотрудничестве с компанией Analog Devices опробовал свежий подход к устранению помех для такого трафика. В чипе, представленном их сотрудниками на симпозиуме IEEE по сверхбольшим интегральным схемам, используется методика вычислений в памяти (in-memory). Она позволяет существенно сэкономить энергию и время, избавив от необходимости перемещать нужные для расчётов данные из хранилища в память.

Чипы для вычислений in-memory имеют свои слабости. Для улучшения эффективности работы они уплотняют в сигналы множество данных, но это также увеличивает уязвимость к воздействию помех, таких как флуктуации тока и напряжения. Для решения этой проблемы исследователи реализовали вычисления в чипе на конденсаторах. В отличие от транзисторов эти устройства, хранящие электрический заряд, мало подвержены влиянию перепадов температуры или напряжения. Кроме того, современные производственные технологии позволяют изготавливать их с высокой степенью точности.

Конденсаторы занимают мало места на чипе: принстонским инженерам удалось разместить их прямо на ячейках памяти. Подобная компоновка уменьшает расстояние, проходимое электрическими сигналами, что дополнительно способствует снижению энергозатрат и росту быстродействия.

Изобретатели прогнали свой чип через серию эталонных тестов на распознавание цифр и объектов, таких как собаки, птицы, машины, самолёты и т.п. В них он показал себя в десятки и сотни раз лучше, чем продвинутые нейрочипы от ведущих производителей. Авторы также измерили его производительность: она достигала 9,4 трлн двоичных операций в секунду.

Такие результаты обнадеживают, однако предстоит ещё много работы, прежде чем новое устройство можно будет интегрировать в коммерческое электронное оборудование. Архитектуру чипа нужно сделать программируемой и аппаратно совместимой с сегодняшними компьютерами. Кроме того, должен быть создан программный инструментарий, с помощью которого разработчики ПО могли бы полноценно задействовать в широком круге приложений потенциал эффективности и пропускной способности нового чипа.

Ready, set, buy! Посібник для початківців - як придбати Copilot для Microsoft 365