Создана первая нейросеть на одних мемристорах

Объединенный коллектив ученых из университетов Южной Калифорнии и Стони Брук разработал чип нейросети, в котором использованы только мемристоры. Это, первое в своем роде достижение, описывается в статье для журнала Nature.

Мемристоры - это устройства электронной аналоговой памяти, действующие подобно нейронам головного мозга. Идея мемристоров родилась в 1971 г., но реальные устройства сотрудникам компании HP удалось создать только в 2008 г. С тех пор эта технология стала объектом интенсивных исследований. Но никто еще не смог построить нейросеть, состоящую только из мемристоров.

Большинство самообучающихся нейросетей, с которыми экспериментируют, например, Google, Facebook и IBM, являются программными. Решая задачи распознавания лиц в толпе или фраз на естественном языке, они увеличиваются в размерах и усложняются, так что для их функционирования вскоре перестает хватать ресурсов даже самых быстродействующих компьютеров.

Многие считают, что следующим шагом в развитии нейросетей станет замена транзисторов мемристорами, которые способны обучаться сами, уменьшая нагрузку на процессоры.

Экспериментальный чип, по данным разработчиков, изготовлен из металлоксидной мемристорной решетки, и образует простейшую нейросеть, служащую для решения только одной задачи: распознавания образов на черно-белых изображениях размерами 3х3 пикселя с отнесением их к одному из трех типов (букв). Для обучения нейросети в чипе используется крупнозернистый алгоритм Уидроу-Хоффа.

В отличие от прежних подобных разработок на базе мемристоров с изменением фазы, нелинейная вольт-амперная характеристика металлоксидных мемристоров позволила обойтись без размещения на пересечениях решетки дополнительных транзисторов, значительно усложнявших дальнейшее масштабирование чипов нейросетей.

Эта демонстрация, по мнению авторов, является важным шагом на пути к более крупным и сложным мемристорным нейросетям.

Стратегія охолодження ЦОД для епохи AI