Нейронная сеть на чипе, обрабатывающая изображения в 1000 раз быстрее, чем традиционные средства, - такова цель 5,7-миллионного проекта DARPA, разрабатываемого в Мичиганском университете.
Еще одна цель проекта – с помощью мемристоров в качестве синапсов нейронной памяти, которые не тратят энергию в режиме холостого хода, создать нейронную сеть для обработки изображений, которая расходует в 10 тыс. раз меньше энергии, чем современные устройства.
Адаптивные нейронные сети узнают об особенностях изображений не на основе запоминания значений их пикселов, что обеспечивает их (изображений) более простое представление в памяти.
Чтобы определить такие особенности, нейроны размещаются на входах всех пикселов образа одновременно, затем обрабатывают их в слоях с различными синапсами между ними – подобно зрительной зоне коры головного мозга. Изучение изображения начинается с его ввода в первый слой, после чего сразу средние слои самоорганизуют внутреннее представление, и последний слой действует как массив одиночных детекторов особенностей изображения. С практической точки зрения, чем больше особенностей представлено нейронной сети во время обучения, тем сильнее будут становиться связи синапсов, которые определяют особенности.
Нейронный процессор для обработки изображений будет соединять искусственные нейроны с помощью кросса (слева внизу) мемристоров с мигрирующими кислородными вакансиями (справа вверху) в окисел вольфрама для адаптивного изменения силы связи синапсов
Чтобы протестировать несколько различные архитектуры, исследователи из Мичигана, возглавляемые проф. Вей Лу (Wei Lu), разработали два прототипа. В более простом для хранения значений своих синапсов применяются мемристоры, но используются обычные связи между слоями. Более сложная архитектура в большей степени имитирует мозг, используя мемристоры для обработки всплесков напряжения, возникающего между слоями.
«По существу, мы развиваем два подхода. В одном применяются локальные мемристоры для хранения весовых коэффициентов, которые вычисляются с использованием хорошо известных алгоритмов обучения, а основные вычисления выполняются в нейроне. Второй подход более сложен, поскольку в нем мемристоры используются для обучения прямо в своих синапсах. Это рискованный подход, потому что при нем необходим большой объем памяти и алгоритмы не столь известны, - объяснил проф. Лу. – Мы стимулируем сеть входными сигналами от изображении, так что сеть самонастраивается и уточняет весовые коэффициенты до тех пор, пока одиночный нейрон не начинает реагировать на специфическую особенность изображения. После этого мы можем данную сеть использовать для определения, если специфическая особенность присутствует в каком-либо изображении».
Вторая фаза проекта предусматривает разработку классификатора, который по комбинации определенных особенностей распознает объект, например, свой ли это F-15, или МиГ противника.
Массив мемристоров (в центре), действующих как запоминающие синапсы для обучения, использует окисел вольфрама с вакансиями, которые мигрируют, когда протекающий ток изменяет силу связей синапсов