Оптическое обучение открывает путь повышения эффективности нейросетей

23 июль, 2018 - 11:05

Оптическое обучение открывает путь повышения эффективности нейросетей

Возможность тренировать нейросети непосредственно на оптическом чипе, продемонстрированная учёными Стэнфордского университета, открывает перспективы создания более быстрых, дешёвых и экономичных нейрочипов для решения сложных задач распознавания речи или изображений, для систем адаптивной оптики.

Для всех известных ранее оптических нейросетей тренировка выполнялась на их модели с помощью традиционного компьютера. Окончательные параметры обученной нейросети импортировались в оптическую схему.

В авторитетном журнале Optica, исследователи показали как применять для обучения нейросетей оптический аналог стандартного тренировочного алгоритма обратного распространения (backpropagation).

Согласно новому протоколу обучения, лазер сначала пропускается через оптическую цепь. На выходе устройства вычисляется разница с ожидавшимся результатом. Эта информация используется для генерирования нового светового сигнала, который отправляется через оптическую сеть в противоположном направлении. Измеряя параллельно оптическую интенсивность вокруг каждого расщепителя лучей во время этого процесса, исследователи определяют, как настройки каждого расщепителя влияют на производительность нейронной сети.

«Использование физического устройства, а не компьютерной модели для обучения, делает процесс более точным, — пояснил Тайлер У. Хьюз (Tyler W. Hughes), первый автор статьи. — Кроме того, поскольку этап обучения — очень вычислительно затратная часть процесса реализации нейронной сети, выполнение этого шага оптически является ключом к улучшению вычислительной эффективности, скорости и энергопотребления искусственных сетей».