`

СПЕЦИАЛЬНЫЕ
ПАРТНЕРЫ
ПРОЕКТА

Архив номеров

BEST CIO

Определение наиболее профессиональных ИТ-управленцев, лидеров и экспертов в своих отраслях

Человек года

Кто внес наибольший вклад в развитие украинского ИТ-рынка.

Продукт года

Награды «Продукт года» еженедельника «Компьютерное обозрение» за наиболее выдающиеся ИТ-товары

 

Фотонный чип с обработкой в памяти ускорит ИИ в тысячу раз

+22
голоса

Фотонный чип с обработкой в памяти ускорит ИИ в тысячу раз

Ученые из университетов Оксфорда, Мюнстера и Эксетера, а также из IBM Research разработали способ значительного уменьшения задержки в системах ИИ.

В статье для Nature они представили ​​фотонное тензорное ядро, способное выполнять ключевые вычислительные примитивы моделей ИИ, таких как глубокие нейронные сети для компьютерного зрения, менее чем за микросекунду, с высокими вычислительными плотностью и эффективностью.
 
Вычисления в памяти (IMC) – это развивающаяся, отличная от фон-неймановской парадигма, в которой устройства памяти используются как для обработки, так и для хранения данных.

Устраняя необходимость перемещать данные между памятью и процессорами, IMC может значительно сократить время задержки. Однако подлинный выигрыш сулит сочетание этой концепции с фотоникой, позволяющее преодолеть физические ограничения электронных процессоров.

Интегрированный фотонный процессор поддерживает гораздо более высокую частоту модуляции данных, чем электронный. Кроме того, он может выполнять параллельные операции в одном физическом ядре с использованием так называемого «мультиплексирования с разделением по длине волны» (WDM) – технологии, которая обеспечивает дополнительное масштабирование за счёт использования частотного пространства.

Вооруженные разработанной ими пять лет назад фотонной фазовой памятью и созданной в EPFL частотной гребёнкой на базе нелинейной оптики (источник света для подачи входных векторов в фотонное тензорное ядро), авторы продемонстрировали устройство, которое выполняет так называемую операцию свёртки за один временной шаг. Нейронной сети для обработки одного изображения могут потребоваться миллиарды таких операций.

В качестве доказательства концепции в статье приведены результаты экспериментов с матрицами размером до 9×4. Используя четыре мультиплексированных входных вектора на каждый временной шаг и частоту модуляции 14 ГГц, учёные получили скорость обработки в два триллиона операций умножения-накопления (MAC) в секунду (2 TOPS).

Делая разумные допущения о возможностях масштабирования, оксфордская команда оценивает  конечный результат в беспрецедентные 1000 TOPS (PetaMAC) на квадратный миллиметр. Это превышает вычислительную плотность лучших ИИ-процессоров более, чем на три порядка величины.

Статья в Nature демонстрирует огромный потенциал фотонной обработки для ускорения определенных типов вычислений, таких как свёртки. Теперь перед учёными стоит задача, связать эти вычислительные примитивы вместе и при этом добиться существенной производительности на системном уровне.

Дізнайтесь більше про мікро-ЦОД EcoStruxure висотою 6U

+22
голоса

Напечатать Отправить другу

Читайте также

 
 

  •  Home  •  Рынок  •  ИТ-директор  •  CloudComputing  •  Hard  •  Soft  •  Сети  •  Безопасность  •  Наука  •  IoT