Intel Nervana - первый специализированный чип для ИИ

23 октябрь, 2017 - 19:18Леонід Бараш

Пока общество будоражат и волнуют страхи и надежды, связанные с ИИ, компании, включившиеся в гонку, активно проводят исследования в этой области. Среди них и компания Intel, которая анонсировала первое в мире семейство процессоров для ИИ, разработанное с нуля.

Intel производит довольно быстрые чипы, но ни один из них не является сверхэффективным в самом горячем сегодня направлении вычислений – ИИ. Методы глубокого обучения, которые используются для машинного видения, распознавания речи и других задач ИИ, требуют матричных вычислений на гигантских массивах, для чего не очень приспособлены чипы общего назначения, такие как Core и Xeon. Однако Intel намерена изменить ситуацию с приобретением компании Nervana, специализирующейся на технологиях и алгоритмах для глубокого обучения. И вот спустя год после получения этих активов объявлены первые специализированные чипы для ИИ – Intel Nervana Neural Network Processor (NNP). Цель новой архитектуры – обеспечить необходимую гибкость для поддержки всех примитивов глубокого обучения и в то же время сделать компоненты аппаратного ядра как можно более эффективными.

Матричное умножение и свертки - это пара важных примитивов, лежащих в основе глубокого обучения. Эти вычисления отличаются от рабочих нагрузок общего назначения, поскольку операции и перемещение данных в основном известны априори. По этой причине Intel Nervana NNP не имеет стандартной иерархии кэш-памяти, а встроенная память управляется программным обеспечением напрямую. Лучшее управление памятью позволяет чипу достичь высокого уровня использования огромного количества вычислений на каждой матрице. Это означает достижение более короткого времени обучения для моделей глубокого обучения.

Разработанный с высокоскоростными соединениями как на чипе, так и вне его, Intel Nervana NNP обеспечивает массивную двунаправленную передачу данных. Заявленная цель проекта заключается в том, чтобы достичь истинного параллелизма модели, где параметры нейронной сети распределены между несколькими чипами. Это позволяет использовать несколько чипов как один большой виртуальный чип, который может вместить более крупные модели, позволяя заказчикам получать больше информации от своих данных.

Производительность нейронной сети на одном чипе во многом ограничена пропускной способностью памяти и рассеиваемой мощностью. Чтобы достичь более высокой степени пропускной способности для рабочих нагрузок нейронных сетей, Nervana NNP использует целую математику с пониженной точностью, называемую Flexpoint. Flexpoint позволяет реализовать скалярные вычисления в виде умножений и сложений с фиксированной точкой, допускающий большой динамический диапазон, используя общий показатель. Поскольку каждая схема получается меньше, это приводит к значительному увеличению параллельности на матрице, одновременно снижая мощность, расходуемую на вычисления.

В свое время NVIDIA лихо вытолкнула Intel на обочину дороги в области ИИ благодаря какой-то счастливой случайности. Так получилось, что графические процессоры этого производителя – лучший вариант для обучения алгоритмам ИИ, хотя они под них и не проектировались специально. И сегодня для специализированных задач такие гиганты, как Facebook и Google используют именно чипы NVIDIA.

Intel, без сомнения, надеется изменить эту ситуацию с выпуском чипов Nervana NNP, которые эффективны как для обучения, так и для ИИ. Компания говорит, что у нее есть «несколько поколений» чипов в разработке, и Intel, очевидно, имеет производственную и сбытовую инфраструктуру, необходимую для того, чтобы произвести нужный объем и дать их в руки клиентов. Intel также работает над так называемым нейроморфным чипом Loihi, который имитирует человеческий мозг, а кроме того в своем арсенале имеет чип Myriad X, разработанный специально для машинного зрения.

Хотя Intel надеется хотя бы догнать NVIDIA, последняя не стоит на месте. Недавно компания выпустила чип V100 специально для приложений ИИ и наняла Клемента Фарабе (Clément Farabet) в качестве вице-президента по инфраструктуре ИИ, скорее всего, с целью создания чипов, которые так же хороши при запуске программ глубокого обучения. В то же время Google построила собственный «Tensor Processing Unit» (TPU), который она строго использует в своих собственных центрах обработки данных, а у IBM есть нейроморфный чип, получивший название «True North».

Intel примеряет майку лидера в области ИИ