Чип Gaudi превосходит GPU от Nvidia в 3,8 раз на задачах обучения ИИ

Израильский стартап Habana Labs, ранее привлёкший 120 млн долл. венчурного финансирования от таких инвесторов, как Intel, Bessemer Venture Partners и Battery Ventures, выпустил чип-ускоритель процесса обучения моделей ИИ под названием Gaudi.

Тренировка алгоритма ИИ является наиболее трудоёмкой частью цикла разработки интеллектуального приложения. Она может требовать десятков миллионов попыток, поэтому понятно, что любая технология, сулящая ускорение обучения, может принести крупную прибыль её владельцу.

В целях демонстрации возможностей Gaudi, Habana представила результаты внутренних испытаний, в которых новый чип состязался с флагманской графической картой V100 корпорации Nvidia. По заявлению стартапа, с популярной эталонной ИИ-моделью ResNet-50 чип Gaudi работал в 3,8 раз быстрее, чем V100. Это стало уже вторым отраслевым рекордом Habana для модели RestNet-50. Предыдущий был установлен в прошлом году первым чипом Habana, Goya — он предназначен для ускорения обработки реальной информации уже обученными алгоритмами.

Общая архитектура Gaudi унаследована у Goya. Оба чипа имеют восемь процессорных ядер, использующих очень длинные слова инструкций и работающих параллельно. Отличия Gaudi — в других спецификациях памяти и пропускной способности, лучше приспособленных для обучения нейросетей.

Habana будет продавать Gaudi в двух форм-факторах — карты PCIe и мезонинные ускорители (т.е. такие, которые включаются в другие карты). Кроме того, стартап разработал приставку для ЦОД, под названием HLS, несущую в себе восемь мезонинных ускорителей.

Важным преимуществом Gaudi является масштабируемость. Мезонинные и PCIe карты содержат, соответственно, восемь и десять встроенных портов 100 GbE. Это улучшает эффективность крупномасштабных ИИ-сред с большим количеством процессоров Gaudi.

Образцы нового чипа Habana планирует предоставить клиентам до конца этого года. Кроме того, стартап утверждает, что ряд избранных заказчиков, включая провайдеров облачных сервисов и разработчиков машин с автономным управлением, уже используют ранние версии процессоров Goya.

Ready, set, buy! Посібник для початківців - як придбати Copilot для Microsoft 365