| 0 |
|
На мероприятии Open Compute Summit в Сан-Хосе (штат Калифорния), Facebook рассекретила три ключевых элемента своей аппаратной инфраструктуры, включая мощный сервер Zion, предназначенный исключительно для тренировки моделей глубокого обучения, и два разработанных компанией самостоятельно чипа — ускорителя специализированных рабочих нагрузок.
Zion помогает ускорить наиболее ресурсоёмкую фазу большинства проектов ИИ. В нем используются восемь центральных процессорных модулей. Каждый из них оснащён большим объёмом оперативной памяти DDR и может делиться ею с другими процессорами для координированной обработки данных.
Администраторы могут комплектовать этот сервер восемью дополнительными чипами, оптимизированными для особых типов тренировки ИИ. Эти ускорители основаны на OAM, технологии, которую Facebook открыла для публичного доступа одновременно с ними. OAM это аппаратный стандарт для монтажа разных типов микросхем в общем, стандартизованном модуле.
Применение OAM обеспечивает серверу Zion значительную гибкость и универсальность. В него можно устанавливать графические карты, массивы программируемой логики и процессоры любой конструкции, если все они смонтированы в одинаковых стандартных модулях.
Zion разделяет компоненты с интенсивным использованием памяти, вычислений и сети, позволяя масштабировать их независимо, — пишут инженеры Facebook Кевин Ли (Kevin Lee), Виджай Рао (Vijay Rao) и Уильям Кристи Арнольд (William Christie Arnold). — По мере роста размера и сложности наших тренировочных нагрузок ИИ, платформа Zion может масштабироваться вместе с ними«.
Один из двух чипов, которые компания открыла вместе с Zion, называется Kings Canyon. Он специализирован для ускорения процесса построения умозаключений (inference) моделями ИИ. Facebook использует его в выделенных «ускорительных стойках», которые содержат сразу множество таких чипов и связываются с серверами ЦОД по сети.
Другой чип, Mount Shasta, оптимизирован на аппаратном уровне для транскодирования видео. Он снижает разрешение клипов, загруженных пользователями в социальную сеть, делая видеоконтент более доступным для подписчиков с медленным или ненадёжным подключением к Интернету.
«В среднем мы ожидаем, что эти видеоускорители окажутся во много раз эффективнее наших нынешних серверов», — пишут инженеры Facebook.
Ready, set, buy! Посібник для початківців - як придбати Copilot для Microsoft 365
| 0 |
|
