| 0 |
|
Meta Platforms, материнська компанія Facebook, продемонструвала на заході AI Infra @Scale свій новітній прискорювач навчання, а також інші апаратні засоби.
Керівник глобальної інфраструктури Meta Сантош Джанардхан (Santosh Janardhan) пояснив, що вимоги компанії до обчислень AI, як очікується, різко зростуть протягом наступного десятиліття. Їй потрібно буде значно збільшити обчислювальну потужність, щоб підтримувати дослідження в галузі АІ, передові додатки та досвід в рамках сімейства додатків, а також свої метаверсійні амбіції. "Ми стоїмо перед ще однією точкою перелому для інфраструктури, - сказав він, відкриваючи захід. - AI - це не просто робоче навантаження, це саме робоче навантаження. Ми трансформуємо все в нашій інфраструктурі".
З цією метою компанія реалізує план побудови наступного покоління своєї інфраструктурної основи. Серед оновлень - перший власний чип компанії для запуску AI-моделей, новий дизайн центру обробки даних, оптимізований для AI, і друга черга нового суперкомп'ютера для досліджень АІ, який буде оснащений 16 000 графічних процесорів.
Meta Training and Inference Accelerator, анонсований на заході, - це новітнє сімейство кастомних чипів-акселераторів Meta, призначених для забезпечення робочих навантажень, пов'язаних з висновками AI. Відомий як MTIA, новий процесор забезпечує набагато більшу продуктивність і ефективність, ніж традиційні центральні процесори, оскільки він налаштований на дуже специфічні внутрішні робочі навантаження, пояснив Джанардхан. Meta планує розгортати чипи MTIA разом з потужними графічними процесорами, щоб забезпечити кращу продуктивність, меншу затримку і чудову ефективність для кожного типу робочих навантажень AI.
Meta також представила оновлений дизайн центру обробки даних для підтримки майбутніх поколінь апаратного забезпечення AI як для навчання, так і для робочих навантажень, пов'язаних з висновками. За словами Джанардхана, новий центр обробки даних базується на оптимізованому для АІ дизайні, який буде підтримувати апаратне забезпечення АІ з рідинним охолодженням і високопродуктивну мережу АІ, що з'єднує тисячі чіпів MTIA. За словами Джанардхана, ідея полягає в тому, щоб створити навчальні кластери AI в масштабі "центру обробки даних". Новий дизайн гарантує, що вони будуть побудовані швидше та економічно ефективніше, одночасно розміщуючи нове обладнання, таке як перша власна інтегральна схема MSVP, призначена для перекодування відео, яка призначена для обробки робочих навантажень.
Нарешті, Meta продемонструвала другу чергу свого дослідницького суперкомп'ютера Research SuperCluster AI, який вважається однією з найшвидших подібних машин, коли-небудь побудованих: вона може досягати майже 5 екзафлопс обчислювальної потужності. RSC, як відомо, призначений для навчання нового покоління великих AI-моделей, які підтримуватимуть доповнену реальність, системи розуміння контенту, переклад у реальному часі та інші складні робочі завдання.
Суперкомп'ютер використовує 16 000 графічних процесорів, які встановлено у 2000 систем Nvidia DGX A100, об'єднані новою трирівневою мережевою структурою Clos. За словами Джанардхана, RSC працює вже деякий час і використовується в таких дослідницьких проєктах, як LLaMA, велика мовна модель, яку компанія представила на початку цього року.
Джанардхан пояснив, що метою створення всієї цієї інфраструктури є розробка і навчання набагато більших і складніших моделей штучного інтелекту, а також їхнє масштабне розгортання. За його словами, Meta знаходиться на передньому краї розробки AI, використовуючи його для кращої персоналізації та створення багатшого досвіду, допомагаючи компаніям охопити бажану аудиторію.
В рамках цих зусиль Meta також анонсувала Code Compose - новий генеративний помічник для кодування на основі штучного інтелекту, який вона створила власними силами, щоб підвищити продуктивність своїх розробників.
Ready, set, buy! Посібник для початківців - як придбати Copilot для Microsoft 365
| 0 |
|
