| 0 |
|
На виставці Hot Chips 2024 компанія Microsoft представила детальний огляд Maia 100 - свого першого спеціалізованого AI-чіпа. Ця нова система містить спеціально виготовлені серверні плати, унікальні стійки та програмну систему, націлену на підвищення ефективності та сили складних AI-сервісів, таких як Azure OpenAI.
Нагадаємо, Microsoft представила Maia на конференції Ignite 2023, розповівши про створення власного чипа-прискорювача AI. Більш детальна інформація була представлена на початку цього року на заході для розробників Build. Maia 100 - один із найбільших процесорів, виготовлених за технологією 5 нм TSMC, призначений для вирішення масштабних завдань штучного інтелекту на платформі Azure.
Серед особливостей архітектури SoC Maia 100 слід зазначити високошвидкісний тензорний блок (16xRx16), який забезпечує швидке опрацювання даних для навчання і висновків, підтримуючи широкий спектр типів даних, включно з типами даних низької точності, як-от формат даних MX, уперше презентований Microsoft у межах консорціуму MX у 2023 році.
Векторний процесор являє собою слабко зв'язаний суперскалярний рушій, побудований з використанням призначеної для користувача архітектури набору інструкцій (ISA) для підтримки широкого спектра типів даних, включно з FP32 і BF16. Механізм прямого доступу до пам'яті (DMA) підтримує різні схеми поділу тензорів. Апаратні семафори забезпечують асинхронне програмування в системі Maia.
Maia 100 використовує мережеве підключення на основі Ethernet зі спеціальним протоколом, схожим на RoCE, що дає змогу дуже швидко обробляти дані. Він може обробляти до 4800 Гбіт/с для певних операцій з даними та 1200 Гбіт/с для обміну даними між усіма пристроями.
Комплект для розробки програмного забезпечення (SDK) Maia допомагає програмістам адаптувати свої моделі PyTorch і Triton для використання з Maia. SDK містить різні інструменти, що спрощують використання цих моделей з Azure OpenAI Services. Програмісти можуть писати код для системи Maia, використовуючи або Triton, відкриту мову домену (DSL) для глибоких нейронних мереж, або Maia API, користувацьку модель, яка забезпечує високу продуктивність і детальний контроль. Maia безпосередньо підтримує PyTorch, тому розробники можуть запускати моделі PyTorch, вносячи лише незначні зміни у свій код.
Про DCIM у забезпеченні успішної роботи ІТ-директора
| 0 |
|
