IBM анонсує комерційну доступність прискорювача Spyre
Компанія IBM анонсувала майбутню загальну доступність IBM Spyre Accelerator, прискорювача AI, що забезпечує низьку затримку висновків для підтримки сценаріїв використання генеративного та агентного AI, водночас надаючи пріоритет безпеці та стійкості основних робочих навантажень. Раніше цього року IBM оголосила, що прискорювач Spyre буде доступний у системах IBM z17, LinuxONE 5 та Power11. Spyre стане загальнодоступним 28 жовтня для систем IBM z17 та LinuxONE 5, а на початку грудня — для серверів Power11.
Сьогодні ІТ-ландшафт змінюється від традиційних логічних робочих процесів до висновків агентного AI. Агенти AI вимагають низької затримки висновків і системної реакції в реальному часі. IBM усвідомила необхідність того, щоб мейнфрейми та сервери запускали AI-моделі разом із найвимогливішими корпоративними робочими навантаженнями без шкоди для пропускної здатності. Щоб задовольнити цей попит, клієнтам потрібне апаратне забезпечення для висновків AI, яке підтримує генеративний та агентний AI, зберігаючи при цьому безпеку та стійкість основних даних, транзакцій та додатків. Прискорювач також створений для того, щоб клієнти могли зберігати критично важливі дані локально, щоб зменшити ризик, одночасно розв'язуючи питання експлуатаційної та енергетичної ефективності.
IBM Spyre Accelerator відображає силу конвеєра IBM від досліджень до продукту, поєднуючи інноваційний прорив від IBM Research AI Hardware Center з розробкою корпоративного класу від IBM Infrastructure. Спочатку представлений як прототип чипа, Spyre був вдосконалений шляхом швидкої ітерації, включаючи розгортання кластерів у кампусі IBM Yorktown Heights та зі співробітниками, як-от Центр новітніх систем штучного інтелекту Університету в Олбані.
Прототип IBM Research перетворився на продукт корпоративного класу для використання в системах IBM Z, LinuxONE та Power. Сьогодні Spyre Accelerator — це комерційна система на чипі з 32 окремими ядрами прискорювача та 25,6 млрд транзисторів. Вироблений за технологією 5 нм, кожен Spyre встановлений на платі PCIe потужністю 75 Вт, що дає змогу кластеризувати до 48 карт у системі IBM Z або LinuxONE, або 16 карт у системі IBM Power для масштабування можливостей AI.
«Одним із наших ключових пріоритетів було вдосконалення інфраструктури для задоволення вимог нових робочих навантажень AI, що з’являються», — сказав Баррі Бейкер (Barry Baker), головний операційний директор, IBM Infrastructure та генеральний менеджер, IBM Systems. «За допомогою Spyre Accelerator ми розширюємо можливості наших систем для підтримки мультимодельного AI, включаючи генеративний та агентний AI. Ця інновація дає клієнтам можливість масштабувати свої критично важливі робочі навантаження з підтримкою AI з безкомпромісною безпекою, стійкістю та ефективністю, одночасно розкриваючи цінність своїх корпоративних даних».
«Ми запустили IBM Research AI Hardware Center у 2019 році з місією задовольнити обчислювальні потреби AI, що зростають, ще до сплеску великих мовних моделей та моделей AI, які ми бачили нещодавно», — зазначив Мукеш Харе (Mukesh Khare), генеральний менеджер IBM Semiconductors та віцепрезидент Hybrid Cloud, IBM. «Тепер, на тлі зростального попиту на передові можливості AI, ми пишаємося тим, що перший чип з Центру виходить на комерціалізацію, розроблений для забезпечення покращеної продуктивності та продуктивності для клієнтів мейнфреймів та серверів IBM».
Для клієнтів IBM Spyre Accelerators пропонують швидку, захищену обробку з локальним прискоренням AI. Це значний етап, який дозволяє підприємствам використовувати AI у масштабі, зберігаючи дані в системах IBM Z, LinuxONE та Power. У мейнфрейм-системах, у поєднанні з процесором Telum II для IBM Z та LinuxONE, Spyre пропонує підвищену безпеку, низьку затримку та високу потужність обробки транзакцій. Використовуючи це вдосконалене апаратне та програмне забезпечення, підприємства можуть використовувати Spyre для масштабування кількох моделей AI для підтримки сценаріїв прогнозування, таких як вдосконалене виявлення шахрайства та автоматизація роздрібної торгівлі.
На серверах на базі IBM Power клієнти Spyre можуть використовувати каталог сервісів AI, забезпечуючи наскрізний AI для корпоративних робочих процесів. Клієнти можуть встановити сервіси AI з каталогу лише одним клацанням миші. Прискорювач Spyre для Power, у поєднанні з прискорювачем на чипі (MMA), також прискорює перетворення даних для генеративного AI, щоб забезпечити високу пропускну здатність для глибокої інтеграції процесів. Крім того, з розміром підказки 128 він дозволяє приймати понад 8 млн документів для інтеграції бази знань за годину. Ця продуктивність, у поєднанні з програмним забезпеченням IBM, безпекою, масштабованістю та енергоефективністю, підтримує клієнтів на шляху інтеграції фреймворків генеративного AI в їхні корпоративні робочі навантаження.