Intel випускає прискорювач штучного інтелекту Gaudi 3 і процесор Xeon 6 з P-ядрами

Intel презентувала процесори Xeon 6 з ядрами підвищеної продуктивності (P-ядра) і прискорювачі штучного інтелекту Gaudi 3.

«Попит на штучний інтелект призводить до масштабної трансформації центрів обробки даних, і галузь вимагає вибору обладнання, програмного забезпечення та інструментів для розробників, - заявив Джастін Хотард (Justin Hotard), виконавчий віцепрезидент Intel і генеральний директор підрозділу з питань центрів обробки даних і штучного інтелекту. - Випускаючи Xeon 6 з P-ядрами та прискорювачами штучного інтелекту Gaudi 3, Intel створює відкриту екосистему, яка дозволяє нашим клієнтам реалізовувати всі свої робочі навантаження з більшою продуктивністю, ефективністю та безпекою».

Як зазначається, Intel Xeon 6 з P-ядрами створений для обробки інтенсивних робочих навантажень з винятковою ефективністю. Цей чип забезпечує вдвічі більшу продуктивність, ніж його попередник. Він має збільшену кількість ядер, подвоєну пропускну здатність пам'яті та можливості прискорення штучного інтелекту, вбудовані в кожне ядро. Цей процесор розроблено з урахуванням вимог до продуктивності штучного інтелекту від периферії до центрів обробки даних і хмарних середовищ.

Спеціально оптимізований для великомасштабного генеративного AI, Gaudi 3 оснащено 64 тензорними процесорними ядрами (TPC) і вісьмома механізмами матричного множення (MME) для прискорення обчислень нейронних мереж.

Прискорювач штучного інтелекту включає 128 ГБ пам'яті HBM2e для навчання і висновків, а також 24 порти Ethernet на 200 Гбіт/с для масштабованої мережі.

Також зазначається, що Gaudi 3 пропонує бездоганну сумісність з фреймворком PyTorch і вдосконаленими моделями transformer/diffuser від Hugging Face.

Нещодавно Intel оголосила про співпрацю з IBM щодо розгортання прискорювачів AI Intel Gaudi 3 як сервісу в IBM Cloud. Завдяки цій співпраці Intel та IBM прагнуть знизити загальну вартість володіння для використання та масштабування ШІ, одночасно підвищуючи продуктивність.

Компанія заявила, що 73% серверів з графічним прискоренням використовують Intel Xeon як центральний процесор.

Intel співпрацює з провідними виробниками систем, включаючи Dell Technologies і Supermicro, для розробки спільних систем, пристосованих до конкретних потреб клієнтів для ефективного розгортання AI. Наразі Dell Technologies бере участь у розробці рішень на основі RAG, використовуючи Gaudi 3 і Xeon 6.

Про DCIM у забезпеченні успішної роботи ІТ-директора