Intel планує побудувати великий суперкомп’ютер зі штучним інтелектом, використовуючи процесори Xeon і 4 тис апаратних прискорювачів Gaudi2.
Якірним замовником системи, яка, за словами Intel, стане одним з найбільших АІ-суперкомп’ютерів у світі, виступить компанія Stability AI, що займається генеративним АІ.
Процесор Gaudi з’явився в результаті придбання Intel компанії Habana Labs у 2019 році за 2 мільярди доларів. У той час вона відмовилася від чипів штучного інтелекту з попереднього придбання Nervana.
В останньому тесті MLPerf на початку цього місяця Gaudi2 показав хороші результати - у висновках він був у 2,4 раза швидшим за Nvidia A100 і впритул наблизився до графічного процесора Nvidia H100 Hopper. У навчанні він все ще залишається позаду, але очікується, що цього місяця Intel додасть точне квантування FP8, що може зробити його конкурентоспроможним з H100.
Цього місяця Nvidia випустила «TensorRT for LLMs», який, за її словами, подвоює продуктивність H100 в інференції. Але програмне забезпечення не було готове вчасно до MLPerf, тому воно ще не було протестоване.
Стратегія охолодження ЦОД для епохи AI
| 0 |
|
