AMD розкрила нові подробиці про сімейство прискорювачів AMD Instinct серії MI300, у тому числі про випуск прискорювача AMD Instinct MI300X, який заявлений як передовий у світі прискорювача для генеративного ШІ. MI300X заснований на архітектурі прискорювача AMD CDNA 3 наступного покоління та підтримує до 192 ГБ пам'яті HBM3, щоб забезпечити ефективність обчислень та пам'яті, необхідну для навчання великих мовних моделей та логічних висновків для генеративних робочих навантажень ШІ. Завдяки великому обсягу пам'яті AMD Instinct MI300X, клієнти тепер можуть встановлювати великі мовні моделі, такі як Falcon-40, модель з 40 млрд параметрів, на одному прискорювачі MI300X5.
AMD також представила платформу AMD Instinct, яка об'єднує вісім прискорювачів MI300X у стандартну галузеву конструкцію як рішення для логічного виведення та навчання ШІ.
Повідомляється, що зразки MI300X надаються для ключових клієнтів з третього кварталу. AMD також оголосила, що AMD Instinct MI300A, перший у світі прискорювач APU для робочих навантажень високопродуктивних обчислень та штучного інтелекту, також тепер пропонується замовникам як зразки.
Стратегія охолодження ЦОД для епохи AI
| 0 |
|
