| 0 |
|
Amazon Web Services готується до оновлення двох своїх сімейств процесорів, про що повідомило CNBC.
Хмарний гігант планує випустити оновлену версію свого центрального процесора AWS Graviton4, а також представити нову модель у серії чіпів AWS Trainium, яка оптимізована для навчання моделей штучного інтелекту.
Обидві серії чипів розроблені підрозділом AWS Annapurna Labs, який став частиною хмарного провайдера в результаті придбання в 2015 році. Коли Graviton4 дебютував у червні минулого року, AWS повідомила, що розгорнула понад 50 мільйонів процесорів серії Graviton для забезпечення роботи понад 150 типів інстансів.
Серія Trainium, своєю чергою, забезпечує роботу кластера для навчання штучного інтелекту з 400 000 чіпів, який AWS почав будувати для Anthropic PBC минулого року.
Graviton4 — це четверта версія серії процесорів Graviton. Він має 96 ядер, заснованих на оптимізованій для серверів конструкції ядра Neoverse N2 від Arm Holdings Inc. Вбудований кеш L2 може вмістити 192 мегабайти даних, що на 8 мегабайт більше, ніж у чіпі Graviton першого покоління. AWS заявляє, що Graviton4 містить загалом 73 мільярди транзисторів у своїх компонентах.
Процесор також включає оптимізацію кібербезпеки. Технологія Arm під назвою Branch Target Identification блокує кібератаки, які намагаються використовувати механізм прогнозування розгалужень Graviton4. Це компонент процесора, який виконує деякі обчислення до того, як результати стають необхідними, щоб заощадити час. Крім того, апаратні інтерфейси, через які Graviton4 надсилає трафік даних до інших компонентів інфраструктури AWS, зашифровані.
Оновлена версія Graviton4, яку хмарний гігант планує анонсувати, за повідомленнями, буде пропонувати пропускну здатність мережі 600 гігабіт на секунду, або Гбіт/с. Поточні екземпляри на базі Graviton4 забезпечують до 50 Гбіт/с. Кожен чіп також пропонує пропускну здатність пам'яті до 536,7 Гбіт/с, що визначає швидкість передачі даних до і з оперативної пам'яті. Цей показник може сильно впливати на продуктивність додатків.
За даними CNBC, AWS оголосить графік випуску Graviton4 пізніше цього місяця. Trainium2, інший новий чіп Amazon.com Inc., як очікується, буде випущений до кінця року.
Чип Trainium2, що використовується AWS для навчання штучного інтелекту, забезпечує продуктивність 1,29 петафлопса при обробці чисел з плаваючою комою FP8. Це одиниці даних, які нейронні мережі зазвичай використовують для виконання обчислень. Один петафлоп відповідає одному квадрильйону, або тисячі трильйонів, обчислень за секунду.
Обчислювальна потужність Trainium2 забезпечується вісьмома ядрами, заснованими на дизайні під назвою NeuronCore-V3. Вони підтримуються 96 гігабайтами вбудованої пам'яті. Розробники можуть оптично об'єднати обчислювальні та пам'ятні ресурси декількох ядер в одне віртуальне ядро, що спрощує деякі великомасштабні проекти навчання штучного інтелекту.
AWS очікує, що її чип Trainium3 наступного покоління забезпечить удвічі вищу продуктивність, ніж Trainium2. Крім того, очікується, що він буде на 50% енергоефективнішим.
Стратегія охолодження ЦОД для епохи AI
| 0 |
|
