| 0 |
|
Компанія NEO Semiconductor оголосила про розробку технології чіпів 3D X-AI, призначених для заміни наявних чіпів DRAM у пам'яті з високою пропускною спроможністю (HBM) для розв'язання проблеми вузьких місць у шині даних шляхом забезпечення можливості обробки штучного інтелекту в 3D DRAM. 3D X-AI дає змогу скоротити величезний обсяг даних, що передаються між HBM і GPU під час роботи зі штучним інтелектом. Зазначається, що інновації NEO покликані зробити революцію в продуктивності, енергоспоживанні та вартості AI-чіпів для додатків AI, таких як генеративний AI.
Чипи AI з технологією 3D X-AI від NEO можуть досягти:
- Прискорення продуктивності в 100 разів завдяки наявності 8000 нейронних схем для виконання обробки AI в 3D-пам'яті.
- Зниження енергоспоживання на 99%, оскільки мінімізується необхідність передавання даних на GPU для обчислень, знижується енергоспоживання і тепловиділення шини даних.
- 8-кратної щільності пам'яті, яка містить 300 шарів пам'яті, що дає змогу HBM зберігати більші моделі AI.
"Нинішні чипи штучного інтелекту втрачають значну кількість продуктивності та енергії через архітектурні та технологічні неефективності", - каже Енді Хсу (Andy Hsu), засновник і генеральний директор NEO Semiconductor. "Поточна архітектура чипів штучного інтелекту зберігає дані в HBM і покладається на GPU для виконання всіх обчислень. Така розділена архітектура зберігання та обробки даних робить шину даних неминучим вузьким місцем у продуктивності. Передача величезних обсягів даних по шині даних призводить до обмеженої продуктивності та дуже високого енергоспоживання. 3D X-AI може виконувати обробку штучного інтелекту в кожному чипі HBM. Це дає змогу значно скоротити обсяг даних, що передаються між HBM і GPU, підвищити продуктивність і значно знизити енергоспоживання".
Один чіп 3D X-AI містить 300 шарів комірок 3D DRAM місткістю 128 ГБ і один шар нейронної схеми з 8000 нейронів. За оцінками NEO, це дає змогу підтримувати пропускну здатність до 10 ТБ/с під час опрацювання даних штучного інтелекту. Використання дванадцяти матриць 3D X-AI, покладених в упакування HBM, дає змогу досягти пропускної здатності 120 ТБ/с, що дає 100-кратний приріст продуктивності.
"Застосування технології 3D X-AI може прискорити розробку нових варіантів використання AI та сприяти створенню нових", - говорить Джей Крамер (Jay Kramer), президент Network Storage Advisors. "Використання технології 3D X-AI для створення наступного покоління оптимізованих чипів AI відкриє нову еру інновацій для додатків AI".
Про DCIM у забезпеченні успішної роботи ІТ-директора
| 0 |
|
