0 |
У міру розвитку і розширення робочих AI-навантажень пропускна здатність і обсяг пам'яті стають дедалі важливішими для продуктивності системи. Новітні графічні процесори в галузі потребують високопродуктивної пам'яті з високою пропускною здатністю (HBM), значної місткості пам'яті, а також підвищеної енергоефективності. За повідомленням Micron, компанія вже постачає готову до масового виробництва 12-рівневу пам'ять HBM3E ключовим галузевим партнерам для кваліфікації в екосистемі AI.
Заявлено, найкраща в галузі 12-ярусна пам'ять HBM3E на 36 ГБ від Micron забезпечує значно менше енергоспоживання порівняно з пропозиціями конкурентів 8-рівневої на 24 ГБ, попри те, що об'єм DRAM у корпусі на 50% більший. Це дає змогу запускати на одному процесорі більші моделі AI, такі як Llama 2 із 70 млрд параметрів. Таке збільшення місткості дає змогу прискорити процес розуміння, уникаючи розвантаження процесора і затримок зв'язку між GPU і CPU. За повідомленням Micron, 12-рівнева HBM3E на 36 ГБ забезпечує значно менше енергоспоживання, ніж рішення конкурентів HBM3E з 8 ярусами на 24 ГБ. Пропонована Micron 12-рівнева HBM3E 36 GB забезпечує пропускну здатність пам'яті понад 1,2 ТБ/с за швидкості виведення понад 9,2 Гб/с. Сукупність переваг Micron HBM3E, що забезпечують максимальну пропускну здатність за мінімального енергоспоживання, дає змогу домогтися оптимальних результатів для центрів обробки даних, вимогливих до енергоспоживання. Крім того, 12-рівнева HBM3E від Micron оснащена повністю програмованим MBIST, який може запускати системний представницький трафік на повній швидкості, забезпечуючи поліпшене тестове покриття для прискореної перевірки, прискорюючи вихід на ринок і підвищуючи надійність системи.
Micron також є партнером TSMC в альянсі 3DFabric, який допомагає формувати майбутнє напівпровідникових і системних інновацій. Виробництво систем штучного інтелекту є складним завданням, і інтеграція HBM3E вимагає тісної співпраці між постачальниками пам'яті, клієнтами та аутсорсинговими компаніями, що займаються складанням і тестуванням напівпровідників (OSAT).
У нещодавньому обміні думками Ден Кочпатчарін (Dan Kochpatcharin), керівник відділу управління екосистемами та альянсами TSMC, зазначив: «TSMC і Micron пов'язують довгострокові стратегічні партнерські відносини. Як частина екосистеми OIP, ми тісно співпрацюємо з Micron, щоб створити систему на базі HBM3E і дизайн пакування «чіп на підкладці» (CoWoS) для підтримки інновацій наших клієнтів у сфері AI».
За визнанням Micron, компанія вже дивиться в майбутнє зі своєю дорожньою картою HBM4 і HBM4E. Такий підхід гарантує, що Micron залишиться на передньому краї розвитку пам'яті та систем зберігання даних, стимулюючи наступну хвилю прогресу в технологіях для центрів обробки даних.
Про DCIM у забезпеченні успішної роботи ІТ-директора
0 |