| 0 |
|
В епоху безпрецедентного зростання та інновацій у сфері AI, вся екосистема центрів обробки даних (ЦОД) трансформується у напрямку енергоефективнішої інфраструктури для підтримки сталого розвитку. Оскільки пам'ять відіграє все більш критичну роль у системах AI, рішення з низьким енергоспоживанням стали центральними у цій трансформації.
Компанія Micron Technology оголосила про початок постачання клієнтських зразків 192 ГБ SOCAMM2 (модулів пам'яті малого контуру зі стиснутим кріпленням) для забезпечення ширшого впровадження низькопотужної пам'яті в ЦОД з AI. SOCAMM2 розширює можливості першої на ринку LPDRAM SOCAMM від Micron, забезпечуючи на 50% більшу місткість у тому ж компактному формфакторі. Додаткова місткість може значно скоротити час до першого токена (TTFT) у робочих навантаженнях висновку в реальному часі більш ніж на 80%.
Зазначено, 192 ГБ SOCAMM2 використовує найпередовішу технологію виробництва DRAM 1-gamma від Micron, щоб забезпечити підвищення енергоефективності більш ніж на 20%, що додатково сприяє оптимізації енергоспоживання у великих кластерах ЦОД. Ця економія стає досить значною у повнорозмірних інсталяціях AI, які можуть включати понад 40 ТБ основної пам'яті DRAM з низьким енергоспоживанням, підключеної до центрального процесора. Модульна конструкція SOCAMM2 покращує зручність обслуговування та закладає основу для майбутнього розширення місткості.
Спираючись на п'ятирічну співпрацю з NVIDIA, Micron стала піонером у використанні серверної пам'яті з низьким енергоспоживанням у ЦОД. SOCAMM2 переносить невіддільні переваги LPDDR5X — винятково низьке енергоспоживання та високу пропускну здатність — в основну пам'ять систем AI. Розроблений для задоволення зростаючих потреб платформ AI з масивним контекстом, SOCAMM2 забезпечує високу пропускну здатність даних, необхідну для робочих навантажень AI, одночасно досягаючи нових рівнів енергоефективності, встановлюючи новий стандарт для систем навчання та висновку AI. Це поєднання переваг зробить SOCAMM2 ключовим рішенням пам'яті для передових платформ AI у найближчі роки.
"Оскільки робочі навантаження AI стають все більш складними та вимогливими, сервери ЦОД повинні досягати підвищеної ефективності, надаючи більше токенів на кожен ват потужності", — сказав Радж Нарасімхан (Raj Narasimhan), старший віцепрезидент і генеральний менеджер підрозділу хмарної пам'яті Micron. "Доведене лідерство Micron у сфері DRAM з низьким енергоспоживанням гарантує, що наші модулі SOCAMM2 забезпечать пропускну здатність даних, енергоефективність, місткість і якість серверного класу, необхідні для живлення наступного покоління серверів ЦОД з AI".
Завдяки спеціалізованим конструктивним особливостям та посиленому тестуванню, продукти Micron SOCAMM2 перетворюють низькопотужну DRAM, спочатку розроблену для мобільних телефонів, на рішення класу ЦОД. Великий досвід Micron у високоякісній пам'яті DDR для ЦОД допомагає гарантувати, що SOCAMM2 відповідає суворим вимогам до якості та надійності клієнтів у сфері центрів обробки даних.
SOCAMM2 покращує енергоефективність більш ніж на дві третини порівняно з еквівалентними модулями RDIMM, при цьому розміщуючи свою продуктивність у модулі, який має одну третину від їхнього розміру. Це оптимізує займану площу ЦОД та максимізує місткість і пропускну здатність. Модульна конструкція SOCAMM та інноваційна технологія складання покращують ремонтопридатність та сприяють проєктуванню серверів з рідинним охолодженням.
Клієнтські зразки SOCAMM2 вже постачаються з місткістю до 192 ГБ на модуль та швидкістю до 9,6 Гбіт/с, а початок серійного виробництва узгоджено з графіками запуску продуктів замовників.
Стратегія охолодження ЦОД для епохи AI
| 0 |
|
