Нова флешпам'ять SanDisk з високою пропускною здатністю дає змогу використовувати в GPU 4 ТБ VRAM

Компанія SanDisk представила нову цікаву пам'ять, здатну об'єднати місткість 3D NAND та екстремальну пропускну здатність, яку забезпечує пам'ять з високою пропускною здатністю (HBM). Флешпам'ять SanDisk з високою пропускною спроможністю (HBF) забезпечує паралельний доступ до кількох масивів 3D NAND високої місткості, що дає змогу збільшити пропускну здатність та місткість. Компанія позиціює HBF як рішення для додатків штучного інтелекту, що вимагають високої пропускної здатності та місткості в поєднанні з низькими вимогами до енергоспоживання. Перше покоління HBF дає змогу використовувати до 4 ТБ VRAM на GPU, а в майбутніх модифікаціях цю місткість буде збільшено. SanDisk також припускає, що ця технологія з'явиться в мобільних телефонах та інших типах пристроїв. Компанія поки не оголосила дату випуску цієї розробки.

«Ми називаємо цю технологію HBF, щоб доповнити пам'ять HBM для робочих навантажень, пов'язаних зі штучним інтелектом», - говорить Альпер Ілкбахар (Alper Ilkbahar), керівник відділу технологій пам'яті в SanDisk. «Ми збираємося зрівнятися з пропускною спроможністю пам'яті HBM, забезпечуючи при цьому 8-16-кратну місткість за схожої вартості».

Концептуально HBF схожа на HBM. Вона об'єднує кілька високопродуктивних ядер флешпам'яті великої місткості, з'єднаних між собою наскрізними кремнієвими каналами (TSV), і логічну матрицю, яка може паралельно звертатися до флешмасивів (точніше, підмасивів флешпам'яті). В основі архітектури HBF лежить 3D NAND BICS компанії SanDisk, що використовує дизайн CMOS directly bonded to Array (CBA), який з'єднує 3D масив пам'яті NAND поверх матриці введення-виведення, виготовленої за технологією логічного процесу. Ця логіка може стати ключем до створення HBF.

У традиційних конструкціях матриць NAND масив флешпам'яті NAND часто розглядають як площини, сторінки та блоки. Блок - це найменша область, що стирається, а сторінка - найменша область, що записується. HBF, схоже, розбиває матрицю на «багато-багато масивів», щоб до них можна було звертатися одночасно. Кожен підмасив (зі своїми сторінками і блоками), імовірно, має свій власний виділений шлях читання/запису. Хоча це нагадує роботу багатоплощинних пристроїв NAND, концепція HBF, схоже, виходить далеко за їхні рамки.

На цей час SanDisk стверджує, що в HBF першого покоління буде використовуватися 16 матриць HBF-ядер. SanDisk стверджує, що для створення таких пристроїв вона винайшла запатентовану технологію укладання, яка вирізняється мінімальним викривленням і дає змогу укладати 16 матриць HBF-ядер, а також логічну матрицю, що може одночасно отримувати доступ до даних із кількох матриць HBF-ядер. Складність логіки, здатної обробляти сотні або тисячі одночасних потоків даних, має бути вищою, ніж у звичайного контролера SSD.

Поки що SanDisk не розкриває реальні показники продуктивності своїх продуктів HBF, тому залишається тільки гадати, чи відповідає HBF продуктивності на стек оригінальної HBM (~ 128 ГБ/с) або нової HBM3E, яка забезпечує 1 ТБ/с на стек у випадку B200 від Nvidia.

Комп’ютерний розум: генеративний штучний інтелект у рішеннях AWS