| 0 |
|
Компанії Sandisk та SK hynix оголосили про публікацію технічної специфікації HBF (High Bandwidth Flash) у рамках консорціуму Open Compute Project (OCP). Стандарт випустили лише через шість місяців після початку роботи робочої групи в лютому, що знаменує важливий крок до стандартизації HBF-пам'яті для ери AI-інференсу.
Специфікація була розроблена в рамках спеціальної робочої групи OCP, де Sandisk та SK hynix виступили основними розробниками. Під час процесу стандартизації до консорціуму також приєдналися Google та Tenstorrent, які зробили вагомий внесок у валідацію технології та формування вихідного стандарту.
Сучасні системи інференсу штучного інтелекту вимагають не лише високої пропускної здатності пам'яті, розташованої близько до обчислювальних ядер, але й колосальної місткості через зростання розмірів великих мовних моделей (LLM).
Технологія High Bandwidth Flash (HBF) покликана задовольнити цю потребу, поєднуючи високу швидкість передачі даних із високою щільністю флешпам'яті. Це дозволяє проєктувальникам систем для дата-центрів підвищити інтерактивність та пропускну здатність під час обслуговування AI-моделей, одночасно знижуючи загальну вартість володіння (TCO).
«AI-інференс створює новий набір вимог до пам'яті, і технологія HBF покликана задовольнити цей запит, - зазначив Альпер Ілкбахар (Alper Ilkbahar), технічний директор Sandisk. - Ця специфікація дає розробникам практичний шлях для наближення високоємної та високошвидкісної пам'яті до обчислювальних блоків. Це важлива віха для всієї екосистеми HBF та AI-систем наступного покоління».
Перший у своєму роді документ у галузі накопичувачів та пам'яті визначає системний інтерфейс, електричні параметри та технічні рекомендації для розробки HBF-систем. Специфікація включає базові вимоги до продуктивності, опис хост-інтерфейсу xPU-HBF, рекомендації щодо надійності та пакування вертикальних стеків кристалів (die stack) та програмний посібник для операцій читання та запису.
Важливою особливістю стандарту є можливість співіснування HBF із класичною пам'яттю HBM (High Bandwidth Memory), що дає архітекторам AI-прискорювачів додаткову гнучкість при проєктуванні нових систем.
Опублікування специфікації у відкритому доступі в рамках Open Compute Project є стратегічним кроком Sandisk та SK hynix. Компанії прагнуть перетворити HBF на de facto стандарт для ринку AI-сховищ, що швидко розвивається, стимулюючи формування екосистеми на ранніх етапах та прискорюючи масове впровадження технології.
Стратегія охолодження ЦОД для епохи AI
| 0 |
|
