Compute-in-NAND – новий тренд

Інтенсивні пересилання даних із системи зберігання в оперативну пам'ять та назад, що виникають у додатках штучного інтелекту, можуть бути виключені завдяки технології Compute-in-NAND.

З ініціативою проводити обчислення безпосередньо з даними, що зберігаються у флешпам'яті, на конференції Flash Memory Summit 2022, що проходила в Санта-Кларі (шт. Каліфорнія, США), виступила компанія Macronix.

У міру зростання обсягів інформації, що обробляється в додатках на базі технології ШІ, стають все більш відчутними затримки через пересилання невеликих порцій даних між оперативною та енергонезалежною пам'яттю. На думку представників Macronix, можливості сучасних чіпів NAND дозволяють використовувати їх за аналогією з DRAM за допомогою функції прямого пошуку у флешпам'яті (IMS 3D NAND – In Memory Search). Нехай робота з інформацією йде при цьому не з такою високою швидкістю, як у випадку DRAM, але пропонований ними підхід має важливі переваги.

Рішення під назвою FortiX, що просувається Macronix, використовує nvTCAM - енергонезалежну троїчну пам'ять з адресацією вмісту. Компанія розробляє 96-шарову пам'ять FortiX 3D NAND із 64-гігабітним кристалом у перспективі. В роботі також варіант флешпам'яті 3D NOR із 32 шарами.

За оцінкою Macronix, прямий доступ до даних на флешпам'яті дозволяє прискорити роботу програми ШІ та відчутно знизити енергоспоживання. Серед можливих сфер застосування такого підходу називають розпізнавання відбитків, структур чи голосу, з'ясування відповідності ДНК, та й загалом завдання штучного інтелекту та машинного навчання.

Стратегія охолодження ЦОД для епохи AI