SK hynix представила прототип карти-прискорювача GDDR6-AiM "AiMX" для генеративного AI

Компанія SK hynix представила та продемонструвала прототип AiMX, карти генеративного прискорювача штучного інтелекту на базі GDDR6-AiM, на виставці AI Hardware & Edge AI Summit 2023, яка проходила з 12 по 14 вересня у Santa Clara Marriott, Каліфорнія.

На стенді SK hynix проходила демонстрація прототипу карти-прискорювача AiMX, що об'єднує кілька GDDR6-AiM для подальшого підвищення продуктивності, а також сам GDDR6-AIM під гаслом "Boost Your AI: Discover the Power of PIM with SK hynix's AiM".

Як малопотужна і високошвидкісна пам'ять, здатна обробляти великі обсяги даних, AiMX покликана відіграти ключову роль у розвитку систем генеративного AI5 з великим обсягом даних. Продуктивність генеративного AI підвищується в міру його навчання на більшій кількості даних, що підкреслює необхідність високопродуктивних продуктів, які можуть застосовуватися в різних системах генеративного AI.

SK Hynix також продемонструвала генеративну модель штучного інтелекту Meta Open Pretrained Transformer (OPT) 13B на серверній системі, оснащеній прототипом AiMX. Система AiMX, оснащена чіпами GDDR6-AiM, дозволяє скоротити час обробки даних більш ніж у 10 разів порівняно із системами з GPU, споживаючи при цьому в п'ять разів менше енергії. Демонстрація компанії викликала інтерес у світових компаній, що надають послуги AI, показавши, що вона здатна забезпечити вищу продуктивність в порівнянні з найсучаснішими прискорювачами.

Крім того, компанія провела сесію, де розповідала про переваги AiMX. У доповіді "Економічно ефективне прискорення генеративних висновків AI за допомогою AiM" віцепрезидент підрозділу розробки рішень Юі-Чеол Лім (Eui-cheol Lim) порівняв продуктивність графічних процесорів та AiMX та розповів про майбутнє інтелектуальної напівпровідникової пам'яті нового покоління.

"AiMX компанії SK hynix - це рішення, що забезпечує вищу продуктивність за меншого енергоспоживання та меншої вартості в порівнянні зі звичайними графічними процесорами", - пояснив Лім. "Ми продовжимо розробляти технології пам'яті, які будуть лідирувати в епоху штучного інтелекту".

Ready, set, buy! Посібник для початківців - як придбати Copilot для Microsoft 365