Чип із функцією обчислень у пам’яті досягає продуктивності AI класу GPU за частку енергоспоживання

Компанія GSI Technology, розробник Асоціативного Процесорного Пристрою (APU), що являє собою парадигму зсуву в обробці штучного інтелекту (AI) та високопродуктивних обчислень (HPC) завдяки справжній технології обчислень у пам'яті (Compute-In-Memory, CIM), оголосила про публікацію статті під керівництвом дослідників з Корнелльського університету. Висновки підтвердили, що архітектури APU CIM від GSI Technology можуть відповідати продуктивності рівня GPU у великомасштабних програмах AI, забезпечуючи при цьому різке зниження споживання енергії завдяки високій щільності та високій пропускній здатності пам’яті, пов’язаної з архітектурою CIM.

APU Gemini-I продемонстрував порівнянну пропускну здатність з NVIDIA A6000 GPU у робочих навантаженнях генерації з доповненою вибіркою (RAG).

APU забезпечує понад 98% нижче споживання енергії, ніж GPU, при роботі з різноманітними великими корпусами даних, що підкреслює його ефективність та стійкість.

Унікальний дизайн APU дозволяє йому виконувати завдання пошуку в кілька разів швидше, ніж стандартні CPU, скорочуючи загальний час обробки до 80%.


Генеральний директор GSI Technology, Лі-Лін Шу (Lee-Lean Shu), заявив: "Незалежна валідація Корнелла підтверджує те, у що ми давно вірили: обчислення в пам'яті мають потенціал змінити ринок інференції AI вартістю 100 млрд дол. APU забезпечує продуктивність класу GPU за частку енергоспоживання завдяки своїй високоефективній пам’яті-центричній архітектурі."

Дослідницька робота, опублікована на ACM та представлена на конференції Micro '25 під назвою "Характеристика та оптимізація реалістичних робочих навантажень на комерційному пристрої для обчислень у SRAM", є однією з перших комплексних оцінок комерційного пристрою для обчислень у пам’яті при реалістичних робочих навантаженнях. Команда з Корнелла порівнювала GSI Gemini-I APU з відомими CPU та GPU, зосереджуючись на завданнях RAG з наборами даних від 10 ГБ до 200 ГБ.

Висновки дослідників вказують на значні можливості для GSI Technology, оскільки клієнти все частіше потребують підвищення показника продуктивність-на-ват у різних галузях, включаючи:

Периферійний AI (Edge AI) для робототехніки, дронів та пристроїв Інтернету речей (IoT) з обмеженим живленням.

Оборонні та аерокосмічні застосування, де APU може забезпечити високу продуктивність в умовах суворих обмежень на енергію та охолодження.

Пан Шу додав: "Ця величезна робота Корнелла підкреслює переваги CIM з використанням кремнію Gemini-I. Наш нещодавно випущений кремній APU другого покоління, Gemini-II, може забезпечити приблизно в 10 разів вищу пропускну здатність і ще меншу затримку для пам’яті-інтенсивних робочих навантажень AI, при цьому додатково покращуючи енергоефективність. Дивлячись уперед, Plato представляє наступний крок, пропонуючи ще більші обчислювальні можливості при нижчому енергоспоживанні для вбудованих периферійних застосувань."

Поєднання швидкості, ефективності та програмованості APU позиціює компанію для використання можливостей високого зростання в периферійному AI, центрах обробки даних, оборонній та інших галузях, де енергоефективність є критичною стратегічною перевагою.

Дослідження Корнелла також представило нову аналітичну структуру для універсальних пристроїв обчислень у пам’яті, надавши принципи оптимізації, які зміцнюють позицію APU як масштабованої платформи для розробників та системних інтеграторів. Копію публікації можна знайти на веб-сайті GSI.