Axelera AI подвоює продуктивність LLM на периферії за допомогою Metis M.2 Max

Компанія Axelera AI оголосила про випуск Metis M.2 Max, нового доповнення до лінійки провідних процесорів штучного інтелекту (AIPU) Metis. Metis M.2 Max, що забезпечує продуктивність PCIe-карти у форматі M.2, призначений для найбільш обчислювально-інтенсивних додатків штучного інтелекту на периферії, включаючи кращу продуктивність для великих мовних моделей (LLM) та мереж трансформаторів зору.

Metis M.2 Max покращує поточний Metis M.2 завдяки подвоєній пропускній здатності пам'яті, більш тонкому профілю, вдосконаленим функціям терморегулювання та додатковим можливостям безпеки. Metis M.2 Max матиме до 16 ГБ пам'яті. Крім того, Axelera пропонуватиме версії Metis M.2 Max як для стандартного діапазону робочих температур (від -20 °C до +70 °C), так і для розширеного діапазону робочих температур (від -40 °C до +85 °C) для суворих умов експлуатації. Ці вдосконалення націлюють Metis M.2 Max на застосування в промисловому виробництві, роздрібній торгівлі, охороні, охороні здоров'я та громадській безпеці.

«Ми продовжуємо встановлювати еталон співвідношення ціни та продуктивності на ринку прискорювачів штучного інтелекту», — сказав Фабріціо дель Маффео (Fabrizio del Maffeo), генеральний директор Axelera AI. «Наша мета — надати нашим клієнтам можливість масштабного впровадження трансформаційних периферійних додатків штучного інтелекту. Metis M.2 Max і наша оригінальна карта Metis M.2 дозволяють клієнтам вибрати рішення, яке найкраще відповідає їхнім вимогам — від комп'ютерного зору до великих мовних моделей і новітніх трансформаторних моделей. Ми також додаємо посилену безпеку, щоб краще протидіяти загрозам на периферії, що зростають».

Metis M.2 Max базується на перевіреній Metis AIPU від Axelera AI та пропонує високу продуктивність та ефективність для великих, вимогливих моделей, таких як vision і GenAI, включаючи LLM і vision-language models (VLM). M.2 Max забезпечує 33% підвищення продуктивності в конволюційних нейронних мережах (CNN) і подвоєння токенів/секунду для LLM і VLM, при цьому залишаючись у типовому середньому діапазоні потужності 6,5 Вт.

Оскільки безпека є надзвичайно важливою на периферії, Metis M.2 Max містить покращені функції безпеки, включаючи захист цілісності прошивки за допомогою безпечно наданого Root of Trust, що забезпечує безпечний запуск і безпечні можливості оновлення. Ці заходи безпеки працюють прозоро, не вимагаючи втручання користувача, і допомагають забезпечити, щоб на системах клієнтів працювало тільки автентифіковане прошивання, випущене Axelera AI.

Metis M.2 Max, модуль 2280 M.2 M-key, буде доступний як окрема плата або з додатковим низькопрофільним радіатором. Ця конструкція зменшує висоту карти на 27% порівняно з поточною картою M.2, що дозволяє використовувати більш широкий діапазон конфігурацій. Крім того, для користувачів, яким потрібні можливості штучного інтелекту в умовах обмеженої потужності або теплового режиму, можна використовувати вбудований датчик потужності для автоматичного регулювання продуктивності відповідно до конкретних налаштувань.

Axelera AI дозволяє розробникам інтегрувати Metis M.2 Max у свої проєкти штучного інтелекту за допомогою Voyager SDK. Voyager розкриває весь потенціал Metis AIPU та спрощує впровадження власних і стандартних моделей.

Metis M.2 Max почне постачатися в 4 кварталі 2025 року через вебмагазин Axelera AI або через партнерів Axelera AI Channel.