MemryX повідомляє про випуск AI-прискорювача MX3 Edge

Компанія MemryX оголосила про доступність у продажу прискорювача штучного інтелекту MX3 Edge. Доступний як у вигляді окремого чіпа, так і у вигляді 4-чіпового модуля 2280 M.2, MX3 пропонує провідну в галузі простоту використання, найкращу у своєму класі продуктивність та високу енергоефективність.

«Команда MemryX має десятиліття досвіду у виведенні на ринок високоякісного та великосерійного кремнію та програмного забезпечення», – каже Кіт Крессін (Keith Kressin), генеральний директор MemryX. «Після багатьох місяців ретельного тестування ми з радістю повідомляємо, що досягли етапу виробництва нашого прискорювача Edge AI Accelerator. Ми протестували якість, продуктивність, затримку та точність на 1000 моделях штучного інтелекту та впевнені, що клієнти будуть дуже задоволені, обравши MemryX для додатків Edge AI».

Ключові переваги рішення MemryX включають:

- Високий показник FPS – архітектура обчислень MemryX на основі потоків даних та at-memory відмінно справляється з конвеєрною обробкою. Наприклад, одна карта MemryX M.2 з низьким енергоспоживанням може безперервно виконувати одну або кілька AI-моделей на 10 тисяч вхідних потоків з камер, що є переломним моментом для прикордонних додатків, таких як системи управління відео.
- Автоматизовані інструменти MemryX можуть компілювати та виконувати 1000 AI-моделей з високою точністю всього за 1 клац. У MX3 використовуються активації з точкою, що плаває, а процес компіляції зберігає AI-моделі у навченому вигляді. Це означає, що клієнтам, які використовують MX3, не потрібно заново навчати моделі або використовувати експериментальні зображення при квантуванні карти ознак для підвищення точності або наближення операторів, які не підтримуються в кремнії.
- У MemryX не використовується і не потрібний зоопарк моделей, у якому моделі клієнтів модифікуються для відповідності цільовому устаткуванню. Натомість оригінальні моделі залишаються повністю незайманими при компіляції та роботі на MX3. Звичайно, замовник завжди має можливість обрізати, стиснути або очистити модель, щоб досягти бажаних компромісів у проєктуванні. Але MemryX не вимагає зміни моделі для ефективного та високого використання апаратного забезпечення.
- Хоча для робочих навантажень AI використовується процесор AI, багато моделей містять код, призначений для попередньої та подальшої обробки процесором. Програмістам доводиться самостійно шукати код попередньої та подальшої обробки. Натомість MemryX автоматично визначає та упаковує цей код, допомагаючи програмісту прискорити розгортання програми за допомогою автокропінгу.
- Можна використовувати один MX3 або комбінувати його з додатковими чіпами MX3, при цьому всі вони працюватимуть як єдиний логічний пристрій, підключений до хоста. Це означає, що конфігурації на базі MX3 можуть масштабуватися від одного чіпа, що підтримує AI у просунутій інтелектуальній камері, до 4-чіпового Edge PC, 8- або навіть 16-чіпового додатка Edge Server, причому всі вони використовують одне і те ж програмне забезпечення та інтерфейс хоста без додавання будь-якого обладнання, наприклад, комутаторів PCIe.
- Кожен MX3 споживає 0,5-2,0 Вт, залежно від вимог моделі AI та налаштувань системи. Це дозволяє використовувати MX3 для високопродуктивних обчислень у сфері штучного інтелекту навіть у пристроях без вентиляторів, наприклад, у промислових ПК. Весь модуль M.2, що складається з 4 чіпів, споживає менше ніж 1/10 потужності провідних мейнстримних GPU, забезпечуючи при цьому вищу продуктивність Edge AI.
- MemryX підтримує широкий набір платформ x86, ARM та RISC-V із коробки з використанням кількох ОС.

Зазначено, MemryX вже кілька місяців працює із різними замовниками. Серед додатків, що розробляються - роздрібна торгівля, безпека, сільське господарство, автомобілебудування, робототехніка та багато іншого. Завдяки простоті використання та масштабованості, а також промисловим температурним характеристикам, MemryX може стати найкращим вибором для клієнтів, які потребують прискореної обробки даних Edge AI.

"MX3 дозволяє ASUS надавати передову аналітику AI на кордоні з меншими вимогами до обчислювальних ресурсів, забезпечуючи нашим клієнтам можливість робити висновки в реальному часі, просто додавши MX3 в наявні IPC-пристрої", - говорить Джессі Лі (Jessy Li), директор ASUS з рішень для IoT.

Модулі M.2 на базі MX3 можна придбати через WPG Americas. З 4 кварталу рішення MemryX постачатимуть додаткові дистриб'ютори в Північній Америці та за кордоном. Крім того, у 4 кварталі 2024 року MemryX надасть публічний центр для розробників з відкритим вихідним кодом, в якому будуть представлені 100 моделей та кінцевих додатків.

Стратегія охолодження ЦОД для епохи AI