| 0 |
|
Компанія ASUS представила UGen300 USB AI Accelerator. Це перший пристрій такого типу в лінійці бренду, який дозволяє додати потужність для обчислень штучного інтелекту будь-якому гаджету - від старого ноутбука до промислового контролера. Також анонсована версія у форматі M.2.
Попри компактні розміри (105х50x18 мм) акселератор побудований на базі AI-процесора Hailo-10H, який видає 40 AI TOPS.
Цього достатньо для локального запуску великих мовних моделей (LLM), що працюють без інтернету, зорово-мовних моделей (систем, що розуміють відео та зображення) та перетворення голосових команд на складні дії в реальному часі (Voice-to-Action).
Головна особливість UGen300 - повна незалежність від серверів Google, OpenAI чи Microsoft, тому ваші дані не залишають пристрою, ви платите за залізо один раз і не купуєте щомісячні плани та обробка відбувається миттєво, без очікування відповіді від сервера.
Пристрій споживає 2,5 Вт під типовим навантаженням.
На відміну від багатьох вбудованих NPU, які запозичують оперативну пам’ять у системи, UGen300 має власні 8 ГБ LPDDR4. Це критично важливо для розробників: виділена архітектура запобігає «пляшковим шийкам» у передачі даних і дозволяє хост-системі вільно займатися своїми справами, поки акселератор «думає» над AI-завданнями.
Інтерфейс USB 3.1 Gen 2 Type-C робить пристрій максимально універсальним.
Забезпечується сумісність з ОС Windows, Linux та Android.
Підтримуються фреймворки TensorFlow, PyTorch та ONNX прямо з коробки.
Рішення націлено на розробників, освітян та творців вбудованих рішень (embedded), яким потрібна мобільна обчислювальна потужність.
Для швидкого старту ASUS готує утиліту UGen Utility, яка дозволить миттєво перевірити роботу пристрою на понад 100 попередньо навчених моделях.
Стратегія охолодження ЦОД для епохи AI
| 0 |
|
