| 0 |
|
Дослідницька група під керівництвом професора Кьонхана Лі (Kyunghan Lee) з Інженерного коледжу Сеульського національного університету (SNU) презентувала нову систему штучного інтелекту Ouroboros.
Технологія дозволяє аналізувати відео за допомогою моделей Vision Transformer у 2,61 раза швидше, використовуючи лише 13% від звичного обсягу обчислень на периферійних пристроях.
Розробку представили на пресконференції у сфері мобільних систем ACM MobiSys 2026, що пройшла в Кембриджі (Велика Британія).
Моделі Vision Transformer розбивають зображення на дрібні фрагменти (патчі) та аналізують зв'язки між ними. Це забезпечує високу точність у завданнях нараховування об'єктів чи розпізнавання для автопілотів, але вимагає величезних ресурсів, що ускладнює їх використання «на місці» — у смартфонах, роботах та дронах.
Оскільки відео складається з послідовності кадрів, суміжні кадри мають високий рівень схожості. Система Ouroboros усуває дубльовані обчислення, повторно використовуючи візуальну інформацію, яка повторюється з кадру в кадр.
На відміну від попередніх методів, які оцінювали схожість за статичними пікселями чи простою різницею між кадрами (і «ламалися» під час тремтіння камери чи руху об'єктів), Ouroboros враховує вектори руху.
Система використовує вектори руху з апаратних кодувальників відео, розпізнаючи об'єкт або фон, навіть якщо вони змістилися в кадрі.
Для усунення втрати даних, коли об'єкт виходить за межі екрана, межі кадру розглядаються як безперервно з'єднані (ліва з правою, верхня з нижньою).
Ouroboros перераховує лише ті ділянки кадру, де відбулися суттєві зміни, зберігаючи ресурси пам'яті.
Тестування на периферійному модулі NVIDIA Jetson Orin продемонстрували зниження обчислювального навантаження на 87,0%; прискорення інференсу у 2,61 раза; зменшення енергоспоживання на 64,5%;
Втрата точності в завданнях виявлення та сегментації об'єктів склала менше ніж 1%.
Крім того, Ouroboros передає на сервер лише необхідну для AI-висновків інформацію замість повного відеопотоку, що значно економить мережевий трафік.
Ouroboros є системним рішенням, а не окремою моделлю, тому його можна інтегрувати в більшість наявних відеомоделей на базі Vision Transformer.
Технологія стане базовою для розвитку фізичного AI (Physical AI), безпілотних автомобілів, розумних камер спостереження (CCTV), дронів, робототехніки, мобільної доповненої реальності (AR) та «розумних» фабрик.
«Це дослідження є важливим кроком, оскільки ми отримали базову технологію, здатну одночасно усунути проблеми як обчислювальних ресурсів, так і пропускної здатності мережі - головних бар'єрів на шляху до впровадження фізичного AI, включно з гуманоїдними системами. Ми плануємо активно комерціалізувати Ouroboros у співпраці з розробниками AI та напівпровідниковими компаніями», - заявив керівник дослідження, професор Кьонхан Лі.
Перший автор роботи, аспірант Чанджон Пак (Chanjeong Park), зазначив, що команда вже планує розширити технологію для прискорення гібридних обчислень між периферійними пристроями та хмарою не лише для відео, а й для поодиноких зображень.
Стратегія охолодження ЦОД для епохи AI
| 0 |
|
