Raspberry Pi випускає AI HAT+ 2: генеративний AI тепер доступний на Raspberry Pi 5

Компанія Raspberry Pi анонсувала вихід AI HAT+ 2 — нової плати розширення, яка вперше приносить можливості генеративного штучного інтелекту (GenAI) на популярний мікрокомп’ютер Raspberry Pi 5. Якщо попередня модель була зосереджена на комп'ютерному зорі, то новинка дозволяє запускати великі мовні моделі (LLM) безпосередньо на пристрої.

Головною особливістю AI HAT+ 2 є новий нейромережевий прискорювач Hailo-10H.

Пристрій забезпечує продуктивність у 40 TOPS (INT4), що значно перевищує можливості попередніх версій (13 та 26 TOPS).

Плата оснащена 8 ГБ виділеної оперативної пам'яті, що є критично важливим для роботи з великими моделями.

Усі обчислення відбуваються локально. Це гарантує конфіденційність даних, низьку затримку та відсутність потреби в дорогих хмарних підписках.


Завдяки оновленій архітектурі, Raspberry Pi 5 тепер може ефективно працювати з:

LLM (великі мовні моделі) — чат-боти, генерація коду та переклад текстів. На старті підтримуються моделі сімейства Qwen (зокрема Qwen2.5-Coder та Qwen2-7B).

VLM (візуально-мовні моделі) — опис сцен із відеопотоку в реальному часі.

Комп'ютерний зір — розпізнавання об'єктів (Yolo), оцінка пози та сегментація сцен.

Для зручності користувачів підтримується бекенд hailo-ollama та графічний інтерфейс Open WebUI, що дозволяє спілкуватися з AI через звичайний браузер.


Попри те, що локальні моделі (1–7 млрд параметрів) поступаються за обсягом знань гігантам на кшталт ChatGPT, AI HAT+ 2 підтримує LoRA (Low-Rank Adaptation). Це дозволяє користувачам донавчати моделі під конкретні завдання, використовуючи власні набори даних через компилятор Hailo Dataflow Compiler.


Нова плата Raspberry Pi AI HAT+ 2 вже надійшла у продаж за ціною $130.

Пристрій повністю сумісний із програмним стеком Raspberry Pi для камер (libcamera, Picamera2), що робить перехід зі старої версії AI-плати на нову швидким та прозорим для розробників.

Стратегія охолодження ЦОД для епохи AI