QNAP презентувала сервер для розгортання приватних AI-інфраструктур

На тлі висхідного попиту на суверенітет даних та локальні обчислення, компанія QNAP Systems представила QAI-h1290FX. Це сервер зберігання даних нового покоління для Edge AI, спеціально розроблений для приватного розгортання великих мовних моделей (LLM), пошукових систем на базі RAG (Retrieval-Augmented Generation) та додатків генеративного AI.

Новинка дозволяє організаціям отримати повний контроль над своїми даними, забезпечуючи низьку затримку інференсу (виведення) без жодної залежності від хмарних сервісів.

QAI-h1290FX побудований на базі 16-ядерного процесора AMD EPYC 7302P (32 потоки) та оснащений 12 слотами для накопичувачів U.2 NVMe/SATA SSD. Головною особливістю архітектури є підтримка графічного прискорення. Сервер сумісний із професійною відеокартою NVIDIA RTX PRO 6000 Blackwell Max-Q (до 96 ГБ відеопам'яті), що критично важливо для глибокого навчання та роботи з трансформерними моделями.

QNAP максимально спростила вхід у сферу AI, інтегрувавши в систему QuTS hero (на базі ZFS) набір як попередньо встановлених інструментів (AnythingLLM, OpenWebUI та Ollama для швидкого запуску робочих процесів LLM), так і розширення функціональності (планується інтеграція Stable Diffusion, ComfyUI для генерації зображень та vLLM).

Підтримка Docker та LXD дозволяє легко розподіляти ресурси GPU між контейнерами та віртуальними машинами без складних налаштувань через командний рядок.

«Ми хотіли усунути складнощі, пов’язані зі збіркою робочих станцій та конфігурацією середовищ, - зазначає Олівер Лам (Oliver Lam), продукт-менеджер QNAP. - З QAI-h1290FX користувачі можуть запускати свої моделі AI одразу після розпакування, зберігаючи повну приватність даних».

Серед ключових сценаріїв використання новинки слід зазначити корпоративні AI-асистенти зі створенням внутрішніх чат-ботів для навчання співробітників та доступу до внутрішніх баз знань; пошук за контрактами та звітами з використанням RAG-конвеєрів для миттєвого контекстного пошуку у внутрішніх документах; локальний запуск Stable Diffusion для створення візуального контенту без ризику витоку авторських напрацювань та інтеграція AI в бізнес-процеси за допомогою n8n для автоматизації сповіщень та генерації контенту.

Сервер оснащений двома портами 25GbE та двома 2.5GbE, а слоти PCIe дозволяють апгрейд до 100GbE. Для організацій з великими обсягами даних передбачена можливість підключення модулів розширення QNAP JBOD.

Зазначено, з виходом QAI-h1290FX, QNAP пропонує практичне рішення для бізнесу, якому потрібна швидкість AI разом із надійністю локального зберігання. Пристрій вже доступний для замовлення через офіційну дистриб’юторську мережу компанії.