Анонсовано Red Hat Enterprise Linux AI

Компанія Red Hat оголосила про випуск Red Hat Enterprise Linux AI (RHEL AI), платформи, яка дозволить безперешкодно розробляти, тестувати і розгортати моделі генеративного AI.

Як зазначається, RHEL AI об'єднує ліцензоване сімейство великих мовних моделей (LLM) Granite з відкритим вихідним кодом від IBM Research. А також інструменти вирівнювання моделей InstructLab, засновані на методології LAB (Large-scale Alignment for chatBots), і підхід до розробки моделей, керований спільнотою, в рамках проекту InstructLab. Все рішення упаковано у вигляді оптимізованого завантажувального образу RHEL для розгортання на окремих серверах у гібридній хмарі, а також включено до складу OpenShift AI, гібридної платформи для операцій машинного навчання (MLOps) від Red Hat, для запуску моделей та InstructLab у масштабі в розподілених кластерних середовищах.

"RHEL AI і проект InstructLab в поєднанні з Red Hat OpenShift AI в масштабі покликані знизити багато бар'єрів, з якими стикається GenAI в гібридній хмарі, від обмежених навичок в галузs науки про дані до необхідних ресурсів, одночасно сприяючи інноваціям як в корпоративних розгортаннях, так і в спільнотах розробників", - Ашеш Бадані (Ashesh Badani), старший віце-президент і директор по продуктам Red Hat.

Запуск ChatGPT викликав величезний інтерес до GenAI, і з того часу темпи інновацій тільки прискорюються. Підприємства почали переходити від перших оцінок сервісів GenAI до створення додатків з підтримкою АІ. Швидко зростаюча екосистема варіантів відкритих моделей стимулює подальші інновації в галузі штучного інтелекту і демонструє, що не існує "однієї моделі, яка б керувала всіма". Клієнти отримають вигоду від безлічі варіантів для задоволення конкретних вимог, і все це ще більше прискориться завдяки відкритому підходу до інновацій.

Впровадження стратегії АІ вимагає більше, ніж простого вибору моделі; технологічні організації потребують досвіду, щоб налаштувати певну модель для свого конкретного випадку використання, а також мати справу зі значними витратами на впровадження АІ. Дефіцит навичок у сфері науки про дані ускладнюється ще й значними фінансовими потребами:

• Закупівля інфраструктури штучного інтелекту або споживання послуг AI
• Cкладний процес налаштування моделей штучного інтелекту під конкретні бізнес-потреби
• Інтеграція ШІ в корпоративні додатки
• Управління життєвим циклом як програми, так і моделі.

Щоб дійсно знизити вхідні бар'єри для інновацій у сфері штучного інтелекту, підприємства повинні мати можливість розширити список тих, хто може працювати над ініціативами у сфері АІ, одночасно контролюючи ці витрати. За допомогою інструментів узгодження InstructLab, моделей Granite і RHEL AI компанія Red Hat прагне застосувати переваги справжніх проектів з відкритим вихідним кодом - вільно доступних і багаторазових, прозорих і відкритих для внесків - до GenAI, щоб усунути ці перешкоди.

IBM Research створила методику Large-scale Alignment for chatBots (LAB) - підхід до вирівнювання моделей, який використовує таксономічну генерацію синтетичних даних і нову багатоетапну систему налаштування, керовану таксономією. Цей підхід робить розробку моделей АІ більш відкритою та доступною для всіх користувачів, зменшуючи залежність від дорогих людських анотацій та пропрієтарних моделей. Використовуючи метод LAB, моделі можна вдосконалювати, визначаючи навички та знання, пов'язані з таксономією, генеруючи на основі цієї інформації синтетичні дані, які впливають на модель, і використовуючи згенеровані дані для навчання моделі.

Побачивши, що метод LAB може допомогти значно покращити продуктивність моделей, IBM та Red Hat вирішили запустити InstructLab, спільноту з відкритим кодом, побудовану навколо методу LAB та моделей Granite від IBM з відкритим кодом. Проект InstructLab має на меті передати розробку LLM в руки розробників, зробивши створення, побудову та участь в LLM такою ж простою, як і участь в будь-якому іншому проекті з відкритим кодом.

В рамках запуску InstructLab компанія IBM також випустила сімейство вибраних моделей англійської мови та коду Granite у відкритому доступі. Ці моделі випущені під ліцензією Apache з прозорістю наборів даних, що використовуються для навчання цих моделей. Модель англійської мови Granite 7B була інтегрована в спільноту InstructLab, де кінцеві користувачі можуть поділитися своїми навичками і знаннями для колективного вдосконалення цієї моделі, так само, як і в будь-якому іншому проекті з відкритим вихідним кодом. Аналогічна підтримка моделей коду Granite в рамках InstructLab буде доступна найближчим часом.

Стратегія охолодження ЦОД для епохи AI