Amazon оголосила про доступність інструментів для створення програм генеративного AI Bedrock

Представлений у квітні Amazon Bedrock - це повністю керований сервіс, що пропонує на вибір високопродуктивні базові моделі (foundation models, FM) від провідних AI-компаній, включаючи AI21 Labs, Anthropic, Cohere, Stability AI та Amazon, а також широкий набір можливостей для створення генеративних AI-додатків, що спрощують розробку при збереженні конфіденційності та безпеки.

За повідомленням Amazon, параметричні моделі Meta Llama 2 13B та 70B скоро будуть доступні на Amazon Bedrock.

Широкі можливості Amazon Bedrock дозволяють експериментувати з різними провідними FM-системами, налаштовувати їх відповідно до ваших даних за допомогою таких методів, як тонке налаштування та генерація з розширенням пошуку (RAG), а також створювати керовані агенти, що виконують складні бізнес-завдання. І все це без написання будь-якого коду.

Примітно, що деякі можливості, наприклад агенти для Amazon Bedrock, включаючи бази знань, як і раніше, доступні в попередній версії.

Оскільки Amazon Bedrock є безсерверним, не потрібно керувати інфраструктурою і можна безпечно інтегрувати та впроваджувати можливості генеративного AI у свої програми, використовуючи вже знайомі сервіси AWS.

Amazon Bedrock інтегрований з Amazon CloudWatch та AWS CloudTrail для підтримки моніторингу та управління. За допомогою CloudWatch можна відстежувати показники використання і створювати інформаційні панелі, що настроюються, для цілей аудиту. За допомогою CloudTrail можна прослідковувати активність API та усувати неполадки при інтеграції інших систем у додатки генеративного AI. Amazon Bedrock також дозволяє створювати додатки, що відповідають вимогам GDPR, та використовувати Amazon Bedrock для запуску чутливих робочих навантажень, регульованих відповідно до Закону США про переносність та підзвітність медичного страхування (HIPAA).

Доступ до доступних FM у Amazon Bedrock можна отримати через консоль керування AWS Management Console, AWS SDK та фреймворки з відкритим вихідним кодом, такі як LangChain. У консолі Amazon Bedrock можна переглядати FM, вивчати та завантажувати приклади використання та підказки для кожної моделі.

Amazon Bedrock пропонує ігрові майданчики для чату, тексту та моделей зображень. На майданчику чату можна експериментувати із різними FM, використовуючи інтерфейс розмовного чату.

Стратегія охолодження ЦОД для епохи AI