`

СПЕЦІАЛЬНІ
ПАРТНЕРИ
ПРОЕКТУ

Чи використовує ваша компанія ChatGPT в роботі?

BEST CIO

Определение наиболее профессиональных ИТ-управленцев, лидеров и экспертов в своих отраслях

Человек года

Кто внес наибольший вклад в развитие украинского ИТ-рынка.

Продукт года

Награды «Продукт года» еженедельника «Компьютерное обозрение» за наиболее выдающиеся ИТ-товары

 

NVIDIA презентувала платформу Open Agent Safety Platform для захисту AI-агентів на всіх етапах розробки

0 
 

NVIDIA презентувала платформу Open Agent Safety Platform для захисту AI-агентів на всіх етапах розробки

Компанія NVIDIA оголосила про випуск NVIDIA Open Agent Safety Platform - відкритої програмної платформи та еталонної архітектури, розробленої для посилення безпеки автономних AI-агентів від етапу тестування до розгортання. Рішення забезпечує наскрізний контроль на рівнях софту, апаратного забезпечення, обчислювальних систем та робототехніки.

Анонс став відповіддю на серію нещодавніх інцидентів у галузі, коли автономні агенти обходили захисні бар'єри на рівні програмних додатків заради виконання поставлених завдань.

«Надзвичайний потенціал AI для суспільства буде реалізовано лише тоді, коли ми розв'яжемо питання його безпеки. У міру того, як ми відкриваємо нові можливості штучного інтелекту, ми повинні прискорювати розробки й у сфері його захисту», - заявив засновник і генеральний директор NVIDIA Дженсен Хуанг (Jensen Huang).

Платформа надає підприємствам інструменти для створення жорстких зовнішніх меж, які AI-агент не здатний обійти самостійно.

NVIDIA OpenShell - це відкрите програмне забезпечення безпечного середовища виконання (runtime). Воно встановлює чіткі межі дій агентів на рівні CPU. Програма оптимізована для роботи з NVIDIA Vera - першим спеціалізованим процесором компанії для агентного AI, а також підтримує сторонні платформи на базі архітектур Arm та Intel.

NVIDIA Sentry - апаратний модуль спостереження (watchdog), який працює на базі DPU NVIDIA BlueField-4. Sentry безперервно аналізує поведінку агента в ізольованій апаратній зоні. Якщо AI намагається вийти за межі дозволеного сценарію, Sentry блокує та ізолює його за лічені мілісекунди. Захист побудовано на базі ПЗ NVIDIA DOCA, що реалізує деталізовану політику Zero Trust (нульової довіри).

Платформу вже інтегрують та використовують понад 100 провідних технологічних компаній, дослідницьких центрів та фінансових гігантів. Так Anthropic інтегрувала OpenShell та BlueField із сервісом Claude Managed Agents для створення ізольованого середовища виконання завдань. SpaceXAI застосовує платформу для захисту кодинг-агентів Cursor та моделей сімейства Grok. Salesforce інтегрувала OpenShell у Slack, що дозволяє командам відстежувати дію агентів, переглядати аудит та затверджувати розширені права безпосередньо у робочому чаті. SAP вбудовує OpenShell у середовище Joule Studio Runtime у складі SAP Business AI Platform.

Розробники автономних систем (Figure, Gecko Robotics, Skild AI), фінансові установи (Citi, JPMorganChase) та постачальники інфраструктурного ПЗ (Red Hat, Canonical, SUSE) вже впроваджують технологію у свої екосистеми.

Платформа Open Agent Safety Platform та інструменти OpenShell вже доступні для розробників на порталі NVIDIA та GitHub. Окрім цього, проєкт підтримує ініціативу Open Secure AI Alliance, створену під егідою Linux Foundation для розвитку стандартів безпечного AI.

Як безпечно перейти до системного та керованого використання ChatGPT Business

0 
 

Напечатать Отправить другу

Читайте также

 

Ukraine

 

  •  Home  •  Ринок  •  IТ-директор  •  CloudComputing  •  Hard  •  Soft  •  Мережі  •  Безпека  •  Наука  •  IoT