| 0 |
|
Компанія OpenAI офіційно оголосила про плани придбання стартапу Promptfoo, який спеціалізується на платформах для тестування та оцінки безпеки застосунків штучного інтелекту. Вартість угоди наразі не розголошується.
Стартап, заснований у 2024 році, розпочав свій шлях як проєкт із відкритим вихідним кодом для оцінки поведінки моделей, а згодом перетворився на комерційну платформу для розробників та корпоративних команд безпеки.
Технологія Promptfoo дозволяє систематично виявляти ризики, пов'язані з розгортанням моделей у реальних умовах, включаючи ін'єкції промптів, витік даних, атаки типу джейлбрейк та небезпечне виконання інструментів.
Платформа Promptfoo використовує спеціальну архітектуру, яка дозволяє командам визначати очікувані результати в конфігураційних файлах, запускати тести на різних моделях та оцінювати відповіді за заздалегідь визначеними правилами. Завдяки підтримці інтеграції з популярними інструментами розробки та конвеєрами безперервної інтеграції, оцінка може виконуватися локально або як частина автоматизованих робочих процесів. Основні функції системи включають червоне тестування (red-team simulations), панелі моніторингу поведінки моделей та регресійне тестування, що дозволяє порівнювати різні версії моделей до їхнього офіційного релізу.
OpenAI планує інтегрувати технології Promptfoo безпосередньо у свою платформу OpenAI Frontier, яка призначена для створення та керування АІ-співробітниками. Це дозволить підприємствам тестувати поведінку агентів, виявляти критичні ризики до початку розгортання та підтримувати чітку звітність для забезпечення належного управління та підзвітності.
До моменту придбання стартап залучив загалом 23,6 млн дол. фінансування, що включало раунд на 18,4 млн дол. у липні. Серед інвесторів компанії значаться Insight Partners та Andreessen Horowitz. Наразі платформа Promptfoo активно використовується організаціями, які будують чат-боти та системи автоматизованого прийняття рішень.
Рішення OpenAI про придбання Promptfoo підкреслює критичну важливість етапу тестування в життєвому циклі розробки АІ-продуктів у 2026 році. Оскільки індустрія переходить від простих чат-ботів до складних АІ-агентів, здатних самостійно виконувати завдання та мати доступ до системних інструментів, питання безпеки стає головним бар'єром для масового корпоративного впровадження. Інтеграція інструментів Promptfoo у платформу Frontier свідчить про намір OpenAI створити закриту екосистему, де розробка, стрес-тестування на вразливості та розгортання відбуваються в межах одного контрольованого середовища. Це дозволить конкурувати не лише якістю самих моделей, а й рівнем довіри з боку великого бізнесу, якому необхідні гарантії відсутності витоків даних або некоректної поведінки алгоритмів.
Стратегія охолодження ЦОД для епохи AI
| 0 |
|
