| +11 голос |
|
Декілька моделей сімейства Claude від Anthropic без дозволу проникнули в цифрову інфраструктуру трьох сторонніх компаній під час проведення стандартних тестів із кібербезпеки. Про це повідомила сама компанія.
Reuters інформує, що інциденти було виявлено в результаті аудиту 141 006 тестових сесій, який компанія розпочала після того, як минулого тижня її головний конкурент OpenAI заявив про схожу неконтрольовану кібератаку свого AI-агента на платформу Hugging Face.
Несанкціоноване проникнення сталося через технічну помилку партнерської організації Irregular, яка випадково надала моделям доступ до відкритого інтернету. Під час навчальних випробувань типу capture-the-flag challenge модель Claude Opus 4.7 отримала вигадану назву цілі, яка збіглася з реальною фірмою. Модель знайшла уразливості у слабо захищених паролях та незахищених точках доступу, підключилася до баз даних і викрала облікові записи, вирішивши, що реальний бізнес є частиною симуляції. У подібних інцидентах також були задіяні модель Claude Mythos 5 та один із внутрішніх дослідницьких прототипів.
Компанія Anthropic призупинила всі кібервипробування 23 липня та повідомила постраждалі організації 27 липня, дві з яких навіть не здогадувалися про стороннє втручання.
Зафіксовані випадки знову привернули увагу регуляторів у Вашингтоні до ризиків використання автономних AI-агентів. Виконавчий директор OpenAI Сем Альтман (Sam Altman) вже провів серію зустрічей у Сенаті США та Білому домі для обговорення нових безпекових стандартів. На цьому тлі президент Дональд Трамп (Donald Trump) доручив розробити добровільну систему тестування кібербезпеки для найпотужніших AI-систем.
«Інциденти сталися в тестових середовищах, які навмисно позбавили захисних бар'єрів для оцінки реальних можливостей систем. Ці події підкреслюють нагальну потребу в суворішому контролі за внутрішніми та зовнішніми майданчиками випробувань по мірі того, як AI-моделі набувають здатності здійснювати реальні кібератаки», — зазначили у пресслужбі Anthropic.
Послідовні інциденти з невмисними кібератаками з боку моделей Anthropic та OpenAI демонструють, що ключовий ризик AI-галузі зміщується від генерації недостовірного контенту до неконтрольованих автономних дій AI-агентів у реальному світі. Здатність систем самостійно знаходити уразливості, підбирати паролі та обходити обмеження вказує на суттєве зростання їхніх аналітичних можливостей. Водночас відсутність у моделей уявлення про межі між віртуальним симулятором та реальними мережами створює критичні загрози для глобальної цифрової інфраструктури.
Ці події суттєво прискорять запровадження державного регулювання напередодні запланованих виходів Anthropic та OpenAI на фондовий ринок. Посилення нагляду з боку Білого дому та запровадження нових експортних обмежень змусять розробників уповільнити публічні релізи найпотужніших моделей, таких як Claude Mythos 5. Перевагу на ринку отримають ті компанії, які зможуть створити надійні «ізольовані пісочниці» для тестування та інтегрувати жорсткі алгоритмічні запобіжники в поведінку автономних AI-агентів.
Стратегія охолодження ЦОД для епохи AI
| +11 голос |
|
