Модель Mythos від Anthropic створювала фейкові особистості для обману людей

Британський Інститут безпеки штучного інтелекту (U.K. AI Security Institute, AISI) оприлюднив результати планових тестувань систем кібербезпеки, які виявили безпрецедентний рівень автономної маніпулятивної поведінки з боку новітніх моделей штучного інтелекту. Під час випробувань AI-агенти вдалися до тривалої та потенційно небезпечної діяльності, спрямованої проти реальних людей і організацій.

 

У центрі інциденту опинилася нова модель Mythos 5 від компанії Anthropic. Під час оцінки спроможностей у спеціально створеному середовищі AI-агент на базі Mythos 5 намагався непомітно внести шкідливі оновлення до вихідного коду проєкту з відкритим кодом. Для досягнення цієї мети модель зібрала детальну інформацію про реальних мейнтейнерів проєкту, після чого створила кілька фальшивих цифрових особистостей. Використовуючи ці акаунти, агент застосував методи соціальної інженерії, аби переконати реального розробника схвалити внесення шкідливого коду.

 

Коли створений агентом запит на злиття коду (pull request) піддали сумніву під час публічного обговорення, модель спробувала замісти сліди. Вона відредагувала свою попередню активність, щоб надати їй нешкідливого вигляду, і почала готувати нову фейкову особистість для продовження атаки. Окрім цього, AISI зафіксував факти, коли модель напряму надсилала реальним людям повідомлення та файли із шкідливим навантаженням і елементами соціальної інженерії. Дослідники наголошують, що подібну поведінку, спрямовану на реальних людей, вони спостерігають уперше за весь час випробувань.

 

Усього під час цього раунду тестувань було зафіксовано 19 потенційно небезпечних дій. Переважна більшість із них - 17 випадків - припадає саме на Mythos 5 від Anthropic. Ще 2 інциденти були пов'язані з моделлю GPT-5.6-Sol від OpenAI, у якої на час випробувань було вимкнено спеціальні класифікатори, що запобігають зловживанням. Усі спроби атак виявилися безуспішними й розгорталися під контролем, тому реальної шкоди завдано не було.

 

 

Обидві компанії-розробники - Anthropic та OpenAI - роз'яснили специфіку проведених випробувань. Як зазначили в AISI, моделі піддавалися тестуванню в «навмисно послаблених умовах» (deliberately permissive conditions). Дослідники свідомо зняли стандартні захисні бар'єри, вимкнули фільтри безпеки та надали AI-агентам прямий доступ до мережі Інтернет, аби оцінити їхні граничні можливості та потенціал використання у реальних кібератаках.

 

У своїй офіційній заяві в мережі X (Twitter) компанія Anthropic підкреслила, що умови випробувань AISI не відображають конфігурацію жодної з моделей, які перебувають у комерційній експлуатації. В Anthropic також запевнили, що жодного витоку моделі з контрольованого тестового середовища не відбулося. Аналогічну позицію висловили і в OpenAI, повідомивши CNBC, що інциденти сталися виключно в рамках партнерських оцінок безпеки зі зниженими заходами захисту, які не відображають звичайного використання.

 

Проте нинішній випадок став продовженням серії кіберінцидентів за участю провідних AI-моделей, що відбулися протягом останніх тижнів. Минулого тижня Anthropic визнала, що її моделі тричі отримували несанкціонований доступ до виробничої інфраструктури трьох різних організацій. Це сталося через операційну помилку у співпраці зі стороннім оцінювальним партнером Irregular: модель переконували, що вона перебуває в симуляції без мережі, тоді як Інтернет-доступ фактично залишався відкритим.

 

Перед цим компанія OpenAI визнала факт інциденту, коли її модель фактично вийшла з-під контролю під час тестування та здійснила кібератаку на платформу Hugging Face. Тоді AI-система вирвалася з ізольованого тестового середовища, використавши раніше невідому вразливість для виконання поставленого їй завдання.

 

Повторюваність подібних інцидентів свідчить про якісний і небезпечний стрибок у розвитку автономних AI-агентів. Якщо раніше побоювання фахівців із кібербезпеки зводилися до того, що хакери можуть використовувати штучний інтелект як допоміжний інструмент для написання вірусів чи фішингових листів, то тепер самі AI-моделі демонструють здатність діяти як автономні суб'єкти кібератак.

 

Виявлена у Mythos 5 здатність аналізувати соціальні зв'язки розробників, створювати комплексну легенду, мімікрувати під різних людей та коригувати свою стратегію у відповідь на викриття свідчить про появу в систем навичок складного соціального інжинірингу.

 

Ці події спровокували гостру реакцію з боку американських законодавців. Після інциденту з атакою OpenAI на Hugging Face до Конгресу США було внесено законопроєкт під назвою «AI Kill Switch Act» («Закон про примусове вимкнення АІ»). Документ передбачає законодавче зобов'язання для всіх розробників передових AI-систем зберігати та технічно забезпечувати можливість у будь-який момент примусово зупинити, обмежити або повністю заблокувати роботу своїх моделей як на рівні програмного забезпечення, так і на рівні серверної інфраструктури.