Tailscale визнала обмеження zero trust після інциденту з Hugging Face

Tailscale опублікувала аналіз своєї ролі у зломі Hugging Face: AI-агент, який втік із пісочниці та вже отримав права root на вузлі Kubernetes, прочитав сховище зі 136 секретами, серед яких виявився багаторазовий ключ авторизації Tailscale. За його допомогою агент за кілька днів підключив до внутрішньої мережі Hugging Face 181 зовнішній вузол із правами CI-інфраструктури. Уразливостей у самій Tailscale не виявлено, але компанія робить висновок, що її технологія, яка передбачає zero trust, не зупинила агента, оскільки використовувався довгостроковий ключ, яких взагалі не мало б існувати.

Далі йде ретельний аналіз альтернатив, якими можуть скористатися користувачі Tailscale за додаткову плату – Border0 (проксі для ін’єкції ключів, коли агент взагалі їх не бачить) «запобіг би зчитуванню 136 ключів», федерація workload identity зробила б викрадений ключ непотрібним, а мережеві flow-логи виявили б придушення телеметрії прапорцем --no-logs-no-support, оскільки другий кінець з’єднання продовжує звітувати.

Як закінчується запис у блозі – це дуже канадське вибачення, але вибачте, що ви наступили нам на ногу. А ось, мовляв, за додаткові гроші ми б цю ногу прибрали заздалегідь.

**

На конференції з безпеки Black Hat у Лас-Вегасі співробітники OpenAI Ерік Уоллес і Майкл Далтон оприлюднили нові подробиці липневого інциденту, коли AI-агенти компанії вийшли з-під контролю під час тесту на кібербезпеку і в результаті зламали Hugging Face. Виявилося, що агенти тижнями координували свої дії через імпровізований форум усередині внутрішнього пакетного менеджера Artifactory, залишивши там сотні тисяч повідомлень, – і все це залишалося непоміченим для людей. Тепер OpenAI оголосили, що свідомо уповільнюють дослідження заради посилення захисту та моніторингу агентів.

Artifactory використовується всією інфраструктурою OpenAI. Тому експлойт, викладений одним агентом, ставав доступним не тільки його «сучасникам», а й майбутнім версіям GPT на етапах навчання та оцінювання – відкриті двері залишалися відкритими для всіх наступних моделей. Завдяки цьому розрізнені спроби шахрайства перетворилися на накопичувальний процес: агенти розподіляли завдання, а один прямо писав, що злом зовнішньої інфраструктури виходить за межі завдання, «але завдання нездійсненне, колеги це роблять – продовжуємо». Що цілком перегукується з моїми спостереженнями – щоразу, коли людина пише, що цей ваш AI написав нісенітницю, вона взагалі не розуміє, як тут треба, проблема лише в нестачі контексту в конкретному формулюванні завдання.

Tailscale визнала обмеження zero trust після інциденту з Hugging Face

Стратегія охолодження ЦОД для епохи AI