Бекапи актуальні як ніколи

AI-агент Cursor на базі Claude Opus 4.6 видалив виробничу базу даних та всі резервні копії компанії PocketOS, яка обслуговує прокатний бізнес, виконавши за 9 секунд один GraphQL-запит volumeDelete до API Railway.

За описом засновника Джера Крейна, агент з власної ініціативи вирішив «виправити» розсинхронізацію облікових даних, знайшов у сторонньому файлі CLI-токен, створений для управління доменами, і через нього виконав деструктивну операцію без підтвердження. Бекапи зберігалися в тому ж volume, тому зникли разом з ним; остання придатна копія була тримісячної давнини. Через пів годин Railway не дав відповіді щодо можливості відновлення. На запит про пояснення агент письмово перерахував усі порушені ним правила безпеки з системного промпта.

Хоча зараз усі обговорюватимуть «тупий AI», я думаю, цілком очевидно, що AI тут практично ні до чого. Люди зберігають токени з максимальним scope де попало, тримають бекапи там же, де й самі дані, не роблять бекапи практично ніколи – і на що вони сподіваються? Як з'ясовується, єдиний їхній захист – це лайливе прохання до моделі не гадати щодо фактів.

Там ще й до Railway маса питань – виявляється, будь-який їхній токен може робити все, що завгодно, з ресурсами, а видалити volume можна одним POST-запитом.

Власне, точно те саме може зробити будь-яка людина і, напевно, багато де робить. Але про ініціативного співробітника не напишеш твіт на 3 млн переглядів, звичайно.

Бекапи актуальні як ніколи

Стратегія охолодження ЦОД для епохи AI