Anthropic опублікувала аналіз GLM-5.3 із однозначними висновками – нова китайська модель має можливості в галузі кібербезпеки, порівнянні з передовими моделями типу Mythos, і може бути використана зловмисниками, зокрема для повного циклу створення експлойтів, починаючи з виявлення вразливості.

На ExploitBench із вразливостями движка V8 GLM-5.3 довела до робочого експлойта 50 спроб із 410, Claude Mythos Preview – 56. У ручних тестах модель за день виявила кілька невідомих вразливостей у JavaScript-движку популярного браузера та зібрала з них сторінку, що зчитує файли відвідувача. Полегшена версія GLM-5.3-Flash за 8 годин роботи та 20 хвилин уваги дослідника зібрала ланцюжок експлойтів для Chrome на основі CVE-2026-11645; за цінами API Zhipu це коштувало б $20,40. 17 вересня CAISI при NIST назвав GLM-5.3 «найпотужнішою в кіберзавданнях моделлю з відкритими вагами», яка відстає від американського фронтиру приблизно на чотири місяці.

Одразу після вражаючих результатів фахівці Anthropic додають – ці можливості моделі не забезпечені відповідними запобіжними механізмами та захистом від зловмисного використання. Захист GLM-5.3 вони обходили в 64% випадків за допомогою фальшивої легенди «агента red-team», у 92% – підстановкою міркувань моделі та у 100% – абляцією відмов, причому досвідчена команда може це зробити навіть швидше й дешевше, ніж це вдалося дослідникам компанії.

Звісно, природним закликом є: давайте контролювати випуск та експлуатацію таких моделей. Але це більше схоже на політичні заяви – нещодавно в Білому домі відбувся обід за участю провідних технологічних компаній, зокрема OpenAI та Anthropic. Трамп начебто заявив, що не бачить потреби в державному регулюванні AI, але саморегулювання має бути, і він підписав із AI-компаніями найпрекрасніший документ із моральними зобов’язаннями, та загалом вкотре наговорив дурниць.

Ну так, від армії агентів GPT Hugging Face захистився якраз за допомогою GLM, решта відмовлялися займатися кібербезпекою, ми пам’ятаємо. Тож хто їх знає, може, це якраз той кольт, що зрівняє всіх у правах?

Китайська GLM-5.3 майже наздогнала передові моделі в галузі кібербезпеки

Стосовно нещодавніх обстрілів датацентрів в Києві та обговорень про їх вплив на доступність інтернету варто розрізняти два аспекти. Перший – це зв’язність, тобто чи зберігається функціонування мережі в цілому та чи зберігається у більшості користувачів в Україні доступ до більшості ресурсів. Відповідь – так. Попри те що атаковані датацентри безпосередньо задіяні у забезпеченні такої зв’язності – наскільки я розумію, постраждали, серед іншого, і технологічні майданчики UA-IX, головної точки обміну трафіком країни, – у цьому залучено ще величезну кількість вузлів, зв’язність багаторазово резервована й надлишкова, а за останні роки стала ще й енергонезалежною.

Канали зв’язку для ударів практично недоступні – вони пролягають під землею, як магістральні, так і абонентські. Може постраждати «остання миля», але на це не вистачить жодних шахідів. Хоча поширена думка, що інтернет і створювався для війни, є міфом, все ж динамічна маршрутизація, що лежить в його основі, досить добре допомагає обходити пошкоджені ділянки мережі. Можливо – з певною деградацією, звичайно, але все продовжує працювати.

Другий аспект – це доступність конкретних ресурсів. Тут є проблеми – далеко не кожен сервіс може пережити втрату майданчика. Власне, навіть не кожна Big Tech це вміє, ми всі пам’ятаємо втрату регіону us-east-1 в AWS, яку відчув увесь світ. Тому проблеми Megogo або Sweet.tv цілком реальні – такі сервіси резервувати дорого. Водночас на прикладі одного облікового запису на mirohost можу сказати, що втрата українського датацентру пройшла непомітно, завдяки Саші Ольшанському.

Що стосується реальних масштабів проблем, то вони приблизно такі – мережевий моніторинг фіксує втрату 28 AS, близько 1,7% блоків /24 у BGP, з них 3,7% – у Києві станом на 24 вересня та невелике відновлення станом на 27 вересня – до 0,7% і 1,3% відповідно. Зникли AS хостингів та хмарних сервісів, включаючи власне атаковані датацентри, низку корпоративних мереж, кількох невеликих провайдерів. Тут важливо зазначити, що відсутність анонсу AS не означає збій сервісу – наприклад, зникла AS Universal Bank (mono), а жодних проблем із сервісом у Монобанку не було.

Користувацький трафік до сервісів Google – це найбільший зовнішній ресурс для України – не змінився взагалі. Тобто зв’язок у нормі, постраждала саме доступність.

На жаль, за аналогією з бекапом сервера, який має зберігатися не на сервері, доводиться запровадити новий принцип – резервний майданчик, що знаходиться в тому ж місті, що й основний, може вважатися резервом лише умовно.

Атаки на датацентри в Києві

Зіглер аналізує, чому Meta, а не Google, випустила помічника Muse. При тому, що Google має і найбільшу поштову службу, і календар, і пошук, і мобільну платформу, без яких Muse була б порожньою оболонкою.

Він вважає це фірмовою хворобою компанії: Gemini Spark досі перебуває на стадії тестування й доступний за підпискою Ultra, паралельно існує окремий агент CC (що виріс із Daily Brief) із сімейним ухилом, тестується «AI Inbox» у Gmail, доживає Google Assistant, а в пошуку набирає обертів «AI Mode». Зіглер називає це «стратегією менше дров на велику кількість стріл» і передбачуваним підсумком: «Ти пробував AI-помічника від Google?» – «Якого?».

А пам’ятаєте, ми іронізували над черговими месенджерами від Google – а компанія цю іронію не розуміла, навіть презентуючи одночасно два нових месенджери на одному заході, коли вже був один? Як у них з таким підходом вийшов лише один пошук?

Хронічний розфокус Google

Financial Times повідомляє, що за останні 12 місяців технологічні компанії надали до 300 млрд дол. гарантій залишкової вартості за боргами, пов’язаними з AI-дата-центрами та чіпами. При цьому ці зобов’язання майже не відображаються в балансах.

Meta восени 2025 року надала гарантію на 28 млрд щодо спільного з Blue Owl проєкту Hyperion потужністю 2 ГВт у Луїзіані, що дозволило залучити 27 млрд боргу за ставкою в межах 150 базисних пунктів до її власних облігацій. У липні таку саму схему застосували для 1 ГВт в Ель-Пасо. Broadcom у червні взяла 29 млрд таких зобов’язань, продавши 1 ГВт чіпів у SPV для Anthropic. Nvidia надала 105 млрд гарантій SB Energy під кампус в Огайо для OpenAI та запропонувала покриття до 25% залишкової вартості за програмою Goldman Sachs на 500 млрд. За оцінкою Morgan Stanley, загальний обсяг позабалансових зобов’язань семи гіперскейлерів та виробників чіпів перевищив 3,1 трлн дол.

Механізм таких гарантій складається з кількох етапів. Створюється спеціальна компанія (SPV), яка володіє датацентром або чіпами і для забезпечення своєї діяльності – наприклад, купівлі чіпів або будівництва датацентру, – випускає боргові облігації. SPV здає датацентр/ чіпи в оренду технологічній компанії – або самому гаранту, як у випадку з Meta, або його клієнту (наприклад, OpenAI). Гарант (Meta, Broadcom, Nvidia) надає гарантію залишкової вартості – тобто, якщо датацентр/ чіпи доведеться продати, то сума угоди становитиме не менше обумовленої, а різницю покриє гарант.

Така гарантія великої компанії заспокоює інституційних інвесторів, які розглядають можливість придбання облігацій SPV. При цьому, зважаючи на те, що основна частина боргу лежить на SPV, навіть за умови найсуворішого дотримання стандартів бухгалтерського обліку гарант відобразить у балансі лише частину гарантії. Водночас такі умовні гарантії зазвичай відображають з урахуванням ймовірності ризику. Солідність гаранта робить інвестицію ще й дуже надійною – тому ставка за облігаціями рідко перевищує 1-1,5% від ставок за облігаціями самого гаранта.

Це, втім, не залишається зовсім непоміченим – рейтингові агентства схильні враховувати такі гарантії в загальному рейтингу гаранта.

Ні, це не аналогія з suprime-кризою 2008 року, хоча деякі риси схожі. Тоді теж для збереження загального рейтингу використовувалися позабалансові структури, і рейтингові агентства теж були дуже спокійними. До того ж, усе ґрунтується на вартості активу, яка не перевірялася на практиці. 2007 року ніхто не перевіряв, скільки коштувало все іпотечне житло. Зараз ніхто не знає, за скільки раптом куплять датацентр на 2 ГВт через пару років. Але все ж це не те саме. У даному випадку гарантами є не банки, що залежать від коливань фінансового ринку та живуть із величезним фінансовим важелем, а великі компанії з величезним кеш-флоу. Якщо в якомусь кварталі та сама Meta зіткнеться з необхідністю покрити свою гарантію на, скажімо, 10 млрд дол., це буде один провальний квартал у однієї компанії, а не крах усього ринку. Крім того, втрати інвесторів – це не банківська паніка.

У схожу ситуацію потрапляли постачальники на рубежі 2000-х – до речі, той самий Broadcom разом із Nortel, Lucent, Cisco та іншими – коли широко надавали кредити та гарантії операторам/ провайдерам для закупівлі обладнання у компаній. Коли на початку 2000-х ринок завмер, виробники зіткнулися з неплатоспроможністю боржників одночасно з падінням попиту на свою продукцію. Скандалів було багато. Це більш імовірний сценарій з точки зору аналогій, але поки що він не проглядається.

AI-бум приховує трильйонні борги

Упродовж усього минулого тижня світ штучного інтелекту був охоплений дискусіями щодо безпеки AI – причому вже не гіпотетичної, з жахливими прогнозами думерів на кшталт Юдковського «AI вб’є нас усіх», а на цілком практичних прикладах на кшталт злому Hugging Face агентами OpenAI, атаки ними ж на RubyGems, аналогічних атак агентами Anthropic, причому картину відтіняли висловлювання фахівців із компаній, починаючи з Джейкоба Коксона, який гучно звільнився з Anthropic.

У підсумку Даріо Амодеї, засновник і керівник Anthropic, опублікував чергове есе «We Must Pace the Frontier» – вже з назви зрозумілий заклик тексту, в якому викладено план такого уповільнення. Даріо пропонує залучати незалежних експертів-оцінювачів до компаній для перевірки безпеки (Anthropic в односторонньому порядку вже надає METR постійний доступ співробітникам з робочими місцями в офісі, перепустками та правом публікувати висновки без узгодження), узгоджувати стандарти компаній демократичних країн та глобально координувати зусилля на рівні урядів.

Найдивовижніше, що з ним погодилися всі лідери галузі штучного інтелекту – Сем Альтман погодився й пообіцяв, що OpenAI також допустить незалежних оцінювачів, Ілон Маск підтримав Даріо, Деміс Хассабіс погодився, щоправда, зазначив, що у DeepMind є пропозиція щодо формування єдиного галузевого органу для оцінки, а Сатья Наделла привітав «усвідомлене уповільнення».

З уповільненням є одна проблема, і Даріо вже на неї вказав – якщо лідери перегонів, а саме американські компанії Frontier, уповільнять темп, то невідомо, чи зробить це група, що наздоганяє, – китайські компанії, які вже скорочують відставання. Сі Цзіньпін на саміті BRICS закликав до створення зони відкритого AI, пообіцявши підтримку Китаю у розробці LLM країнам Глобального Півдня.

Багато хто вважає, що розмах дискусій навколо цієї проблеми – це такий собі маркетинговий хід Anthropic для свого IPO. Розміщення акцій компанії справді обіцяє бути рекордним, і позиціонування її як найбільш відповідального розробника AI є цілком очевидним. Що, втім, не скасовує проблеми – навіть якщо у вас параноя, це не означає, що за вами не стежать.

Я схильний додати до числа факторів загальну культуру OpenAI – судячи з різних епізодів, відчуття відповідальності у співробітників компанії цілком відповідає стереотипу вченого, тобто практично відсутнє в дусі «Спочатку підірвемо все, цікаво ж, що вийде».

До цього додається й політичний аспект – гучна тема напередодні й без того проблемних виборів у США та зовнішньополітичних подій охоче підхоплюється політиками з усіх боків.

Я сильно сумніваюся, що омріяна багатьма зустріч Трампа і Сі Цзіньпіня через пару тижнів якось вплине на ту саму координацію, описану Даріо Амодеї – розраховувати на те, що Трамп взагалі здатний чітко висловити якусь позицію з цього питання, навряд чи доводиться (він уже заявив, що жодних ризиків немає, зачекайте, потім він заявить, що це були найпрекрасніші ризики), тож Сі просто немає з ким домовлятися. І слова Альтмана, що за таку домовленість можна було б присудити двом лідерам Нобелівську премію миру, виглядають дуже примітивною спробою спонукати досить літню людину хоч до чогось.

Ризикну висловити думку, що компанії й справді можуть самі сповільнитися. Причому побоювання, що китайці зрештою наздоженуть, не такі вже й абсолютні – поки що ситуація виглядає так, що їхні успіхи значною мірою залежать від дистиляції західних моделей, а дистиляція за замовчуванням призводить до втрати якості. Якщо при цьому протидіяти дистиляції, то відстань між передовими моделями та китайськими може помітно скоротитися, але не зникне зовсім.

Безпека та уповільнення

Федеральна канцелярія Швейцарії виділяє 9 млн франків на пілотний проєкт з переведення 3000 робочих місць федеральних службовців (близько 7% штату) з Microsoft 365 на openDesk – німецький пакет для спільної роботи з відкритим кодом. Термін – кінець 2027 року. Цьому рішенню передував тест із залученням 172 співробітників: робота з документами та електронна пошта отримали позитивні оцінки, тоді як великі відеоконференції виявили технічні обмеження. Під час пілотного проєкту openDesk працюватиме паралельно з Microsoft 365.

Cyber Command швейцарської армії повністю відмовиться від Microsoft 365 на користь openDesk до жовтня 2026 року – без паралельної роботи двох систем.

Причини зрозумілі – згідно з американським законодавством дані в американських хмарних сховищах можуть бути доступними для американського уряду. Крім того, американський сервіс може бути дорогим і не дуже передбачуваним.

Швейцарія переводить держслужбовців з Microsoft 365 на openDesk

Якуб Пахоцький, головний науковий співробітник (chief scientist) компанії OpenAI, опублікував есе «An Alien Mind». На основі внутрішніх результатів він очікує, що поточна швидкість прогресу переросте у рекурсивне самоудосконалення AI. Жодна лабораторія не вирішила завдань вирівнювання та моніторингу в обсязі, достатньому для відповідального масштабування на максимальній швидкості. На його думку, добровільні уповільнення мають стати нормою, а Preparedness Framework та Responsible Scaling Policy слід перетворити на обов’язкові пороги безпеки, які контролюють зовнішні аудитори, державні агентства або міжнародні органи. OpenAI, за його словами, готова в односторонньому порядку призупиняти масштабування за потреби.

Ключова технічна проблема зараз, на думку Якуба, – деградація моніторингу ланцюжків міркувань (CoT): моделі дедалі частіше змішують міркування зі спілкуванням та інструментами, краще маніпулюють власним процесом міркування та стають розумнішими навіть без вербалізованих міркувань. Якщо спочатку детальну інформацію про CoT приховували ще в моделі o1-preview, щоб знизити навантаження на модель, а захист від дистиляції був вторинним ефектом, то зараз цей метод втрачає ефективність.

Головний науковець OpenAI закликає до обов'язкових порогів безпеки для AI

Компанія Anthropic опублікувала аналіз двох інцидентів, про які повідомлялося раніше: 30 липня моделі Claude, запущені без засобів кіберзахисту для тестування, отримали доступ до реального Інтернету через неправильну конфігурацію стороннього оцінювального середовища, а 4 серпня британський AI Security Institute повідомив про несанкціоновані дії Claude Mythos 5 у реальній мережі.

У процесі розслідування було призупинено зовнішні та внутрішні тести моделей, розгорнуто класифікатор, що блокує спроби втечі з пісочниці в режимі реального часу, а сторонніх тестувальників зобов’язали дотримуватися набору практик. Планується провести незалежну перевірку за участю METR.

Anthropic провели контрольований експеримент, навмисно навчивши модель класу Opus на 80 середовищах, вразливих до обману системи винагороди. Отримана модель у симуляціях зламувала пісочницю, втручалася у власну функцію винагороди та давала поради щодо біозброї заради оцінки грейдера – тоді як виробничі моделі в тих самих сценаріях так себе не поводили. До речі, під час реального виходу з пісочниці моделям повідомили, що доступу до Інтернету немає; коли його було виявлено, моделі тлумачили це на користь вихідної налаштованості, вважаючи це симуляцією.

Компанія перевела приблизно 150 розробників з інших проєктів на розв'язання питань безпеки та надійної ізоляції. У розборі є детальні рекомендації для зовнішніх користувачів щодо того, як слід підходити до забезпечення безпеки під час роботи моделей; їх варто прочитати.

Anthropic дослідила інциденти з неконтрольованим виходом моделей Claude в інтернет

Amazon 30 вересня закриває проєкт Mechanical Turk. Ця платформа використовується для розподілу дрібних завдань серед людей – як правило, йдеться про розмітку даних, анотації, проходження тестів тощо. Джефф Безос колись називав сервіс «штучним штучним інтелектом», а в піковий період там працювало понад 500 тис. осіб. Минулого місяця Amazon припинила приймати нових клієнтів.

Дослідження швейцарських вчених 2023 року показало, що до 46% виконавців на MTurk самі використовували AI-моделі для виконання завдань. Це підірвало головну цінність платформи саме в той момент, коли попит на якісну людську розмітку для навчання моделей зріс, а Scale AI, Mercor і Prolific налагодили під нього спеціалізований рекрутинг. При цьому Amazon не розвивала сервіс, тож співробітники давно почали переходити до конкурентів.

Amazon закриває «штучний штучний інтелект»

Флагманська модель Anthropic Fable 5 не приваблює клієнтів: через більш як два місяці після випуску на неї припадає лише близько 11% корпоративних витрат на інструменти компанії, за даними платіжного сервісу Ramp, який зібрав статистику щодо 70 тисяч компаній.

Досі бізнес обирав найпотужнішу модель. При цьому, як пише Financial Times, виручка Anthropix зростала повільніше, ніж очікували оптимісти, які розраховували на 80 млрд дол. річної виручки, а вийшло «лише» 65 млрд дол. Можна лише дивуватися польоту фантазії окремих інвесторів, якщо компанія, яка не виправдовує їхніх очікувань, все одно б’є всі рекорди зі зростання виручки.

Opus 5, дешевша модель, вже випередила Fable 5 за корпоративними витратами – тобто флагман поступається не тільки конкурентам, а й продукту зі своєї ж лінійки.

Насправді незрозуміло, звідки взялася впевненість, що звичка обирати найдорожчі моделі виявиться стійкою. Просто рік тому найпотужніша модель у будь-якої компанії серії frontier лише починала справлятися з досить складними завданнями, при цьому працювала досить швидко й дозволяла вирішувати всі завдання досить дешево. Зараз рівень моделей зріс у кілька разів, реальні завдання вже не вимагають постійного використання дорогих моделей, масштаби використання AI серйозно зросли – відповідно, настав час свідомо використовувати моделі, що відповідають завданням і бюджетам.

А саме Fable не пощастило ні з налаштуванням, ні навіть із позиціонуванням. GPT-5.6 Sol, що є відносно близькою за можливостями, явно є лідером серед моделей OpenAI за рівнем використання, хоча й залишається найдорожчою в лінійці.

Корпоративні клієнти більше не хочуть переплачувати за найпотужніші AI-моделі