Цікавий репортаж з дев’ятої конференції з кібербезпеки E.DSO – EE-ISAC – ENCS – ENISA, яка цього разу була присвячена безпеці енергосистем. Однією з ключових проблем, яку там обговорювали, стала проблема домашніх інверторів та накопичувачів. Оскільки вони фактично вважаються побутовими приладами, особливого регулювання цього ринку немає, а тим часом загальна генерація цього сектору вже сягає 100 ГВт. При цьому ними керують, як правило, через хмарні сервіси, причому погано захищені й здебільшого китайські. Атака на генерацію такого масштабу здатна серйозно порушити роботу енергосистеми – за даними фахівців, для цього достатньо вивести з експлуатації всього 3 ГВт.

Уявити цю величину дуже просто – середня потужність одного енергоблоку АЕС становить якраз близько гігавата.

Коли я зіткнувся з тим, що найновіший варіант логгера до інвертора Deye передбачає лише використання хмари для управління, і почув від менеджера компанії-інсталятора, що приїде інженер, все налаштує і «надасть доступ», одразу знайшов спосіб налагодити локальний доступ до інвертора, сам усе налаштував і нікому жодного доступу не надав – це критична інфраструктура мого будинку, і жоден «інженер», не кажучи вже про китайську хмару, не повинен мати до неї доступу. Тим більше, що зараз це зробити зовсім не складно і, що найцікавіше, без хмари доступ кращий і надійніший.

Домашні інвертори як загроза енергосистемі

Мене вже кілька разів запитували та просили прокоментувати наслідки атаки на датацентр «Яндекса» в Сасово, тож коротко підсумую. Перш за все – для самого «Яндекса» наслідки поки що обмежені. Так, датацентр у Сасово чималий: на початку 2014 року заявлялося про 12 МВт, зараз, найімовірніше, більше, але навряд чи перевищує 20. Це не найбільший датацентр – два датацентри у Володимирі мають потужність по 40 МВт, у Калузі – до 63, хоча це проєктна потужність. Для орієнтира – це приблизно стільки ж, скільки в OVH у Європі.

Найбільшим дата-центром «Яндекса» був Мянцяля, але він перейшов до Nebius, зараз його реальна потужність становить 75 МВт, хоча проєкт передбачає 310 МВт. Але «Яндекс» уже кілька десятиліть працює не лише на одному майданчику; ще на початку 2010-х кількість технологічних майданчиків (логічно, що це і є окремі датацентри з окремим живленням та лініями зв’язку), на яких працювали сервіси, перевищувала десяток.

Причому після низки аварій, коли й з незалежних від компанії причин сервіси серйозно погіршували роботу або взагалі ставали недоступними (приблизно наприкінці 2000-х), департамент експлуатації серйозно підійшов до цього питання, і була розроблена чітка концепція надійності – ключові сервіси (пошук, пошта, потім карти тощо) повинні безболісно для користувача переживати втрату двох датацентрів, комерційні (Директ, Маркет) – одного, інфраструктурні могли обмежено погіршувати роботу при втраті одного датацентру (наприклад, звіти для клієнтів Директу можна сформувати навіть із запізненням на пару годин). Регулярно проводилися навчання – вимикали (відключали мережу) один із ДЦ і перевіряли, що у вас у сервісі зламалося, хоча цього не мало статися.

З іншого боку, нинішні великі датацентри типу «Володимир» (1 і 2), «Сасово», «Калуга» та «Митищі» насправді набагато якісніші та дешевші в експлуатації з безлічі причин. Це й нижчі місцеві платежі (не Москва), і наявність майданчиків із підведеною потужністю, а ДЦ у Володимирі взагалі побудовані за кілька сотень метрів від найбільшої підстанції 750/500 кВ у Європі, через яку в енергосистему росії подається електроенергія, вироблена на Жигулівській ГЕС, Калінінській АЕС та Костромській ГРЕС. Компанія відкрито заявляла, що закриває майданчики в Москві, де електроенергія дорога й дефіцитна, і, ймовірно, зосередила основні сервіси у перелічених вище ДЦ. Ще один ДЦ – перший самостійний – був в Івантєєвці під Москвою, але він, мабуть, закритий. Ще один будується в Можайську і планується до запуску наступного року. Все це наведено для того, щоб було зрозуміло – потужностей у «Яндекса» достатньо, і втрата одного ДЦ помітна, але сервіси продовжують працювати.

Втім, є одна істотна втрата – за деякими даними, саме в Сасово було розгорнуто два з трьох кластерів Яндекса, що складалися з кількох тисяч A100 – саме на них працював Yandex.GPT. Тут у мене виникає дивне відчуття, оскільки водночас я читаю, як Nebius надає послуги з доступу до GB300 NVL72. Ось хто не живе – це клієнти. Володимир, Сасово, Калуга та Митищі – це 4 майданчики сервісу «Яндекс.Cloud», який надає послуги хмарного хостингу. Гіперскейлер, тобто аналог AWS, Google Cloud і Microsoft Azure. Сервіси «Яндекса», що розміщені в цих самих датацентрах, резервуються, а ось для будь-якого клієнта хмари резервування означає підтримку декількох екземплярів у різних регіонах сервісу (або в різних сервісах, але це не зовсім стосується росії). Це дорого й проблематично. Саме тому зникнення датацентру так позначилося на сайтах, які, здавалося б, ніяк не пов’язані з «Яндексом» – у них там були віртуальні машини, зберігалися дані чи що завгодно ще.

Мене запитали: «Адже українські датацентри теж атакують, що, вам краще?». Насправді нам нелегко, але взагалі-то так, краще. У мене є клієнт із сайтом у «Мірохості» та кількома доменами на imena.ua. Жоден із них не відчув втрати датацентру «Мірохоста» – сервіс давно запустив резервні майданчики в Європі й спокійно переніс туди багатьох клієнтів. А багато хто просто давно розміщений у Європі – часто це дешевше й швидше. Що заважає зробити те саме російським сервісам (ну, крім «Яндекса» та тих, що підпадають під санкції)?

Насамперед – закони. У росії діє закон, згідно з яким персональні дані громадян рф можна зберігати лише на території рф. Ім’я, прізвище, адреса електронної пошти чи телефон – закон стосується вас. Саме за цим законом у росії 10 років тому заблокували LinkedIn. Саме тому варіанти міграції даних клієнтів Cloud або сервісів «Яндекса» на майданчики в інші країни – наприклад, у Казахстан, де є два майданчики «Яндекс.Cloud» – теж не підходять. Навіть не кажучи про те, що зв’язок між рф і Казахстаном, м’яко кажучи, недостатній для нормальної роботи сервісів для російської аудиторії.

Що буде далі? Це залежатиме від масштабів атак на датацентри. Вони дуже вразливі до повітряних ударів і, скажемо прямо, не проєктувалися з урахуванням такого. Щобільше, якщо після удару по НПЗ він просто перестає працювати на кілька тижнів або місяців, проводять ремонт, замінюють обладнання та запускають знову, то з датацентром гірше – пожежа означає втрату даних, знищення серверів та величезної кількості іншого обладнання, включаючи оптику. Зараз «Яндекс» повідомляє, що, найімовірніше, не зможе відновити датацентр у Сасово. Кількість серверів там можна оцінити в 30-40 тис. І датацентр доведеться просто будувати заново. Минулого разу це зайняло два роки. Атаки на інші датацентри призведуть до більш масштабних збоїв, а тікати особливо нікуди.

Багато говорять про те, що треба б атакувати й такі місця, як М9 – головну точку обміну трафіком MSK-IX. Але тут не варто надто сподіватися – по-перше, це Москва з усіма ешелонами ППО, по-друге, майданчиків біля М9 тільки в Москві кілька, до неї ж належать і регіональні IX – коротко кажучи, саме з тих самих причин, через які атаки на українські датацентри не зруйнують зв’язність інтернету тут, атаки на російські IX не зруйнують інтернет там. Напрошується іронічний висновок, що предмет гордості росіян у сфері технологій – великі інтернет-компанії – тепер стануть вразливим місцем. В Україні з нашою децентралізацією просто немає однієї-двох таких компаній, у яких би зосередилися всі цифрові сервіси, і навіть атаки на явних лідерів не руйнують життя людей.

Атаки на «Яндекс» – наслідки

Щодо «освіти» – одразу кілька відомих незалежних викладачів веб-розробки повідомляють, що генеративний AI зруйнував їхній бізнес. Аксель Раушмайєр з 2005 року веде блог 2ality про ECMAScript. За його словами, дохід від книг впав з рівня, на який можна було жити у 2024 році, до нуля у 2026-му. Джош Комо та інші автори курсів фіксують падіння виручки на 50% і більше. Кайл Кук із Web Dev Simplified заробляє вдвічі менше, ніж рік тому. Бальдур Бьярнасон втратив усі навчальні проєкти: попит на електронні книги з веб-розробки впав, колеги закривають свої бізнеси. Салма Алам-Нейлор пішла з DevRel на менш оплачувану посаду розробника без публічної активності.

Ну, що тут сказати? Можна, звичайно, поспівчувати людям, які сподівалися все життя присвятити поясненню елементарних речей на кшталт: «Ось бачите, елемент X має властивість стилю Y, це означає, що можна написати ось так – і диво, текст тепер по центру, з вас 300 баксів за пів години та ще 25 прикладів такого використання». Правда, вони ж не співчували авторам книг «Як запустити веб-браузер на Windows 95», коли у тих провалилися чергові перевидання під назвою «Як ще запустити веб-браузер на Windows 7».

Однак розвиток штучного інтелекту робить знання, що ґрунтуються на примітивних навичках та накопиченому досвіді, легкодоступними. Вам не потрібно 10 тисяч повторень, щоб знати про певні підводні камені в тій чи іншій діяльності або застосовувати рішення, що ґрунтуються на механічному досвіді. Власне, у цьому й полягає сенс цивілізації та культури – зберігати знання та передавати їх між поколіннями. Якщо ваш бізнес ґрунтується на неправильному тлумаченні попереднього дієслова, як-от «продавати», то ласкаво просимо до клубу візників та секретарів-друкарів.

Кінець епохи продавців знань

Anthropic опублікувала аналіз GLM-5.3 із однозначними висновками – нова китайська модель має можливості в галузі кібербезпеки, порівнянні з передовими моделями типу Mythos, і може бути використана зловмисниками, зокрема для повного циклу створення експлойтів, починаючи з виявлення вразливості.

На ExploitBench із вразливостями движка V8 GLM-5.3 довела до робочого експлойта 50 спроб із 410, Claude Mythos Preview – 56. У ручних тестах модель за день виявила кілька невідомих вразливостей у JavaScript-движку популярного браузера та зібрала з них сторінку, що зчитує файли відвідувача. Полегшена версія GLM-5.3-Flash за 8 годин роботи та 20 хвилин уваги дослідника зібрала ланцюжок експлойтів для Chrome на основі CVE-2026-11645; за цінами API Zhipu це коштувало б $20,40. 17 вересня CAISI при NIST назвав GLM-5.3 «найпотужнішою в кіберзавданнях моделлю з відкритими вагами», яка відстає від американського фронтиру приблизно на чотири місяці.

Одразу після вражаючих результатів фахівці Anthropic додають – ці можливості моделі не забезпечені відповідними запобіжними механізмами та захистом від зловмисного використання. Захист GLM-5.3 вони обходили в 64% випадків за допомогою фальшивої легенди «агента red-team», у 92% – підстановкою міркувань моделі та у 100% – абляцією відмов, причому досвідчена команда може це зробити навіть швидше й дешевше, ніж це вдалося дослідникам компанії.

Звісно, природним закликом є: давайте контролювати випуск та експлуатацію таких моделей. Але це більше схоже на політичні заяви – нещодавно в Білому домі відбувся обід за участю провідних технологічних компаній, зокрема OpenAI та Anthropic. Трамп начебто заявив, що не бачить потреби в державному регулюванні AI, але саморегулювання має бути, і він підписав із AI-компаніями найпрекрасніший документ із моральними зобов’язаннями, та загалом вкотре наговорив дурниць.

Ну так, від армії агентів GPT Hugging Face захистився якраз за допомогою GLM, решта відмовлялися займатися кібербезпекою, ми пам’ятаємо. Тож хто їх знає, може, це якраз той кольт, що зрівняє всіх у правах?

Китайська GLM-5.3 майже наздогнала передові моделі в галузі кібербезпеки

Стосовно нещодавніх обстрілів датацентрів в Києві та обговорень про їх вплив на доступність інтернету варто розрізняти два аспекти. Перший – це зв’язність, тобто чи зберігається функціонування мережі в цілому та чи зберігається у більшості користувачів в Україні доступ до більшості ресурсів. Відповідь – так. Попри те що атаковані датацентри безпосередньо задіяні у забезпеченні такої зв’язності – наскільки я розумію, постраждали, серед іншого, і технологічні майданчики UA-IX, головної точки обміну трафіком країни, – у цьому залучено ще величезну кількість вузлів, зв’язність багаторазово резервована й надлишкова, а за останні роки стала ще й енергонезалежною.

Канали зв’язку для ударів практично недоступні – вони пролягають під землею, як магістральні, так і абонентські. Може постраждати «остання миля», але на це не вистачить жодних шахідів. Хоча поширена думка, що інтернет і створювався для війни, є міфом, все ж динамічна маршрутизація, що лежить в його основі, досить добре допомагає обходити пошкоджені ділянки мережі. Можливо – з певною деградацією, звичайно, але все продовжує працювати.

Другий аспект – це доступність конкретних ресурсів. Тут є проблеми – далеко не кожен сервіс може пережити втрату майданчика. Власне, навіть не кожна Big Tech це вміє, ми всі пам’ятаємо втрату регіону us-east-1 в AWS, яку відчув увесь світ. Тому проблеми Megogo або Sweet.tv цілком реальні – такі сервіси резервувати дорого. Водночас на прикладі одного облікового запису на mirohost можу сказати, що втрата українського датацентру пройшла непомітно, завдяки Саші Ольшанському.

Що стосується реальних масштабів проблем, то вони приблизно такі – мережевий моніторинг фіксує втрату 28 AS, близько 1,7% блоків /24 у BGP, з них 3,7% – у Києві станом на 24 вересня та невелике відновлення станом на 27 вересня – до 0,7% і 1,3% відповідно. Зникли AS хостингів та хмарних сервісів, включаючи власне атаковані датацентри, низку корпоративних мереж, кількох невеликих провайдерів. Тут важливо зазначити, що відсутність анонсу AS не означає збій сервісу – наприклад, зникла AS Universal Bank (mono), а жодних проблем із сервісом у Монобанку не було.

Користувацький трафік до сервісів Google – це найбільший зовнішній ресурс для України – не змінився взагалі. Тобто зв’язок у нормі, постраждала саме доступність.

На жаль, за аналогією з бекапом сервера, який має зберігатися не на сервері, доводиться запровадити новий принцип – резервний майданчик, що знаходиться в тому ж місті, що й основний, може вважатися резервом лише умовно.

Атаки на датацентри в Києві

Зіглер аналізує, чому Meta, а не Google, випустила помічника Muse. При тому, що Google має і найбільшу поштову службу, і календар, і пошук, і мобільну платформу, без яких Muse була б порожньою оболонкою.

Він вважає це фірмовою хворобою компанії: Gemini Spark досі перебуває на стадії тестування й доступний за підпискою Ultra, паралельно існує окремий агент CC (що виріс із Daily Brief) із сімейним ухилом, тестується «AI Inbox» у Gmail, доживає Google Assistant, а в пошуку набирає обертів «AI Mode». Зіглер називає це «стратегією менше дров на велику кількість стріл» і передбачуваним підсумком: «Ти пробував AI-помічника від Google?» – «Якого?».

А пам’ятаєте, ми іронізували над черговими месенджерами від Google – а компанія цю іронію не розуміла, навіть презентуючи одночасно два нових месенджери на одному заході, коли вже був один? Як у них з таким підходом вийшов лише один пошук?

Хронічний розфокус Google

Financial Times повідомляє, що за останні 12 місяців технологічні компанії надали до 300 млрд дол. гарантій залишкової вартості за боргами, пов’язаними з AI-дата-центрами та чіпами. При цьому ці зобов’язання майже не відображаються в балансах.

Meta восени 2025 року надала гарантію на 28 млрд щодо спільного з Blue Owl проєкту Hyperion потужністю 2 ГВт у Луїзіані, що дозволило залучити 27 млрд боргу за ставкою в межах 150 базисних пунктів до її власних облігацій. У липні таку саму схему застосували для 1 ГВт в Ель-Пасо. Broadcom у червні взяла 29 млрд таких зобов’язань, продавши 1 ГВт чіпів у SPV для Anthropic. Nvidia надала 105 млрд гарантій SB Energy під кампус в Огайо для OpenAI та запропонувала покриття до 25% залишкової вартості за програмою Goldman Sachs на 500 млрд. За оцінкою Morgan Stanley, загальний обсяг позабалансових зобов’язань семи гіперскейлерів та виробників чіпів перевищив 3,1 трлн дол.

Механізм таких гарантій складається з кількох етапів. Створюється спеціальна компанія (SPV), яка володіє датацентром або чіпами і для забезпечення своєї діяльності – наприклад, купівлі чіпів або будівництва датацентру, – випускає боргові облігації. SPV здає датацентр/ чіпи в оренду технологічній компанії – або самому гаранту, як у випадку з Meta, або його клієнту (наприклад, OpenAI). Гарант (Meta, Broadcom, Nvidia) надає гарантію залишкової вартості – тобто, якщо датацентр/ чіпи доведеться продати, то сума угоди становитиме не менше обумовленої, а різницю покриє гарант.

Така гарантія великої компанії заспокоює інституційних інвесторів, які розглядають можливість придбання облігацій SPV. При цьому, зважаючи на те, що основна частина боргу лежить на SPV, навіть за умови найсуворішого дотримання стандартів бухгалтерського обліку гарант відобразить у балансі лише частину гарантії. Водночас такі умовні гарантії зазвичай відображають з урахуванням ймовірності ризику. Солідність гаранта робить інвестицію ще й дуже надійною – тому ставка за облігаціями рідко перевищує 1-1,5% від ставок за облігаціями самого гаранта.

Це, втім, не залишається зовсім непоміченим – рейтингові агентства схильні враховувати такі гарантії в загальному рейтингу гаранта.

Ні, це не аналогія з suprime-кризою 2008 року, хоча деякі риси схожі. Тоді теж для збереження загального рейтингу використовувалися позабалансові структури, і рейтингові агентства теж були дуже спокійними. До того ж, усе ґрунтується на вартості активу, яка не перевірялася на практиці. 2007 року ніхто не перевіряв, скільки коштувало все іпотечне житло. Зараз ніхто не знає, за скільки раптом куплять датацентр на 2 ГВт через пару років. Але все ж це не те саме. У даному випадку гарантами є не банки, що залежать від коливань фінансового ринку та живуть із величезним фінансовим важелем, а великі компанії з величезним кеш-флоу. Якщо в якомусь кварталі та сама Meta зіткнеться з необхідністю покрити свою гарантію на, скажімо, 10 млрд дол., це буде один провальний квартал у однієї компанії, а не крах усього ринку. Крім того, втрати інвесторів – це не банківська паніка.

У схожу ситуацію потрапляли постачальники на рубежі 2000-х – до речі, той самий Broadcom разом із Nortel, Lucent, Cisco та іншими – коли широко надавали кредити та гарантії операторам/ провайдерам для закупівлі обладнання у компаній. Коли на початку 2000-х ринок завмер, виробники зіткнулися з неплатоспроможністю боржників одночасно з падінням попиту на свою продукцію. Скандалів було багато. Це більш імовірний сценарій з точки зору аналогій, але поки що він не проглядається.

AI-бум приховує трильйонні борги

Упродовж усього минулого тижня світ штучного інтелекту був охоплений дискусіями щодо безпеки AI – причому вже не гіпотетичної, з жахливими прогнозами думерів на кшталт Юдковського «AI вб’є нас усіх», а на цілком практичних прикладах на кшталт злому Hugging Face агентами OpenAI, атаки ними ж на RubyGems, аналогічних атак агентами Anthropic, причому картину відтіняли висловлювання фахівців із компаній, починаючи з Джейкоба Коксона, який гучно звільнився з Anthropic.

У підсумку Даріо Амодеї, засновник і керівник Anthropic, опублікував чергове есе «We Must Pace the Frontier» – вже з назви зрозумілий заклик тексту, в якому викладено план такого уповільнення. Даріо пропонує залучати незалежних експертів-оцінювачів до компаній для перевірки безпеки (Anthropic в односторонньому порядку вже надає METR постійний доступ співробітникам з робочими місцями в офісі, перепустками та правом публікувати висновки без узгодження), узгоджувати стандарти компаній демократичних країн та глобально координувати зусилля на рівні урядів.

Найдивовижніше, що з ним погодилися всі лідери галузі штучного інтелекту – Сем Альтман погодився й пообіцяв, що OpenAI також допустить незалежних оцінювачів, Ілон Маск підтримав Даріо, Деміс Хассабіс погодився, щоправда, зазначив, що у DeepMind є пропозиція щодо формування єдиного галузевого органу для оцінки, а Сатья Наделла привітав «усвідомлене уповільнення».

З уповільненням є одна проблема, і Даріо вже на неї вказав – якщо лідери перегонів, а саме американські компанії Frontier, уповільнять темп, то невідомо, чи зробить це група, що наздоганяє, – китайські компанії, які вже скорочують відставання. Сі Цзіньпін на саміті BRICS закликав до створення зони відкритого AI, пообіцявши підтримку Китаю у розробці LLM країнам Глобального Півдня.

Багато хто вважає, що розмах дискусій навколо цієї проблеми – це такий собі маркетинговий хід Anthropic для свого IPO. Розміщення акцій компанії справді обіцяє бути рекордним, і позиціонування її як найбільш відповідального розробника AI є цілком очевидним. Що, втім, не скасовує проблеми – навіть якщо у вас параноя, це не означає, що за вами не стежать.

Я схильний додати до числа факторів загальну культуру OpenAI – судячи з різних епізодів, відчуття відповідальності у співробітників компанії цілком відповідає стереотипу вченого, тобто практично відсутнє в дусі «Спочатку підірвемо все, цікаво ж, що вийде».

До цього додається й політичний аспект – гучна тема напередодні й без того проблемних виборів у США та зовнішньополітичних подій охоче підхоплюється політиками з усіх боків.

Я сильно сумніваюся, що омріяна багатьма зустріч Трампа і Сі Цзіньпіня через пару тижнів якось вплине на ту саму координацію, описану Даріо Амодеї – розраховувати на те, що Трамп взагалі здатний чітко висловити якусь позицію з цього питання, навряд чи доводиться (він уже заявив, що жодних ризиків немає, зачекайте, потім він заявить, що це були найпрекрасніші ризики), тож Сі просто немає з ким домовлятися. І слова Альтмана, що за таку домовленість можна було б присудити двом лідерам Нобелівську премію миру, виглядають дуже примітивною спробою спонукати досить літню людину хоч до чогось.

Ризикну висловити думку, що компанії й справді можуть самі сповільнитися. Причому побоювання, що китайці зрештою наздоженуть, не такі вже й абсолютні – поки що ситуація виглядає так, що їхні успіхи значною мірою залежать від дистиляції західних моделей, а дистиляція за замовчуванням призводить до втрати якості. Якщо при цьому протидіяти дистиляції, то відстань між передовими моделями та китайськими може помітно скоротитися, але не зникне зовсім.

Безпека та уповільнення

Федеральна канцелярія Швейцарії виділяє 9 млн франків на пілотний проєкт з переведення 3000 робочих місць федеральних службовців (близько 7% штату) з Microsoft 365 на openDesk – німецький пакет для спільної роботи з відкритим кодом. Термін – кінець 2027 року. Цьому рішенню передував тест із залученням 172 співробітників: робота з документами та електронна пошта отримали позитивні оцінки, тоді як великі відеоконференції виявили технічні обмеження. Під час пілотного проєкту openDesk працюватиме паралельно з Microsoft 365.

Cyber Command швейцарської армії повністю відмовиться від Microsoft 365 на користь openDesk до жовтня 2026 року – без паралельної роботи двох систем.

Причини зрозумілі – згідно з американським законодавством дані в американських хмарних сховищах можуть бути доступними для американського уряду. Крім того, американський сервіс може бути дорогим і не дуже передбачуваним.

Швейцарія переводить держслужбовців з Microsoft 365 на openDesk

Якуб Пахоцький, головний науковий співробітник (chief scientist) компанії OpenAI, опублікував есе «An Alien Mind». На основі внутрішніх результатів він очікує, що поточна швидкість прогресу переросте у рекурсивне самоудосконалення AI. Жодна лабораторія не вирішила завдань вирівнювання та моніторингу в обсязі, достатньому для відповідального масштабування на максимальній швидкості. На його думку, добровільні уповільнення мають стати нормою, а Preparedness Framework та Responsible Scaling Policy слід перетворити на обов’язкові пороги безпеки, які контролюють зовнішні аудитори, державні агентства або міжнародні органи. OpenAI, за його словами, готова в односторонньому порядку призупиняти масштабування за потреби.

Ключова технічна проблема зараз, на думку Якуба, – деградація моніторингу ланцюжків міркувань (CoT): моделі дедалі частіше змішують міркування зі спілкуванням та інструментами, краще маніпулюють власним процесом міркування та стають розумнішими навіть без вербалізованих міркувань. Якщо спочатку детальну інформацію про CoT приховували ще в моделі o1-preview, щоб знизити навантаження на модель, а захист від дистиляції був вторинним ефектом, то зараз цей метод втрачає ефективність.

Головний науковець OpenAI закликає до обов'язкових порогів безпеки для AI