| 0 |
|
Упродовж усього минулого тижня світ штучного інтелекту був охоплений дискусіями щодо безпеки AI – причому вже не гіпотетичної, з жахливими прогнозами думерів на кшталт Юдковського «AI вб’є нас усіх», а на цілком практичних прикладах на кшталт злому Hugging Face агентами OpenAI, атаки ними ж на RubyGems, аналогічних атак агентами Anthropic, причому картину відтіняли висловлювання фахівців із компаній, починаючи з Джейкоба Коксона, який гучно звільнився з Anthropic.
У підсумку Даріо Амодеї, засновник і керівник Anthropic, опублікував чергове есе «We Must Pace the Frontier» – вже з назви зрозумілий заклик тексту, в якому викладено план такого уповільнення. Даріо пропонує залучати незалежних експертів-оцінювачів до компаній для перевірки безпеки (Anthropic в односторонньому порядку вже надає METR постійний доступ співробітникам з робочими місцями в офісі, перепустками та правом публікувати висновки без узгодження), узгоджувати стандарти компаній демократичних країн та глобально координувати зусилля на рівні урядів.
Найдивовижніше, що з ним погодилися всі лідери галузі штучного інтелекту – Сем Альтман погодився й пообіцяв, що OpenAI також допустить незалежних оцінювачів, Ілон Маск підтримав Даріо, Деміс Хассабіс погодився, щоправда, зазначив, що у DeepMind є пропозиція щодо формування єдиного галузевого органу для оцінки, а Сатья Наделла привітав «усвідомлене уповільнення».
З уповільненням є одна проблема, і Даріо вже на неї вказав – якщо лідери перегонів, а саме американські компанії Frontier, уповільнять темп, то невідомо, чи зробить це група, що наздоганяє, – китайські компанії, які вже скорочують відставання. Сі Цзіньпін на саміті BRICS закликав до створення зони відкритого AI, пообіцявши підтримку Китаю у розробці LLM країнам Глобального Півдня.
Багато хто вважає, що розмах дискусій навколо цієї проблеми – це такий собі маркетинговий хід Anthropic для свого IPO. Розміщення акцій компанії справді обіцяє бути рекордним, і позиціонування її як найбільш відповідального розробника AI є цілком очевидним. Що, втім, не скасовує проблеми – навіть якщо у вас параноя, це не означає, що за вами не стежать.
Я схильний додати до числа факторів загальну культуру OpenAI – судячи з різних епізодів, відчуття відповідальності у співробітників компанії цілком відповідає стереотипу вченого, тобто практично відсутнє в дусі «Спочатку підірвемо все, цікаво ж, що вийде».
До цього додається й політичний аспект – гучна тема напередодні й без того проблемних виборів у США та зовнішньополітичних подій охоче підхоплюється політиками з усіх боків.
Я сильно сумніваюся, що омріяна багатьма зустріч Трампа і Сі Цзіньпіня через пару тижнів якось вплине на ту саму координацію, описану Даріо Амодеї – розраховувати на те, що Трамп взагалі здатний чітко висловити якусь позицію з цього питання, навряд чи доводиться (він уже заявив, що жодних ризиків немає, зачекайте, потім він заявить, що це були найпрекрасніші ризики), тож Сі просто немає з ким домовлятися. І слова Альтмана, що за таку домовленість можна було б присудити двом лідерам Нобелівську премію миру, виглядають дуже примітивною спробою спонукати досить літню людину хоч до чогось.
Ризикну висловити думку, що компанії й справді можуть самі сповільнитися. Причому побоювання, що китайці зрештою наздоженуть, не такі вже й абсолютні – поки що ситуація виглядає так, що їхні успіхи значною мірою залежать від дистиляції західних моделей, а дистиляція за замовчуванням призводить до втрати якості. Якщо при цьому протидіяти дистиляції, то відстань між передовими моделями та китайськими може помітно скоротитися, але не зникне зовсім.
Стратегія охолодження ЦОД для епохи AI
| 0 |
|
