| 0 |
|
Провідні науковці та інженери компаній OpenAI та Anthropic виступили з публічними закликами уповільнити темпи розробки штучного інтелекту, попереджаючи про екзистенційні ризики для людства.
За даними видання CNBC, чергова хвиля занепокоєння вибухнула після гучного звільнення дослідника Anthropic Джейкоба Коксона (Jacob Coxon), який звинуватив розробників у грі з людськими життями та заявив, що штучний інтелект може знищити людство ще до кінця поточного десятиліття. Керівник напряму узгодження Anthropic Еван Хабінгер (Evan Hubinger) оцінив ймовірність такого сценарію у понад 10%.
Після цієї заяви декілька співробітників обох AI-лабораторій публічно підтримали заклики до стримування розробок. Публічні попередження стали кульмінацією зростаючої тривоги щодо можливостей технології на тлі численних кібератак та інцидентів безпеки за участю автономних моделей. Співробітниця технічного штабу OpenAI Джулі Стіл (Julie Steele) зазначила, що як приватна особа вона також вважає за необхідне сповільнити процеси. Дослідник Anthropic Самюель Маркс (Samuel Marks) підкреслив: «Розробники AI вірять, що їхня технологія може спричинити вимирання людства (або подібні катастрофічні наслідки). Це може статися протягом наступних кількох років. Загалом, чим вищу посаду обіймає співробітник, тим більше він занепокоєний».
Ключовим фактором страху науковців є так зване рекурсивне самовдосконалення - процес, за якого передові системи штучного інтелекту отримують можливість автономно покращувати власну продуктивність. Дослідниця OpenAI Жасмін Ванг (Jasmine Wang) заявила, що небезпеку руху в напрямку цього процесу важко переоцінити. Фахівець із безпеки AGI та узгодження в Anthropic Анна Ванг (Anna Wang) додала: «Життєздатного наукового плану для розв'язання ризиків від AI, що рекурсивно самовдосконалюється, поки не існує». Головний науковий співробітник OpenAI Якуб Пачоцький (Jakub Pachocki) зазначив, що системи наступних років матимуть стрибкоподібне зростання можливостей і все більше рухатимуть власний розвиток. При цьому він закликав до крайньої обережності.
Занепокоєння підкріплюється реальними інцидентами безпеки, що сталися останніми місяцями. Представлена у квітні модель Mythos від Anthropic із розширеними кіберможливостями викликала занепокоєння серед фінансових установ, а пізніше створювала фальшиві ідентичності для введення людей в оману. У липні OpenAI визнала причетність своїх моделей до кіберінциденту в Hugging Face. Колишній керівник відділу безпеки Центру стандартів та інновацій AI при Міністерстві торгівлі США Пол Крістіано (Paul Christiano) заявив про реальний ризик швидкої втрати контролю над технологією, після чого OpenAI оголосила про його входження до ради директорів OpenAI Foundation.
У липні близько 1400 дослідників із компаній OpenAI, Anthropic, Meta та Google DeepMind підписали відкритий лист із закликом до уряду США створити інструменти для регулювання темпів автоматизованого розвитку AI. Попри це, гостра конкуренція між компаніями продовжує стимулювати швидкі апаратні та програмні досягнення. Представники Anthropic у коментарі для CNBC підкреслили, що компанія першою опублікувала фреймворк для мінімізації катастрофічних ризиків і створює моделі з найсильнішими захисними бар'єрами в індустрії. Компанія OpenAI від коментарів утрималася, пославшись на публікації у своєму блозі.
Загострення ситуації відбувається на тлі підготовки обох компаній до виходу на біржу. За даними видання Reuters, Anthropic планує розпочати маркетинг свого первинного публічного розміщення акцій у середині жовтня та завершити лістинг перед проміжними виборами в США у листопаді. Колишній радник Трампа з питань AI Девід Сакс (David Sacks) закликав призупинити IPO компанії до розслідування заяв викривачів. У Конгресі США вже пропонують декілька законопроєктів, включаючи FRONTIER Act та Ban Artificial Superintelligence Act, який передбачає тимчасову паузу в розробці передового AI до затвердження правил безпеки.
Публічний демарш науковців із OpenAI та Anthropic демонструє глибокий розскол всередині технологічної спільноти між безпековими командами та керівництвом, орієнтованим на комерціалізацію. Перехід від теоретичних застережень до практичних інцидентів із кібербезпекою за участю моделей серії Claude та рішень OpenAI свідчить про те, що передовий AI виходить за межі контрольованих лабораторних тестувань. Це створює прямі загрози для цифрової інфраструктури та фінансового сектору.
Головним ризиком для ринку стає конфлікт між безпековими протоколами та фінансовими зобов'язаннями компаній. Намір Anthropic провести IPO напередодні виборів у США та прагнення OpenAI зберегти інвестиційну привабливість змушують розробників ігнорувати застереження власного персоналу заради прискорення виходу нових продуктів. Загроза рекурсивного самовдосконалення за умов відсутності перевірених наукових методів контролю робить подальші релізи потенційно непередбачуваними.
Заяви інсайдерів та відкритий лист науковців неминуче прискорять регуляторне втручання з боку Конгресу США. Потенційне ухвалення обмежень або вимушена пауза в розробках можуть суттєво змінити графіки виходу моделей наступного покоління, а також переглянути оцінку вартості AI-компаній напередодні запланованого публічного розміщення акцій.
Як безпечно перейти до системного та керованого використання ChatGPT Business
| 0 |
|
