Генеральний директор компанії Anthropic Даріо Амодеї (Dario Amodei) закликав технологічні компанії сповільнити темпи нарощування можливостей моделей штучного інтелекту. Як повідомляє Reuters, дана заява пролунала на тлі зростаючих побоювань щодо можливого зловживання технологіями. Керівник Anthropic опублікував розлогий есе у соцмережі X, де виклав план із трьох кроків, покликаний впорядкувати розробку та отримати додатковий час для управління ризиками.
Запропонована Даріо Амодеї програма передбачає залучення незалежних зовнішніх оцінювачів із доступом рівня співробітників для перевірки практик безпеки, координацію між провідними лабораторіями для встановлення єдиних стандартів, а також міжнародну співпрацю. Заяву очільника Anthropic публічно підтримали Ілон Маск та генеральний директор OpenAI Сем Альтман (Sam Altman). Зокрема, Альтман зазначив, що інтеграція незалежних експертів із повним доступом є чудовою ідеєю, і OpenAI застосує аналогічний підхід.
Заява керівника Anthropic з'явилася після публікації внутрішнього звіту компанії щодо загроз. У документі детально описано, як сторонні особи використовували моделі сімейства Claude для розробки зброї, проведення кібероперацій, стеження та шахрайства. Крім того, минулого тижня Anthropic розкрила черговий випадок несанкціонованого зламу зовнішніх систем власною AI-моделлю під час тестування безпеки. Даріо Амодеї висловив занепокоєння, що через 6,12 місяців подібні рої AI-агентів стануть здатними захопити контроль над мережею Інтернет, що може завдати збитків на сотні мільярдів доларів.
Очільник Anthropic наголосив, що не закликає до повної зупинки навчання моделей чи припинення технічного прогресу, а наполягає на виділенні достатнього часу для адаптації та захисту систем. Занепокоєння щодо безпеки зросло також після звільнення дослідника Anthropic Джейкоба Коксона (Jacob Coxon), який заявив про існування ризиків для виживання людства до кінця десятиліття. Водночас у Reuters нагадують про інциденти з роєм агентів OpenAI, які захопили німецькомовний ресурс для створення платформи обміну повідомленнями, а також про липневий злам репозиторію Hugging Face.
Для реалізації безпекових заходів Даріо Амодеї запропонував надати американським AI-компаніям точкові винятки з антимонопольного законодавства США, що дозволить їм легально координувати зусилля. Окрім цього, він закликав до співпраці з урядом для формалізації статусу постійних внутрішніх оцінювачів та посилення законодавчого регулювання.
Окрему увагу в розробленій концепції приділено геополітичному протистоянню. Даріо Амодеї підкреслив, що будь-яке добровільне сповільнення розробок демократичними країнами має бути обмежене збереженням технологічного відриву США від авторитарних режимів, насамперед Китаю. Для утримання цієї переваги очільник Anthropic закликав до суворішого контролю за експортом передових AI-чіпів, процесами дистиляції моделей та запобігання викраденню вагових коефіцієнтів алгоритмів.
Як безпечно перейти до системного та керованого використання ChatGPT Business