| 0 |
|
Голова Anthropic Даріо Амодеї опублікував допис, у якому відмежувався від ідеї заборони моделей із відкритими вагами. Приводом стали повідомлення про те, що американські чиновники розглядають можливість заборони китайських відкритих моделей для компаній США, а також відкритий лист на їх захист, підписаний низкою технологічних компаній – його було ініційовано минулого тижня групою компаній, і на сьогодні його підписали навіть OpenAI, тобто всі, крім Anthropic.
Амодеї пише, що компанія ніколи не виступала за таку заборону, і запропонував замість неї три заходи: експортний контроль чіпів, боротьбу з промисловою дистиляцією та обов’язкове тестування безпеки всіх достатньо потужних моделей, відкритих і закритих.
Даріо вкотре нагадує, що головну небезпеку вбачає в тому, що авторитарні режими, наприклад, китайський, побудують потужніші моделі й почнуть використовувати їх для досягнення військової переваги або репресій щодо власного населення. Взагалі, не можна не помітити, як під гаслом «Відкрите – значить, добре» основну масу акуратно відвернули від тем річної давності про цензуру у відповідях китайських моделей.
Ще один аргумент Даріо – проти того, що відкриті системи полегшують створення засобів захисту або що широкий доступ до можливостей допомагає захисникам сильніше, ніж нападникам. У біології, як він зазначає, існує значна асиметрія «атака-захист»: потужні моделі можуть швидко допомогти створити пандемічні віруси з загальнодоступних матеріалів, тоді як захист від них займає роки (як у випадку з Operation Warp Speed). Подібні питання слід вирішувати за допомогою ретельного тестування перед випуском, а не на основі припущень.
Я б звернув увагу всіх, хто вже дістав свої уїдливі коментарі, що три роки тому підхід Anthropic щодо Constitutional AI здавався досить заумним теоретизуванням на тлі суперпопулярного ChatGPT, але ось зараз ми маємо найпотужніше сімейство моделей, які впевнено лідирують у практичному застосуванні, і щось мені підказує, що ці речі пов’язані.
Стратегія охолодження ЦОД для епохи AI
| 0 |
|
