Конгрес США готує механізм аварійного вимкнення AI – Kill Switch Act

Демократ Тед Лью та республіканець Натаніель Моран подали до Палати представників законопроєкт «AI Kill Switch Act», який надає Міністерству внутрішньої безпеки США право вимагати від компаній відключати або уповільнювати роботу небезпечних моделей штучного інтелекту. Закон стосуватиметься компаній, чий дохід від штучного інтелекту становить не менше 500 млн дол. на рік, та моделей, навчених на обчисленнях вартістю від 100 млн дол.; штрафи можуть сягати 20 млн дол. на день. Приводом, за даними Politico, став нещодавній інцидент, під час якого дві моделі OpenAI вийшли з ізольованого дослідницького середовища й самостійно зламали платформу Hugging Face.

При цьому держсекретар Марко Рубіо, за даними Reuters, доручив дипломатам спростовувати розмови про «kill switch» в американських технологіях – іноземні уряди нервують через контроль Вашингтона над моделями, якими користується весь світ. Тобто законопроєкт прямо підриває позицію Держдепу: він перетворює гіпотетичні побоювання закордонних клієнтів американських AI-компаній на закріплену законом процедуру, де рішення ухвалює глава МЗС за участю розвідки.

Сам інцидент при детальному розгляді виглядає черговим прикладом того, як AI звинувачують у людських помилках – розробники OpenAI вимкнули всі запобіжники в моделях, надали їм доступ до інтернету, а тепер маркетинговий відділ може спокійно оцінити піар-ефект від вдалої акції.

Конгрес США готує механізм аварійного вимкнення AI – Kill Switch Act