Еврокомиссия обяжет ИИ думать понятно под угрозой штрафов

Европейская комиссия, исполнительный орган ЕС, 21 апреля предложила проект нового закона, который должен строго, под угрозой огромных штрафов, регламентировать использование бизнесом искусственного интеллекта.

По словам Маргарет Вестагер (Margrethe Vestager), репрессии грозят тем компаниям, которые не смогут предоставить регулирующим органам подробную документацию о том, как работает их программное обеспечение. Они обязаны продемонстрировать, что их системы искусственного интеллекта созданы с использованием высококачественных обучающих данных и «с должным уровнем человеческого понимания».

Учитывая, что системы ИИ сегодня представляют собой «чёрный ящик» в которых «должный уровень понимания (insight)» достигается никому не ведомыми путями, понятно, какой простор для применения будущего закона получат регуляторы ЕС.

Успешно делающая карьеру на новых способах пополнения бюджета ЕС за счёт глобальной индустрии ИТ, исполнительный вице-президент Еврокомиссии, Вестагер заявила, что с этими революционными правилами Евросоюз в очередной раз выступает инициатором разработки новых глобальных норм, оставаясь вне конкуренции в области продвижения всего мира к этическим технологиям.

Разумеется, каждая ситуация с ограничением ИИ будет рассматриваться индивидуально. Но предлагаемый закон безоговорочно запретит «системы ИИ, считающиеся явной угрозой безопасности, средствам существования и правам людей». В качестве пояснения, Вестагер приводит некие гипотетические системы ИИ, действующие на подсознание «для причинения кому-либо физического или психологического вреда».

Использование биометрических систем в общественных местах будет запрещено в принципе: то есть, с «очень узкими исключениями, которые строго определены, ограничены и регулируются».

Добавочный набор правил должен регулировать разрешённые с оговоркой ИИ-системы «высокого риска», например, ПО для машинного обучения, используемое в критически важной инфраструктуре, и алгоритмы обработки заявок на получение кредита. Поставщики таких решений смогут принести в копилку Евросоюза до 6 процентов своего общегодового глобального дохода в виде штрафов.

Действие будущего закона распространяется также на службы «ограниченного риска» — ИИ-боты для общения с клиентами. Не полагаясь на тест Тьюринга, законотворцы обязывают разработчиков информировать пользователей бота, что они имеют дело с машиной, а не с человеком.

Значительная часть ИИ-систем, используемых сегодня, таких как автоматические фильтры спама, на данном этапе счастливо избежала внимания создателей законопроекта.

Чтобы обрести силу закона, этот проект должен быть ратифицирован Европейским советом и Европейским парламентом. Если Общий регламент по защите данных (GDPR), может послужить примером, то черновик закона имеет шансы избавиться от ряда скользких пунктов на пути к его окончательному одобрению.

«Мы сможем в полной мере воспользоваться социальным и экономическим потенциалом ИИ, только если будем уверены, что сможем снизить связанные с этим риски, — заявила Вестагер. — Для этого предлагаемая нами правовая база рассматривает не саму технологию ИИ, но то, как и для чего она используется».