`

СПЕЦИАЛЬНЫЕ
ПАРТНЕРЫ
ПРОЕКТА

Архив номеров

BEST CIO

Определение наиболее профессиональных ИТ-управленцев, лидеров и экспертов в своих отраслях

Человек года

Кто внес наибольший вклад в развитие украинского ИТ-рынка.

Продукт года

Награды «Продукт года» еженедельника «Компьютерное обозрение» за наиболее выдающиеся ИТ-товары

 

Виталий Кобальчинский

Еврокомиссия обяжет ИИ думать понятно под угрозой штрафов

+55
голосов

Европейская комиссия, исполнительный орган ЕС, 21 апреля предложила проект нового закона, который должен строго, под угрозой огромных штрафов, регламентировать использование бизнесом искусственного интеллекта.

По словам Маргарет Вестагер (Margrethe Vestager), репрессии грозят тем компаниям, которые не смогут предоставить регулирующим органам подробную документацию о том, как работает их программное обеспечение. Они обязаны продемонстрировать, что их системы искусственного интеллекта созданы с использованием высококачественных обучающих данных и «с должным уровнем человеческого понимания».

Учитывая, что системы ИИ сегодня представляют собой «чёрный ящик» в которых «должный уровень понимания (insight)» достигается никому не ведомыми путями, понятно, какой простор для применения будущего закона получат регуляторы ЕС.

Успешно делающая карьеру на новых способах пополнения бюджета ЕС за счёт глобальной индустрии ИТ, исполнительный вице-президент Еврокомиссии, Вестагер заявила, что с этими революционными правилами Евросоюз в очередной раз выступает инициатором разработки новых глобальных норм, оставаясь вне конкуренции в области продвижения всего мира к этическим технологиям.

Разумеется, каждая ситуация с ограничением ИИ будет рассматриваться индивидуально. Но предлагаемый закон безоговорочно запретит «системы ИИ, считающиеся явной угрозой безопасности, средствам существования и правам людей». В качестве пояснения, Вестагер приводит некие гипотетические системы ИИ, действующие на подсознание «для причинения кому-либо физического или психологического вреда».

Использование биометрических систем в общественных местах будет запрещено в принципе: то есть, с «очень узкими исключениями, которые строго определены, ограничены и регулируются».

Добавочный набор правил должен регулировать разрешённые с оговоркой ИИ-системы «высокого риска», например, ПО для машинного обучения, используемое в критически важной инфраструктуре, и алгоритмы обработки заявок на получение кредита. Поставщики таких решений смогут принести в копилку Евросоюза до 6 процентов своего общегодового глобального дохода в виде штрафов.

Действие будущего закона распространяется также на службы «ограниченного риска» — ИИ-боты для общения с клиентами. Не полагаясь на тест Тьюринга, законотворцы обязывают разработчиков информировать пользователей бота, что они имеют дело с машиной, а не с человеком.

Значительная часть ИИ-систем, используемых сегодня, таких как автоматические фильтры спама, на данном этапе счастливо избежала внимания создателей законопроекта.

Чтобы обрести силу закона, этот проект должен быть ратифицирован Европейским советом и Европейским парламентом. Если Общий регламент по защите данных (GDPR), может послужить примером, то черновик закона имеет шансы избавиться от ряда скользких пунктов на пути к его окончательному одобрению.

«Мы сможем в полной мере воспользоваться социальным и экономическим потенциалом ИИ, только если будем уверены, что сможем снизить связанные с этим риски, — заявила Вестагер. — Для этого предлагаемая нами правовая база рассматривает не саму технологию ИИ, но то, как и для чего она используется».

Вы можете подписаться на нашу страницу в LinkedIn!

+55
голосов

Напечатать Отправить другу

Читайте также

>Поставщики таких решений смогут принести в копилку Евросоюза др 6 процентов своего общегодового глобального дохода в виде штрафов.
1. 6 процентів від чого?
2. Всіх доходів ЄС?
3. Доходів ЄС від всіх штрафів?
4. Звідки взялася ця цифра? Хто її спрогнозував?
Дякую!

Из речи Вестагер, анонсировавшей этот законопроект. https://ec.europa.eu/commission/presscorner/detail/en/SPEECH_21_1866

AI provider that would not comply with the prohibition of an artificial intelligence practices can be fined up to 6 per cent of its yearly global turnover.

Провайдер ИИ, который не соблюдает запрет на использование [определённых] практик ИИ, может быть оштрафован до 6% его годового глобального оборота.

Дякую! Зрозуміло.
1. В продовження розмови я також як і ви вважаю ці штрафи несправедливими
2. Якщо перейти до обговорення GDPR, то тут я вважаю штрафи якраз справедливими.
3. Як я розумію GDPR?
А) не збирайте надлишкову інформацію про клієнтів
Б) якщо вже збираєте то не зберігайте довго
В) якщо зберігаєте то не губіть
Г) якщо губите то платіть штрафи щоб інші два рази придумали чи дійсно їм потрібна та інформація яку вони збирають і зберігають

Ну и, в дополнение к тому, что отметил Виталий Кобальчинский.

Компетентный орган на национальном уровне сначала поставит перед ИИ-провайдером вопрос об устранении нарушений при “использовании” ИИ.

И только потом, если ничего не происходит “по-хорошему”, от ИИ-провайдера будет требоваться выведение продукта с рынка.

А вот в повторяющихся серьёзных нарушениях, речь будет вестись уже о штрафе.

ИТ компании: duck EU, let's go Thailand...

del

:) не прочитал ответа :)

It's my mistake :-(

И что, так много IT-компании "поднимут" денег в Таиланде, что смогут забыть про вкусный европейский рынок? ;-)

оформятся как консалтинг в какой-нибудь 3й стране, по соседству с ЕС и будут такие себе теле-услуги представлять, не обзывая это всё ИИ.

В отличие от нашего болота, в Европе это дело достаточно оперативно зарегулируют. Потому что там не очень любят, когда их нажухать всякие хитровымученные пытаются :-)

Как с GDPR: будь хоть на краю света зарегистрирован, но, если не соответствуешь, с тобой европейцы дела иметь не будут.

 
 

  •  Home  •  Рынок  •  ИТ-директор  •  CloudComputing  •  Hard  •  Soft  •  Сети  •  Безопасность  •  Наука  •  IoT