`

СПЕЦИАЛЬНЫЕ
ПАРТНЕРЫ
ПРОЕКТА

Архив номеров

Что для вас является метрикой простоя серверной инфраструктуры?

Best CIO

Определение наиболее профессиональных ИТ-управленцев, лидеров и экспертов в своих отраслях

Человек года

Кто внес наибольший вклад в развитие украинского ИТ-рынка.

Продукт года

Награды «Продукт года» еженедельника «Компьютерное обозрение» за наиболее выдающиеся ИТ-товары

 

Тимур Ягофаров

Станет ли ИИ «Большим Братом»?

+55
голосов

Вы готовы к тому, что вас будут постоянно сопровождать системы видеонаблюдения, а благодаря точности распознавания лиц исчезнет возможность затеряться в толпе?

На днях завязалась дискуссия об ответственности производителей за корректность использования их решений на базе технологии искусственного интеллекта. Все началось с протестов, связанных с разлучением детей и их родителей-эмигрантов из Мексики на американской границе. Дело дошло до того, что корпорацию Microsoft обвинили в том, что она модернизировала ИТ-систему пограничной службы, которая теперь научилась точно распознавать лица в видеопотоках с камер наблюдения.

В результате, в корпоративном блоге Microsoft появилась публикация президента корпорации Брэда Смита с призывом введения законодательного регулирования в сфере видеонаблюдения и распознавания лиц. И с этим предложением нельзя не согласиться. Кроме того, автор поднял и такую щекотливую тему, как несовершенство распознавания для представителей разных рас и цвета кожи. Оказывается, лучше всего современные алгоритмы узнают светлокожих мужчин. А для женщин ошибки допускаются чаще, а тем более для темнокожих людей.

Приведу список вопросов, которые были поставлены авторами публикации, чтобы стало понятно, насколько назрел вопрос законодательного регулирования в сфере применения технологии ИИ.

•    Должно ли общество контролировать использование правоохранительными органами технологий распознавания лиц, в том числе ограничивать использование результатов автоматического распознавания лиц в качестве доказательства вины или невиновности в преступлении?
•    Аналогично этому, следует ли обеспечивать гражданский надзор и подотчетность использования технологий распознавания лиц в рамках государственных программ обеспечения национальной безопасности?
•    Какие юридические меры могут препятствовать распознаванию лиц для расовой дискриминации и нарушения других прав человека, но при этом сохранять возможность полезного применения технологий?
•    Должны ли технологии распознавания лиц, используемые государственными органами или другими организациями, иметь определенный минимальный уровень точности?
•    Должен ли закон требовать, чтобы розничные магазины публиковали на видном месте уведомление об использовании ими технологии распознавания лиц в общественных местах?
•    Должен ли закон требовать, чтобы компании получали предварительное согласие, прежде чем собирать изображения людей для распознавания их лиц? Если да, то в каких ситуациях и местах это должно применяться? И каким образом можно запросить и получить такое согласие?
•    Должны ли мы гарантировать людям право на знание того, какие их фотографии были собраны, сохранены и сопоставлены с их именами и лицами?
•    Должны ли мы создавать процедуры, обеспечивающие юридические права граждан, которые полагают, что они были ошибочно идентифицированы системой распознавания лиц?

Проблематика действительно непростая. Но согласитесь, вряд ли кому-то в современном мире будет спокойно от того, что уже есть возможность постоянно отслеживать перемещения человека. Предсказания о «Большом Брате» уже получили технологическую базу. Мне довелось слышать, что для поиска определенного человека в Сингапуре, где установлена чрезвычайно разветвленная система видеонаблюдения, потребовалось всего лишь 7 минут. Поэтому пусть инструмент подобной мощности находится исключительно в законодательном поле.

Что же касается Microsoft, то президент  корпорации заявил, что она уже начала отказываться от тех проектов на базе ИИ, где у ее экспертов возникают сомнения в возможности притеснения демократических свобод.

+55
голосов

Напечатать Отправить другу

Читайте также

Считаю,что всё-ровно то же самое- относится и к образцам голоса, которые сейчас собирают и обрабатывают даже самыые убогие IVR системы. Вообще-это серьёзная проблема:любой желающий может повесить, у себя на на доме или в магазине или в офисе, камеру с функцией распознавания лиц и - автоматически сопоставлять их с профилями соцсетей. Включая номер телефона и кредитной карты. Инструменты уже общедоступны и вполне по карману отдельныму индивидууму, не говоря уже о корпорациях и государстве.

Будем надеяться на редизайн проекта ИИ-сус.

расслабтесь и получайте удовольствие от последних деньков приватности, всё идет к тому, что контролироваться будут не только передвижения, но и контакты, и показатели здоровья, и эмоции, а если будете возражать - Вас обнулят, сотрут учетную запись в БД.

 
 
IDC
Реклама

  •  Home  •  Рынок  •  ИТ-директор  •  CloudComputing  •  Hard  •  Soft  •  Сети  •  Безопасность  •  Наука  •  IoT