`

СПЕЦИАЛЬНЫЕ
ПАРТНЕРЫ
ПРОЕКТА

Архив номеров

BEST CIO

Определение наиболее профессиональных ИТ-управленцев, лидеров и экспертов в своих отраслях

Человек года

Кто внес наибольший вклад в развитие украинского ИТ-рынка.

Продукт года

Награды «Продукт года» еженедельника «Компьютерное обозрение» за наиболее выдающиеся ИТ-товары

 

Виталий Кобальчинский

Кентавры против терминаторов – идея автономного ИИ теряет популярность

+22
голоса

Когда мировые экономики в конечном итоге выйдут из разрушительной стагнации, вызванной пандемией коронавируса, миллионы сидевших дома устремятся на рабочие места. Но там многие из них обнаружат, что им приходится конкурировать или работать рядом с машинами. Проблема растущей автономности роботов становится всё более злободневной, что находит отражение в повышенном внимании к известным антагонистам самой идеи независимо думающих и действующих механизмов.

Среди этих «новых луддитов» не последнее место занимает доктор компьютерных наук Мэрилендского университета Бен Шнайдерман (Ben Shneiderman). Он уже несколько десятков лет находится в оппозиции к таким оптимистам искусственного интеллекта, как Элон Маск, предостерегая от слепой автоматизации задач с помощью компьютеров. Он утверждает, что полностью самостоятельные машины, это шаг в неверном направлении, и, что для технологической индустрии будет опасной ошибкой следовать по пути растущей автономности роботов.

Отстаивать свою точку зрения, заключающуюся в том, что роботы должны сотрудничать с людьми, а не заменять их, доктор Шнайдерман, известный пионерскими разработками в области взаимодействия человека с компьютером, начал в 1982 г. Тогда при его участии была организована Конференция по человеческим факторам в компьютерных системах.

Однако конфликт идей автономности и сотрудничества возник гораздо раньше, практически сразу с появлением интерактивных компьютерных технологий. Ещё в 1962 году в окрестностях Стэнфорда были одновременно созданы две лаборатории. Стэнфордскую лабораторию искусственного интеллекта создал Джон Маккарти (John McCarthy), автор самого термина «искусственный интеллект», с целью разработать за десять лет думающую машину. Ему в противовес другая легенда ИТ, Дуглас Энгельбарт (Douglas Engelbart) – изобретатель компьютерной мыши – учредил Центр исследований дополняющих технологий для экспериментов с новыми инструментами и методами совместной работы и обработки информации. Он же противопоставил концепции ИИ «увеличение интеллекта» (Intelligence Augmentation).

 Доктор Шнейдерман призывает отказаться от одномерного подхода, в соответствии с которым  автоматизация неизбежно должна развиваться от машин с ручным управлением к системам, работающим без вмешательства человека.

На состоявшейся в этом году в Финиксе (штат Аризона) конференции по автономным системам, Шнайдерман назвал вопиющим примером высокой степени автоматизации при низком человеческом вмешательстве систему улучшения полётного контроля, MCAS, которую считают виновницей двух катастроф  Boeing 737 Max. «Конструкторы настолько были уверены, что их автономная система не сможет выйти из строя, – написал он в неопубликованной, но получившей широкую известность статье, – что её существование не было описано в руководстве, и пилоты не были обучены тому, как переходить на ручное управление».

Проблемы одномерного вектора развития по мнению Шнайдермана состоят не только в риске создания небезопасных машин, но и в освобождении людей от моральной ответственности за действия автономных системам, начиная от автомобилей и заканчивая высокотехнологичным оружием.

В качестве альтернативы, он предагает «двумерную» модель, допускающую совмещение человеческого контроля с высоким уровнем автоматизации. За несколькими исключениями, такими как автомобильные подушки безопасности и стержни регуляторы мощности ядерного реактора, по его мнению, целью конструкторов автоматизированных систем должно стать расширение компьютерными средствами возможностей самих людей. Он также считает необходимой мерой оснащение каждого робота подобием «чёрного ящика», регистратора полётной телеметрии, устанавливаемого в авиалайнерах.

Идеи, исповедуемые Шнайдерманом созвучны концепции «кентавра», изначально родившейся в шахматной среде, где полностью автономные шахматные компьютеры неизменно проигрывали связке из компьютера и человеческого игрока. Позднее, влиятельным сторонником подхода «кентавр» в отношении систем вооружения и, соответственно, противником «роботов-убийц» стал Роберт Уорк (Robert O. Work), заместитель министра обороны при Обаме и Трампе,

Популяризатором «гуманистического» или «ориентированного на человека» ИИ выступает и Джилл Пратт (Gill Pratt), руководитель Исследовательского института компании Toyota, где работают над созданием Guardian – системы «суперпродвинутой помощи водителю».

Шнайдерман также напоминает, что от применения автономных систем отказались ВВС США, Национальное управление по аэронавтике и исследованию космического пространства (NASA) и Совет по оборонным наукам (Defense Science Board) комитет гражданских экспертов, консультирующий Министерство обороны США по вопросам науки и техники.

Позиция 72-летнего Шнайдермана находит поддержку в научной и инженерной среде. Критикуются, в основном, отдельные аспекты «двумерного» подхода. Так, Мисси Каммингс (Missy Cummings), директор Лаборатории человека и автономии в Университете Дьюка (штат Северная Каролина), уточнила, что уровень сотрудничества должен быть прямо пропорционален степени ненадёжности конкретной системы и серьезности последствий ошибок её ИИ.

26 ноября — не пропустите Dell Technologies Forum EMEA!

+22
голоса

Напечатать Отправить другу

Читайте также

 

Slack подает жалобу на Microsoft и требует антимонопольного расследования от ЕС

 
Реклама

  •  Home  •  Рынок  •  ИТ-директор  •  CloudComputing  •  Hard  •  Soft  •  Сети  •  Безопасность  •  Наука  •  IoT