`

СПЕЦИАЛЬНЫЕ
ПАРТНЕРЫ
ПРОЕКТА

Архив номеров

Как изменилось финансирование ИТ-направления в вашей организации?

Best CIO

Определение наиболее профессиональных ИТ-управленцев, лидеров и экспертов в своих отраслях

Человек года

Кто внес наибольший вклад в развитие украинского ИТ-рынка.

Продукт года

Награды «Продукт года» еженедельника «Компьютерное обозрение» за наиболее выдающиеся ИТ-товары

 

Евгений Куликов

И хочется и колется

0 
 

Последнее время все чаще возникает дискуссия на тему рисков, связанных с развитием искусственного интеллекта. Не демонизировать новую технологию, а подойти к ней с разумной осторожностью призывает Эрик Хорвиц (Eric Horvitz), управляющий директор лаборатории Microsoft Research.

В своем эссе он апеллирует к произведениям Айзека Азимова и, в частности, его «трем законам робототехники». Интересно, что выражение «искусственный интеллект» (ИИ) впервые встречается в составленной в 1955 г. заявке на проведение исследований на тему использования ЭВМ для «решения задач, которые в настоящее время решаются исключительно силами людей». За прошедшие с тех пор полвека работы над созданием ИИ эволюционировали в самостоятельное научное направление, включающее в себя целый ряд дисциплин, и позволили разработать множество методов, обеспечивающих ИИ способности к восприятию, обучению, логическому мышлению и пониманию естественного языка.

Растущий энтузиазм в отношении ИИ обусловлен целым рядом скачков в развитии способности машин к распознаванию образов благодаря использованию метода, известного как «глубинное обучение». Успехи на этом направлении подарили нам новые утилитарные возможности, включая синхронный автоматический перевод и автомобили с функцией автопилота.

И хочется и колется

Однако в обществе отношение к ИИ несколько омрачается беспокойством по поводу возможных негативных последствий его развития. Некоторые, унаследовав страхи столетней давности, опасаются, что разумные компьютерные системы могут эволюционировать в сверхразум и выйти из-под контроля. Других беспокоят менее отдаленные перспективы – например, вероятность того, что классификаторы баз данных, используемые при принятии серьезных решений в области здравоохранения или уголовного судопроизводства, могут действовать некорректно из-за системных ошибок и погрешностей, скрытых в толще массивов данных, что выльется в несправедливые или неверные решения. Опасения скептиков также вызывают потенциальные юридические и этические коллизии вокруг решений, принятых автоматизированными системами, сложности в понимании логики таких решений, появление новых форм слежки и связанные с этим угрозы гражданским свободам, возможность воздействия на человеческое сознание путем манипуляций с ИИ, вероятность его использования в преступных целях, далеко идущие последствия военного применения ИИ, а также перспектива сокращения человеческого труда, роста безработицы и социального неравенства.

Поэтому по мере развития науки об ИИ чрезвычайно важно уделять внимание вопросам его воздействия на человека и общество, как в ближайшей, так и в долгосрочной перспективе. Целевые исследования вкупе с постоянным наблюдением и анализом способны подвести человека к важным наблюдениям и выводам на этот счет. Широкий спектр применения ИИ в современном обществе обуславливает необходимость междисциплинарных исследований во взаимодействии с учеными и специалистами из разных областей, включая программистов, социологов, психологов, экономистов и юристов. В отношении более долгосрочных проблем вроде страха перед появлением сверхразума или враждебного человеку ИИ необходима общественная и экспертная дискуссия, способствующая лучшему пониманию вопроса. К числу перспективных областей относится работа по определению направлений развития научно-технической мысли и прогнозированию его результатов, а также сотрудничество с инженерами для совершенствования методов обеспечения безопасности, аутентификации и отказоустойчивости автоматизированных систем.

И такая работа ведется уже много лет, в частности в рамках программы «Сто лет изучения искусственного интеллекта» на базе Стэнфордского университета, предполагающей проведение исследований на тему долгосрочных перспектив развития и применения ИИ каждые пять лет на протяжении ста лет или дольше. Первый доклад в рамках данной программы был опубликован в прошлом году. Имеются и другие инициативы в этой области.

Движущими силами развития ИИ должны выступать человеческая любознательность, научное сотрудничество и ответственный подход.

0 
 

Напечатать Отправить другу

Читайте также

 
 
IDC
Реклама

  •  Home  •  Рынок  •  ИТ-директор  •  CloudComputing  •  Hard  •  Soft  •  Сети  •  Безопасность  •  Наука  •  IoT