Человек может доверять компьютерам больше, чем людям

Несмотря на растущую озабоченность по поводу вторжения алгоритмов в повседневную жизнь, люди могут быть более склонны доверять компьютерной программе, чем своим собратьям, особенно если задача становится слишком сложной, согласно новому исследованию специалистов по данным из Университета Джорджии.

От выбора следующей песни в вашем плейлисте до выбора брюк правильного размера - люди больше полагаются на советы алгоритмов, которые помогают принимать повседневные решения и упрощают их жизнь.

«Алгоритмы способны выполнять огромное количество задач, и оно увеличивается практически каждый день, - сказал аспирант Департамента бизнеса информационных систем управления Терри-Колледжа Эрик Богерт (Eric Bogert). - Похоже, что есть склонность в большей степени полагаться на алгоритмы по мере усложнения задачи, и этот эффект сильнее, чем склонность полагаться на советы других людей».

Богерт работал с профессором информационных систем управления Риком Уотсоном (Rick Watson) и доцентом Аароном Шектером (Aaron Schecter) над статьей «Люди больше полагаются на алгоритмы, чем на социальное влияние, по мере того как задача становится все труднее», которая была опубликована в журнале Nature's Scientific Reports.

Их исследование, в котором участвовало 1500 человек, оценивающих фотографии, является частью большой работы по анализу того, как и когда люди работают с алгоритмами для обработки информации и принятия решений.

Для этого исследования команда попросила добровольцев подсчитать количество людей на фотографии толпы и предоставила предложения, которые были созданы группой других людей, и предложения, созданные с помощью алгоритма.

По мере того, как количество людей на фотографии увеличивалось, подсчет становился все труднее, и люди с большей вероятностью следовали предложению, генерируемому алгоритмом, чем собственным подсчетам, сказал Шектер.

Шектер объяснил, что выбор подсчета в качестве пробного задания был важным, потому что количество людей на фотографии объективно усложняет задачу по мере увеличения. Это также задача, с которой, по мнению неспециалистов, компьютеры будут хороши.

«Это задача, с которой люди полагают, что компьютер будет хорош, даже если он может быть более подвержен предвзятости, чем подсчет объектов, - сказал Шектер. - Одна из распространенных проблем с ИИ - это когда он используется для присуждения кредита или утверждения кого-либо для получения ссуды. Хотя это субъективное решение, в нем много цифр, таких как доход и кредитный рейтинг, поэтому люди чувствуют себя так, как будто это хорошая работа для алгоритма. Но мы знаем, что зависимость ведет к дискриминационной практике во многих случаях из-за социальных факторов, которые не принимаются во внимание».

По словам Шектера, алгоритмы распознавания лиц и найма стали предметом пристального внимания в последние годы, поскольку их использование выявило культурные предубеждения в том, как они были построены, что может вызвать неточности при сопоставлении лиц с личностями или отборе квалифицированных кандидатов на работу.

Эти предубеждения могут отсутствовать в простой задаче, такой как подсчет, но их присутствие в других надежных алгоритмах является причиной, по которой важно понимать, как люди полагаются на алгоритмы при принятии решений, добавил он.

Это исследование было частью более крупной исследовательской программы Шектера в области взаимодействия человека и машины, которая финансируется за счет гранта от Исследовательского управления армии США.

«Конечная цель - посмотреть на группы людей и машин, принимающих решения, и найти, как мы можем заставить их доверять друг другу и как это меняет их поведение, - сказал Шектер. - Поскольку в этой обстановке очень мало исследований, мы начинаем с основ».

Шектер, Уотсон и Богерт в настоящее время изучают, как люди полагаются на алгоритмы при вынесении творческих и моральных суждений, таких как написание описательных отрывков и освобождение заключенных под залог