`

СПЕЦИАЛЬНІ
ПАРТНЕРИ
ПРОЕКТА

BEST CIO

Определение наиболее профессиональных ИТ-управленцев, лидеров и экспертов в своих отраслях

Человек года

Кто внес наибольший вклад в развитие украинского ИТ-рынка.

Продукт года

Награды «Продукт года» еженедельника «Компьютерное обозрение» за наиболее выдающиеся ИТ-товары

 

Исследователей Google побуждают показывать «светлую сторону» технологий ИИ

0 
 

Исследователей Google побуждают показывать «светлую сторону» технологий ИИ

Бурный рост исследований искусственного интеллекта (ИИ) в технологической индустрии побудил власти США и других стран заняться выработкой правил для его использования. Основанием для этого были научные публикации, демонстрирующие, что интеллектуальное ПО может способствовать распространению предубеждений  в обществе или нарушать приватность пользователей.

Среди этих статей, вскрывающих недостатки и риски применения машинного интеллекта, только в прошлом году было не менее двух сотен публикаций сотрудников Google.

В этом году таких тревожащих известий от Google будет гораздо меньше: агентство Reuters со ссылкой как минимум на трёх служащих поискового гиганта, сообщила, что примерно с июня компания ввела новые правила рассмотрения отдаваемых в печать материалов по тематике ИИ.

На своем общедоступном веб-сайте Google заявляет, что её учёным предоставляется «существенная» свобода. Но, по крайней мере, в трех случаях, ставших известными Reuters, авторов просили воздержаться от выставления ИИ-технологии в неблагоприятном свете, «приложить все усилия, чтобы подать материал в позитивном ключе» или удалить из текста любые упоминания о продуктах Google.

Из попавших в печать статей исчезли опасения о том, что движок рекомендаций может продвигать «вводящие в заблуждение, дискриминирующие или другие несправедливые результаты» и «недостаточно разнообразный контент», а также вести к «политической поляризации», и что Google Translate может делать ошибки.

Изучение предвзятости сервисов Google попало в перечень «деликатных тем» на внутренней веб-странице компании, наряду с такими темами, как нефтяная индустрия, Китай, Иран, Израиль, COVID-19, безопасность дома, страхование, данные о местоположении, религия, беспилотные автомобили, телекоммуникации, системы, рекомендующие или персонализирующие веб-контент.

Согласно служебным веб-страницам, объясняющим новую политику, исследователи обязаны консультироваться с юридическими, политическими и общественными отделами, прежде чем приступать к рассмотрению таких тем, как анализ лиц и настроений, а также категоризация по расе, полу или политическим взглядам.

Четыре штатных исследователя, включая старшего научного сотрудника Маргарет Митчелл (Margaret Mitchell), заявили, что, по их мнению, Google начала вмешиваться в важнейшие исследования потенциального вреда от технологий.

«Если мы выбрали важную тему с учётом своего опыта, и нам не разрешают публиковать результаты исследования по итогам качественной экспертной оценки, то налицо серьезные проблемы с цензурой», – считает Митчелл.

Де і як компаніям необхідно укріпити свій захист

0 
 

Напечатать Отправить другу

Читайте также

 
 

  •  Home  •  Рынок  •  ИТ-директор  •  CloudComputing  •  Hard  •  Soft  •  Сети  •  Безопасность  •  Наука  •  IoT