0 |
Бурный рост исследований искусственного интеллекта (ИИ) в технологической индустрии побудил власти США и других стран заняться выработкой правил для его использования. Основанием для этого были научные публикации, демонстрирующие, что интеллектуальное ПО может способствовать распространению предубеждений в обществе или нарушать приватность пользователей.
Среди этих статей, вскрывающих недостатки и риски применения машинного интеллекта, только в прошлом году было не менее двух сотен публикаций сотрудников Google.
В этом году таких тревожащих известий от Google будет гораздо меньше: агентство Reuters со ссылкой как минимум на трёх служащих поискового гиганта, сообщила, что примерно с июня компания ввела новые правила рассмотрения отдаваемых в печать материалов по тематике ИИ.
На своем общедоступном веб-сайте Google заявляет, что её учёным предоставляется «существенная» свобода. Но, по крайней мере, в трех случаях, ставших известными Reuters, авторов просили воздержаться от выставления ИИ-технологии в неблагоприятном свете, «приложить все усилия, чтобы подать материал в позитивном ключе» или удалить из текста любые упоминания о продуктах Google.
Из попавших в печать статей исчезли опасения о том, что движок рекомендаций может продвигать «вводящие в заблуждение, дискриминирующие или другие несправедливые результаты» и «недостаточно разнообразный контент», а также вести к «политической поляризации», и что Google Translate может делать ошибки.
Изучение предвзятости сервисов Google попало в перечень «деликатных тем» на внутренней веб-странице компании, наряду с такими темами, как нефтяная индустрия, Китай, Иран, Израиль, COVID-19, безопасность дома, страхование, данные о местоположении, религия, беспилотные автомобили, телекоммуникации, системы, рекомендующие или персонализирующие веб-контент.
Согласно служебным веб-страницам, объясняющим новую политику, исследователи обязаны консультироваться с юридическими, политическими и общественными отделами, прежде чем приступать к рассмотрению таких тем, как анализ лиц и настроений, а также категоризация по расе, полу или политическим взглядам.
Четыре штатных исследователя, включая старшего научного сотрудника Маргарет Митчелл (Margaret Mitchell), заявили, что, по их мнению, Google начала вмешиваться в важнейшие исследования потенциального вреда от технологий.
«Если мы выбрали важную тему с учётом своего опыта, и нам не разрешают публиковать результаты исследования по итогам качественной экспертной оценки, то налицо серьезные проблемы с цензурой», – считает Митчелл.
Ready, set, buy! Посібник для початківців - як придбати Copilot для Microsoft 365
0 |