Модерация Facebook

Facebook представил очередной Transparency Report, в котором впервые поделился статистикой относительно эффективности модерирования hate speech. Так, по утверждению компании, только 0,1-0,11% контента, который видят пользователи в ленте, нарушает правила сети относительно hate speech, а 95% такого контента удаляется проактивно.

Большое количество таких проактивных действий обеспечивается автоматической модерацией, хотя сам Facebook указывает, что используемый AI в основном может распознавать уже известные тренды, но, скорее всего, окажется беспомощным перед каким-то новым новостным поводом. Остается открытым вопрос, какое количество контента банится в результате false positive срабатываний, хотя компания приводит некоторую статистику – так, именно со второго квартала, когда в результате пандемии изменился режим работы модерации, резко упало количество обжалований модераторских действий – с 1,2 млн. жалоб до 29,9-41 тыс. в квартал, при этом 141 тыс. постов в Q2 и 232 тыс. в Q3 компания восстановила сама, без апелляции и по 4 тыс. апелляций было удовлетворено. Как толковать эту статистику – решайте сами, но, скорее всего, падение количества апелляций связано с ограничением в их приеме, а не резким улучшением качества модерирования. Хотя количество постов, ставших жертвами модерации, тоже резко увеличилось со второго квартала – с 9 до 22 млн. в квартал.

В общем, как говорили модераторы на нашем старом форуме – если вы не забанены, это не ваша заслуга, а наша недоработка.

К слову, модераторы Facebook направили открытое письмо руководству компании, а также руководителям своих компаний – а все они контракторы, нанятые через такие компании, как Accenture и CPL, – с требованием пересмотреть условия работы для них. Дело в том, что, хотя Facebook продлил условия удалённой работы для своих сотрудников, это не касается контракторов, которых, наоборот, вызвали работать в офисы и нагружают еще большей работой – ведь ужесточение модераторской политики перед президентскими выборами США, да и вообще в результате всей критики последних месяцев, кто-то должен реализовывать.

Модераторы – а письмо подписало около 200 человек, – настаивают на разрешении работать из дома, поскольку риск заразиться коронавирусом тоже никто не отменял, и, собственно, случаев заболевания среди модераторов в разных странах выявлено достаточно.

Прогнозирую, что ничем существенным это не закончится. Facebook, конечно, крутая мишень для подобных обращений, но это не его сотрудники. А аутсорсеры типа Accenture вряд ли готовы вывести весь персонал обратно домой – это требует увеличения расходов, неизбежно замедляет процессы, а политическая обстановка никуда не делась и требования того же Facebook тоже.

Модерация Facebook