Не ждать идеального ИИ, а работать с тем, что есть

Профессор Лаборатории компьютерных наук и искусственного интеллекта (CSAIL) Массачусетского технологического института (MIT) Регина Барзилай (Regina Barzilay), в сентябре прошлого года избранная первым лауреатом премии Squirrel AI Award, присуждаемой за достижения в области использования искусственного интеллекта для блага человечества, считает, что мы пока не готовы доверить ИИ решение действительно важных проблем, и пандемия Covid-19 наглядно продемонстрировала это.

Squirrel AI Award будет вручена Барзилай в феврале 2021 года Ассоциацией по развитию искусственного интеллекта (AAAI). Призовой фонд в 1 миллион долларов, предоставленный китайской образовательной онлайн-компанией Squirrel AI, ставит новую награду на один уровень с Нобелевской премией и премией Тьюринга в области информатики.

«Мы пользуемся системами машинного перевода или рекомендательными системами, но в других сферах нашей жизни, которые имеют решающее значение для нашего благополучия, таких как здравоохранение, ИИ пока не получил признания в обществе, — заявила Барзилай в сентябрьском интервью. — Я надеюсь, что эта награда и внимание, которое к ней прилагается, помогут изменить мнение людей и позволят им увидеть возможности, а также подтолкнут сообщество ИИ сделать следующие шаги».

Сейчас, говорит она, ИИ процветает там, где цена ошибки очень мала. Ничего страшного не произойдёт, если Google сделает плохой перевод или предоставит неверную ссылку, но неправильный выбор лечения или ошибочный диагноз, могут иметь серьезные последствия.

Конечно, врачи ошибаются тоже, а ИИ-алгоритмы справляются со многими задачами лучше людей. Но мы всегда доверяем своей интуиции, своему разуму больше, чем чему-то, чего не понимаем.

«Нужно дать врачам основания доверять ИИ. FDA (Управление по санитарному надзору за качеством пищевых продуктов и медикаментов) изучает эту проблему, но я думаю, что она очень далека от решения в США или где-либо ещё в мире», — заявила Барзилай.

Она считает, что логика решений ИИ не всегда доступна для понимания человека — всё равно как собаку, у которой обоняние намного превосходит наше, попросить обьяснить, как она что-то чувствует.

Ждать, пока не появится совершенный ИИ, который сможет всё растолковать, нет смысла, этого не произойдёт в ближайшем будущем. Сегодняшние методы тоже неидеальны — ответы на большинство медицинских вопросов о жизни и смерти получают с помощью статистических моделей, которые могут привести к ошибкам. То же самое и с ИИ. Вопрос не в том, применять ИИ или нет, а в том, как использовать его сильные стороны и избежать недостатков.

Главная причина, почему методы ИИ оказались малоэффективны в борьбе с пандемией, это нехватка данных. Даже в сентябре 2020 года, когда пандемия бушевала уже около полугода, специалистам всё ещё не было понятно, где брать данные для тренировки своих ИИ-алгоритмов.

Вторая из названных Барзилай причин, заключается в сложности адаптации ИИ для новых, ответственных задач с обеспечением нужного уровня регулирования. Это трудно даже в нормальных условиях, не говоря уже о нынешнем кризисе.

Тем не менее, первый лауреат Squirrel AI Award надеется, что пандемия должна стать тревожным сигналом, тем шоком, который поможет преодолеть консерватизм мышления и научиться реагировать быстро на новые угрозы.

«Как бы я ни была убеждена, что ИИ — это технология будущего, но до тех пор пока мы не поймем, как ей доверять, мы не увидим, её настоящего развития», — завершила своё интервью профессор Барзилай.

Стратегія охолодження ЦОД для епохи AI