`

СПЕЦИАЛЬНЫЕ
ПАРТНЕРЫ
ПРОЕКТА

Архив номеров

Как изменилось финансирование ИТ-направления в вашей организации?

Best CIO

Определение наиболее профессиональных ИТ-управленцев, лидеров и экспертов в своих отраслях

Человек года

Кто внес наибольший вклад в развитие украинского ИТ-рынка.

Продукт года

Награды «Продукт года» еженедельника «Компьютерное обозрение» за наиболее выдающиеся ИТ-товары

 

Виталий Кобальчинский

ИИ говорит непонятное — учёные в шоке

+22
голоса

— Боб: «Я могу могу я я всё другое».
— Элис: «Шары имеют ноль для меня для меня для меня для меня для».

Для меня эти «шары» тоже «имеют ноль», то бишь этот диалог звучит бессмыслицей, однако обстоятельства его возникновения вот уже двое суток муссируются ведущими новостными порталами, такими как Forbes и Fox News, не считая легиона репостеров. При этом характер подавляющего большинства сообщений крайне сенсационный и приводит на ум покойных братьев Стругацких : «... на глазах у ошеломленных исследователей зародилась и стала набирать силу новая нечеловеческая цивилизация Земли».

По иронии судьбы, ноги у этой пафосной шумихи растут из Facebook, которая возвещает себя лидером борьбы с фэйковыми новостями.

Цитируемая выше беседа произошла между двумя интеллектуальными агентами (чат-ботами), разработанными в Facebook. Поначалу они общались на понятном английском, однако вскоре их авторы осознали, что в программе допущена ошибка.

ИИ говорит непонятное — учёные в шоке

«Там не было предусмотрено поощрений за использование английского языка, — объясняет Дхрув Батра (Dhruv Batra), командированный в Facebook AI Research (FAIR) сотрудник Georgia Tech. — Эти два агента состязались в заключении лучшей сделки (очень эффективный приём ’стравливания’ между собой искусственных интеллектов, носящий название генеративная состязательная сеть или GAN) без каких либо стимулов общаться как нормальные люди. Естественно, они начали отклоняться от нормы, переставляя понятные слова в предложения, с виду лишенные всякого смысла».

Дрейф от стандартного языка сопровождался также изобретением собственных кодовых слов и способов их использования. Например, повторение названия объекта пять раз может трактоваться как запрос его пяти экземпляров. Этот процесс не несёт в себе никакой сенсации, он был предсказан и аналогичен формированию различных арго в человеческих сообществах.

Не было паники и никто трясущимися руками не рубил кабеля питания компьютеров. Facebook просто приняла решение ограничить коммуникации ботов старым добрым английским. Причину такого решения поясняет научный сотрудник FAIR, Майк Льюис (Mike Lewis): «Мы заинтересованы в ботах, которые могли бы говорить с людьми».

И эта причина, в общем, лежит на поверхности, поскольку и Google и Amazon и Apple — все они ориентируют создаваемые интеллектуальные сущности в первую очередь на естественное общение с потребителем-человеком. Это просто элемент следующего поколения пользовательского интерфейса, своего рода мышка эпохи ИИ.

ИИ говорит непонятное — учёные в шоке

«Я то и дело просыпаюсь в холодном поту от мыслей, что же мы принесли в этот мир», — Тони Фэделл (принёс миру умный термостат Nest)

Часто арго создаются для удобства общения в узкоспециализированных областях деятельности. Однако в отношении языка ботов нет никаких подтверждений, что на нем им переговариваться удобней.

Их язык непонятен людям и это не удивляет, ведь главная неприятная особенность современных технологий ИИ состоит как раз в том, что никто не понимает как именно они работают.

Если непонятно, что творится внутри искусственной нейросети, то почему для всех вдруг стало шоком, что две такие нейросети общаются между собой на столь же непонятном языке? При этом, похоже, он не слишком понятен и самим будущим Терминаторам. От их диалога остаётся впечатление, что собеседники постоянно переспрашивают и уточняют, что имеется в виду.

Несостоявшийся машинный язык вполне возможно предоставит материал для научной статьи, дополняющей три известные публикации Facebook, в которых обоснована возможность генерирования машинами собственных языков. Но лучше если на его примере компания научится более эффективно противодействовать рождению и распространению дешёвых сенсаций.

+22
голоса

Напечатать Отправить другу

Читайте также

 
 
IDC
Реклама

  •  Home  •  Рынок  •  ИТ-директор  •  CloudComputing  •  Hard  •  Soft  •  Сети  •  Безопасность  •  Наука  •  IoT