Точка невозврата

7 июнь, 2016 - 14:44Александр Загнетко

Словосочетание «технологическая сингулярность» у многих на слуху. Считается, что впервые в контексте развития технологий понятие сингулярности появляется в дискуссии Станислава Улама и Джона фон Неймана еще в конце пятидесятых годов. Однако широко известным оно стало благодаря Вернору Винджу тридцать пять лет спустя.

Под технологической сингулярностью обычно подразумевается некий момент, после которого развитие различных систем будет идти настолько быстро, а наш уровень их понимания и контроль над ними будут настолько незначительными, что любая экстраполяция ранее известных тенденций утратит смысл. Произойдет слом всех основных паттернов, относящихся не только к технологии, но и к самому человеку, который станет объектом этих перемен. Как правило, подразумевается, что это событие будет связано с появлением достаточно мощного AI (искусственного интеллекта), цели и действия которого человек уже не сможет предсказывать. Здесь, однако, стоит отметить, что само понятие интеллекта трактуется чрезвычайно широко и ситуативно. Отчасти именно из-за этого методы проверки «разумности» машин, подобные хорошо известному тесту Тьюринга, оказываются не слишком универсальными. «Китайская комната» — мысленный эксперимент Джона Сёрла — демонстрирует это достаточно наглядно. Более того, значительная часть исследователей работает именно над тем, чтобы их разработка смогла пройти ту или иную версию теста Тьюринга. Другими словами, они стремятся создать нечто, способное просто ввести рефери в заблуждение. Ведет ли этот путь к появлению разума — вопрос скорее философский, чем относящийся к точным наукам.

Как бы то ни было, во всех рассуждениях о технологической сингулярности есть важные общие пункты. Среди них выделяется тезис о том, что человечество будет не в силах анализировать и предсказывать те или иные события, связанные с технологической революцией. Это обусловлено сложностью новых процессов и огромной постоянно увеличивающейся скоростью, с которой будут происходить изменения. Специалисты и футурологи делают различные прогнозы в отношении момента наступления сингулярности. Разброс оценок довольно велик. В 2012 году ее намечали примерно на середину 21 века. Сегодня все громче звучат голоса тех, кто говорит о технологической сингулярности уже в конце текущего десятилетия.

Однако большинство рассуждений на эту тему производят двоякое впечатление. Даже если абстрагироваться от того, что значительная их часть выглядит реминисценцией на тезисы луддитов, невольно задумываешься вот о чем. За последние двести лет наука и технология породили огромное количество решений, сами принципы работы которых понятны лишь специалистам. При этом стратегию развития и приоритеты зачастую определяют люди, знания и масштаб личности которых, мягко говоря, не соответствуют сложности задач, стоящих перед ними. Не осталось ни одной области, от логистики до медицины, где различные аппаратные комплексы и программное обеспечение не играли бы огромную роль в принятии решений. Более того, глобальные процессы в экономике, политике и социальной сфере стали настолько сложными, объемы данных — настолько значительными, а реагировать на происходящее приходится настолько быстро, что зачастую человек уже не принимает непосредственного участия даже в комплексных транзакциях. С развитием технологий M2M/IoT, Machine Learning и нейронных сетей постепенно выстраивается новый уровень полностью автоматизированного управления процессами. Разумеется, за новыми разработками стоит не могучий AI, но отдельные люди, решающие конкретные, как правило, связанные с коммерческими интересами, задачи.

Наша способность строить прогнозы в отношении стохастических процессов, создавать робастные модели для их описания, в конце концов, просто увидеть за деревьями лес, весьма ограничена. Ироничное определение Вебера становится все более актуальным. «Эксперт — это человек, который знает все больше и больше о все меньшем и меньшем, и так до тех пор, пока он не начинает знать абсолютно все ни о чем». Ощущается острый дефицит специалистов, способных не просто описать новые решения, рассказать об их преимуществах и принципах работы, но и понять, какое место они займут в инфраструктуре, как повлияют на функционирование других систем, каким может быть кумулятивный эффект от совокупности различных новых технологий. О сколь нибудь достоверных долгосрочных прогнозах и говорить не приходится.

А потому зачем ждать появления непостижимого сокрушительного искусственного интеллекта. Футурологи говорят о различных угрозах, связанных с «восстанием машин». Однако, в том, что касается организации всевозможных бедствий, вышедший из под контроля AI можно с успехом заменить некомпетентностью и жадностью. Написанный впопыхах код, призванный устранить незначительную проблему у коммерческого заказчика, из-за конфликта с другими приложениями или появления новых параметров может создать массу серьезных проблем. Мы уже, по крайней мере, на протяжении полувека довольно смутно понимаем, как работают развернутые у нас системы, поскольку стратегию их развития все чаще определяют маркетологи, а не специалисты в области системного анализа. Это порождает дурную бесконечность симулякров. Нет необходимости оценивать происходящее с унынием Бодрийяра, однако следует признать, что нам сложно проанализировать и осознать даже то, что уже произошло. Не говоря уже о способности заглянуть в будущее. Для того чтобы убедиться в этом, достаточно ознакомиться с подготовленными двадцать лет назад исследованиями, посвященными перспективам индустрии высоких технологий, и сравнить с тем, что мы видим сегодня.

Так что, в каком-то смысле, технологическая сингулярность уже наступила. Совокупность существующих технологий и скорость их развития уже не позволяют провести комплексный анализ всех аспектов их использования. А с учетом человеческого фактора у нас куда больше шансов оказаться статистами в сценарии «Доктор Стрейнджлав, или Как я научился не волноваться и полюбил атомную бомбу», чем в один прекрасный день проснуться в Матрице.