О нечеловеческом будущем экономики

С прогрессом искусственного интеллекта связано много опасений — от потери рабочих мест, до непредсказуемых действий автономных систем вооружения. В целом, эти фобии уступают соображениям практической пользы, и ИИ все более широко применяется для предотвращения ошибок медицинской диагностики, уменьшения количества ДТП и пр.

Одна из самых впечатляющих «страшилок» — о зарождении машинного суперинтеллекта и захвате им контроля над миром — уже давно вышла за рамки черных фантазий кинематографистов. О ней все чаще говорят не только профессиональные глашатаи техноапокалипсиса, наподобие оксфордского философа Ника Бострома (Nick Bostrom), но и светилы мира науки и бизнеса высоких технологий.

В представительной компании из Билла Гейтса, Стивена Хокинга, Элона Маска и многих других отметился и недавно удостоенный премии Тьюринга сэр Тим Бернерс-Ли (Tim Berners-Lee).

Выступая на открывшемся 10 апреля в Лондоне форуме Innovate Finance Global Summit, общепризнанный «отец» Всемирной Паутины озвучил своё видение будущего, в котором системы ИИ получат возможность бесконтрольно влиять на экономику.

Он предложил слушателям сценарий, в котором ИИ самостоятельно решает вопросы не только о выдаче ссуд, но и о приобретении компаний, и довёл его до логического завершения.

«Машинный интеллект начнёт создавать собственные компании, создавать холдинги и генерировать новые копии себя, чтобы руководить этими компаниями», — продолжил Бернерс-Ли. В его представлении, между этими компаниями развернётся борьба, в которой будет выживать сильнейший из конкурентов. Это соперничество неизбежно достигнет точки, когда оно войдёт в конфликт с принятыми в человеческом обществе этическими нормами.

Если уже сегодня невозможно объяснить, из каких соображений программа делает тот или иной ход в игре Го, то если ли способ гарантировать, что искусственный разум будет вести «честную игру», и что он вообще сможет усвоить принципы общечеловеческой этики?

Главным приоритетом рисуемой Бернесом-Ли финансовой системы, функционирующей без какого-либо человеческого вмешательства, будет собственное благополучие. Примерно как у гипотетической самосовершенствующейся «земляничной программы» Элона Маска, которая превратила бы мир в огромную земляничную поляну — без людей.

На фоне величественных картин мрачного будущего почти незамеченными проходит мнение такого авторитетного эксперта, как, гендиректор Алленовского института искусственного интеллекта и профессор компьютерных наук Вашингтонского университета Орен Этциони (Oren Etzioni). «Прогнозы появления такого суперинтеллекта в обозримом будущем не подкреплены доступными данными», — утверждает он, добавив, что гораздо реалистичнее (хотя и менее эффектно) выглядит сценарий, в котором новый уровень интеллекта достигается посредством симбиоза человека с ИИ.

Этика человеческого бизнеса это утопия того же порядка, как мир без адвокатов. Да и человеческий контроль — над рынками, системами и процессами — отнюдь не такое благо как, похоже, считает Бернерс-Ли., примером тому может быть хотя бы мировой финансово-экономический кризис 2007 г.

Для человека, стоявшего у истоков первой децентрализованной сети, Бернерс-Ли вообще слишком драматизирует по поводу утраты контроля. Там же в Лондоне он заявил, что нельзя позволить людям создавать такие социальные сети, какие они сами хотят, и, что, возможно, следует переосмыслить саму идею таких платформ во имя «общего блага планеты».

Стратегія охолодження ЦОД для епохи AI