`

СПЕЦИАЛЬНЫЕ
ПАРТНЕРЫ
ПРОЕКТА

Архив номеров

Как изменилось финансирование ИТ-направления в вашей организации?

Best CIO

Определение наиболее профессиональных ИТ-управленцев, лидеров и экспертов в своих отраслях

Человек года

Кто внес наибольший вклад в развитие украинского ИТ-рынка.

Продукт года

Награды «Продукт года» еженедельника «Компьютерное обозрение» за наиболее выдающиеся ИТ-товары

 

Виталий Кобальчинский

О нечеловеческом будущем экономики

+11
голос

С прогрессом искусственного интеллекта связано много опасений — от потери рабочих мест, до непредсказуемых действий автономных систем вооружения. В целом, эти фобии уступают соображениям практической пользы, и ИИ все более широко применяется для предотвращения ошибок медицинской диагностики, уменьшения количества ДТП и пр.

Одна из самых впечатляющих «страшилок» — о зарождении машинного суперинтеллекта и захвате им контроля над миром — уже давно вышла за рамки черных фантазий кинематографистов. О ней все чаще говорят не только профессиональные глашатаи техноапокалипсиса, наподобие оксфордского философа Ника Бострома (Nick Bostrom), но и светилы мира науки и бизнеса высоких технологий.

В представительной компании из Билла Гейтса, Стивена Хокинга, Элона Маска и многих других отметился и недавно удостоенный премии Тьюринга сэр Тим Бернерс-Ли (Tim Berners-Lee).

О нечеловеческом будущем экономики

Выступая на открывшемся 10 апреля в Лондоне форуме Innovate Finance Global Summit, общепризнанный «отец» Всемирной Паутины озвучил своё видение будущего, в котором системы ИИ получат возможность бесконтрольно влиять на экономику.

Он предложил слушателям сценарий, в котором ИИ самостоятельно решает вопросы не только о выдаче ссуд, но и о приобретении компаний, и довёл его до логического завершения.

«Машинный интеллект начнёт создавать собственные компании, создавать холдинги и генерировать новые копии себя, чтобы руководить этими компаниями», — продолжил Бернерс-Ли. В его представлении, между этими компаниями развернётся борьба, в которой будет выживать сильнейший из конкурентов. Это соперничество неизбежно достигнет точки, когда оно войдёт в конфликт с принятыми в человеческом обществе этическими нормами.

Если уже сегодня невозможно объяснить, из каких соображений программа делает тот или иной ход в игре Го, то если ли способ гарантировать, что искусственный разум будет вести «честную игру», и что он вообще сможет усвоить принципы общечеловеческой этики?

Главным приоритетом рисуемой Бернесом-Ли финансовой системы, функционирующей без какого-либо человеческого вмешательства, будет собственное благополучие. Примерно как у гипотетической самосовершенствующейся «земляничной программы» Элона Маска, которая превратила бы мир в огромную земляничную поляну — без людей.

На фоне величественных картин мрачного будущего почти незамеченными проходит мнение такого авторитетного эксперта, как, гендиректор Алленовского института искусственного интеллекта и профессор компьютерных наук Вашингтонского университета Орен Этциони (Oren Etzioni). «Прогнозы появления такого суперинтеллекта в обозримом будущем не подкреплены доступными данными», — утверждает он, добавив, что гораздо реалистичнее (хотя и менее эффектно) выглядит сценарий, в котором новый уровень интеллекта достигается посредством симбиоза человека с ИИ.

Этика человеческого бизнеса это утопия того же порядка, как мир без адвокатов. Да и человеческий контроль — над рынками, системами и процессами — отнюдь не такое благо как, похоже, считает Бернерс-Ли., примером тому может быть хотя бы мировой финансово-экономический кризис 2007 г.

Для человека, стоявшего у истоков первой децентрализованной сети, Бернерс-Ли вообще слишком драматизирует по поводу утраты контроля. Там же в Лондоне он заявил, что нельзя позволить людям создавать такие социальные сети, какие они сами хотят, и, что, возможно, следует переосмыслить саму идею таких платформ во имя «общего блага планеты».

+11
голос

Напечатать Отправить другу

Читайте также

 
 
IDC
Реклама

  •  Home  •  Рынок  •  ИТ-директор  •  CloudComputing  •  Hard  •  Soft  •  Сети  •  Безопасность  •  Наука  •  IoT