`

СПЕЦИАЛЬНЫЕ
ПАРТНЕРЫ
ПРОЕКТА

Архив номеров

Как изменилось финансирование ИТ-направления в вашей организации?

Best CIO

Определение наиболее профессиональных ИТ-управленцев, лидеров и экспертов в своих отраслях

Человек года

Кто внес наибольший вклад в развитие украинского ИТ-рынка.

Продукт года

Награды «Продукт года» еженедельника «Компьютерное обозрение» за наиболее выдающиеся ИТ-товары

 

Александр Черников

Кто боится AI?

+33
голоса

Вот уж действительно − глаза боятся, а руки делают. Человечество предостерегает само себя от грядущего засилья Artifical Intelligence − и в то же время продолжает активно развивать его. Это какой-то парадокс − «Cкоро искусственный интеллект уничтожит нас. Вот только сейчас доделаем его, и можно начинать».

«Шарик разовьется в чрезвычайно высокую психическую личность».
М.Булгаков, «Собачье сердце»

Дискуссия по данному поводу несколько выходит за рамки «обсуждений на лавочке» и даже за круг интересов так называемых «научно-популярных» (а в действительности зачастую откровенно желтых и псевдонаучных) изданий и ресурсов».

С начала 2015 г. группа всемирно известных ученых не то, чтобы борется, но предостерегает человечество от последствий увлечения искусственным интеллектом (Artifical Intelligence, AI).

Этот демарш не остался незамеченным. Другая группа ученых призывает интенсифицировать развитие AI, поскольку он обещает дать каждому человеку небывалые интеллектуальные возможности.

 Кто боится AI?

Это − плакат, который был представлен на выставке «Pencil to Pixel 2011», организованной глобальной компанией-артстудией Monotype. Решите сами, боитесь вы распространения искусственного интеллекта или нет.

Громкие имена, на которые мы будем ссылаться ниже, известны многим и многим. Однако давайте все же официально представим противоборствующие стороны.

Опасаются AI: Стивен Хокинг и Элон Маск

Их открытое письмо, адресованное нашей цивилизации (и поддержанное многими знаменитостями) предупреждает, что люди должны осознавать риски, связанные с безудержным развитием AI.

 Кто боится AI?

Стивен Хокинг (Stephen Hawking). Британский физик-теоретик, космолог (cosmologist), автор множества работ и директор по науке Центра теоретической космологии Кембриджского университета (Director of Research at the Centre for Theoretical Cosmology within the University of Cambridge). Родился 8 января 1942 г.

 Кто боится AI?

Элон Маск (Elon Reeve Musk). Родился в ЮАР. Ныне канадско-американский бизнесмен, магнат, инженер, инвентор и инвестор. Он CEO и CTO компании SpaceX, CEO и продукт-архитектор Tesla Motors и председатель совета директоров SolarCity. Родился 28 июня 1971 г.

Аргументы

Их хорошо изложил Сэм Шид (Sam Shead), журналист, пишущий для многих ресурсов, и специалист по Science Communication, в своей статье от 12 января 2015 г.

Пресловутое письмо, поддержанное десятками других ученых, предпринимателей и инвесторов, заявляет, что в области AI должно быть уделено больше внимания безопасности и социальным последствиям его распространения.

Письмо и приложенная к нему научно-исследовательская работа от Института будущего жизни (Future of Life Institute, FLI) содержат рекомендации в том, как именно ученые должны развивать AI, а также целую россыпь страхов о том, что машины собираются превзойти способности людей во многих областях жизни и перекроить ситуацию на рынке рабочей силы.

Основной страх заключается в том, что однажды процесс развития AI выйдет из-под контроля человека. Маск несколько ранее сказал, что безудержное развитие AI может быть «потенциально более опасным, чем ядерное оружие».

Эксперты некоторых крупнейших технических корпораций в мире − включая команду суперкомпьютера IBM Watson, Google, Microsoft Research и Amazon − также подписали письмо.

Хокинг в интервью BBC в начале 2015 г. сказал, что «реализация всех возможностей AI может означать конец человеческой расы. Люди, которые принципиально ограничены медленным биологическим развитием, не смогут конкурировать и будут заменены».

Справедливости ради надо отметить, что письмо также указывает, что существует много выгод, которые будут реализованы, если AI будет развиваться «правильно».

Но что означает «правильно»? В общем, сегодня полно примеров безопасного, «беззубого» развития AI. Это, например, Apple Siri, который позиционируется как «личный разумный помощник» (Intelligent Personal Assistant, IPA) или потешные самобеглые машинки от Google.

Однако поди попробуй установить единую линию развития, если только в Силиконовой Долине сегодня в области AI работают более 150 стартапов и каждый из них соблюдает строжайший режим секретности.

Что именно они делают, неизвестно, − как и то, что будет, когда их очередное детище вырвется на свободу. Впрочем, это уже отдает терминаторской SkyNet и человеческой паранойей.

Двумя руками за AI: Рэй Курцвейл

 Кто боится AI?

Рэй Курцвейл (Raymond "Ray" Kurzweil). Американский компьютерный ученый, инвестор, футурист и Director of Engineering в Google. Родился 12 февраля 1948 г.

В то время как Стивен Хокинг и Элон Маск призывают человечество быть против бесконтрольного развития искусственного интеллекта, Рей Курцвейл исповедует иной подход к инновациям на AI-фронте.

«Согласно Курцвейлу, люди будут «искусственно умны» (will be artificially intelligent) уже к 2030 г., становясь наполовину homo sapiens, наполовину компьютером», − отметила 6 июня 2015 г. в своей статье на ресурсе Digital Trends обозреватель Лулу Чанг (Lulu Chang).

Совсем недавно, 3 июня 2015 г., на конференции Exponential Finance 2015 в Нью-Йорке, Курцвейл сделал еще один шаг. Он впервые сформулировал новое глубокое положение в AI − «Наше мышление (thinking) тогда станет гибридом биологического и небиологического мышления. Мы собираемся постепенно объединить и тем самым значительно усилить их. Природа ограничила наши возможности, чтобы мы оставались людьми. Теперь мы преодолеваем эти ограничения».

Уже через 15 лет, сказал Курцвейл, человеческий мозг станет гибридом биологии и технологии, и мы «разместим ворота в облако прямо в наших мозгах (put gateways to the cloud in our brains)». Поскольку облако становится все более продвинутым и в состоянии хранить все увеличивающееся количество информации, это же будет относиться и к нашему мозгу.

К концу 2030-х, или к началу 2040-х большинство функции мозга, − по крайней мере с точки зрения обработки информации и мыслительных процессов, − будут небиологическими.

Но Курцвейл вообще известен своими многочисленными и порой диковинными провидениями. Из 147 предсказаний, которые он сделал на 2009 г. в течение 1990-х, 86% оказались верными, включая основные применения портативных компьютеров и компьютерных очков. Он также предсказал победу компьютера в шахматах.

Бывал он и излишне оптимистичен, − например, с самоуправляемыми автомобилями, которые уже должны были бы колесить по градам и весям. Правда, он отлично пояснил это, раскритиковав себя самого. «Технология − обоюдоострый меч, и у каждой технологии свои обещания и свои опасности», − сказал он. К автотрафику это подходит как нельзя лучше.

Так что Курцвейл, хотя и находится среди оптимистов и приверженцев AI, вполне осознает ситуацию. «У нас есть некий моральный императив. Я склонен быть оптимистичным, но это не означает, что мы должны быть убаюканы и ни о чем не беспокоиться», − говорит он. − «Есть, конечно, значительные этические дилеммы, которые нужно рассмотреть. Например, должны ли люди когда-нибудь стать киборгами. Но давайте будем думать об этом тогда, когда доберемся к возможной реализации такой возможности».

Привет? Пока?

 Кто боится AI?
Вот и попробуйте определить, что означает этот жест: «Приветствую тебя, человек!» или «Стой! Тебе сюда нельзя!»

Ну, я бы сказал, что Хокингу, Маску, Курцвейлу и иже с ними, в общем, ничего не угрожает. Они трудоустроены, заняты интереснейшей работой, к какой бы области она ни относилась и, очевидно, не закончат свои дни на помойке.

Так что «проблема AI» поворачивается своей другой, намного более уродливой и страшной стороной. В мире людей подавляющее большинство составляет мало на что способная биомасса. Очень мило, что высоколобые уже сегодня заботятся о ней, хотя и довольно странным образом − пытаясь ограничить или замедлить развитие AI.

Возможно, в этом есть определенный смысл − голодная толпа не будет разбираться в устройстве AI. Прецедент существует − в 212 г. до н.э. при осаде Сиракуз римский солдат (просто пробегая мимо) зарубил 75-летнего Архимеда, который мирно чертил что-то на песке.

 

+33
голоса

Напечатать Отправить другу

Читайте также

 
 
IDC
Реклама

  •  Home  •  Рынок  •  ИТ-директор  •  CloudComputing  •  Hard  •  Soft  •  Сети  •  Безопасность  •  Наука  •  IoT