`

СПЕЦИАЛЬНЫЕ
ПАРТНЕРЫ
ПРОЕКТА

Архив номеров

Как изменилось финансирование ИТ-направления в вашей организации?

Best CIO

Определение наиболее профессиональных ИТ-управленцев, лидеров и экспертов в своих отраслях

Человек года

Кто внес наибольший вклад в развитие украинского ИТ-рынка.

Продукт года

Награды «Продукт года» еженедельника «Компьютерное обозрение» за наиболее выдающиеся ИТ-товары

 

Александр Черников

Насколько «умным» является искусственный интеллект?

+35
голосов

Вице-президент и главный инженер SAS Оливер Шабенбергер (Oliver Schabenberger) в числе многих других противостоит характеристике искусственного интеллекта, которую дал основатель Tesla Илон Маск (Elon Musk), ─ как одной из самых страшных проблем человечества в настоящее время.

Насколько «умным» является искусственный интеллект?

Илон Маск ─ «Киборги... Они везде... Они заполонили Землю...» ©

Уже, пожалуй, только очень ленивые профильные и непрофильные СМИ не писали об этом. За последующие два месяца Илон Маск* получил обширную критику за это свое высказывание на совещании National Governors Association 15 июля текущего года.

Кстати

* В данном тексте Elon Musk переводится как «Илон Маск», согласно транскрипции, приведенной в статье Википедии. Для поиска более обстоятельного обоснования наберите в поиске Google «элон или илон».

Ну, можно еще добавить, что на иврите имя Elon обозначает «дерево», «дуб». Правда, тут есть риск запутаться. Из-за особенностей иврита это имя получило массу вариантов, таких как Алон (собственно, именно слово «дуб» с иврита передается именно как alon), а также Илон, Эйлан, Эйлон, Илан, Элан...

В общем, можно подставить любую гласную ─ и, в принципе, угадаешь. Проблема в том, что в иврите используется так называемое консонантное письмо, то есть все слова на письме передаются только согласными буквами, а за гласные отвечают огласовки — специальные значки под буквами и слева от них.

При этом в обиходном письме огласовки в основном не используются — носитель языка и без них понимает, какое слово написано и где какой гласный в нем стоит. Это иногда и приводит к подобной вариативности.

В чем дело?

Так что, собственно, случилось, и почему разгорелась такая полемика во всем мире, включая многих столпов мира IT? Маск дословно сказал следующее ─ «AI представляет собой фундаментальный риск для человеческой цивилизации, и я не думаю, что люди осознают это». Маск также назвал технологии AI «самой страшной проблемой» и призвал к ее правительственному регулированию.

Это, в общем, не новая риторика. Мы слышим тревожные высказывания об AI уже много лет. До тех пор, пока этим занимались фантасты, все казалось захватывающим, но слишком далеким, мало реальным и непонятно как реализуемым на практике. Но сегодня о влиянии AI на человечество говорят уже на правительственном уровне, а это ─ уже совсем другой коленкор. Насколько оправданы опасения Маска? И насколько оправдан оптимизм его оппонентов?

«Я скорее могу пострадать от собственной глупости при обращении с AI, но не от алгоритмов и ПО», ─ сказал по этому поводу Шабенбергер. ─ «Но боюсь ли я их? Нет. Я чувствую, что они мне угрожают? Нет».

Конечно, верно, что машины, устройства, приборы, автомобили и ПО становятся все более «умными» и более способными уже в течение долгого времени. Правда и то, что машины становятся все более способными к выполнению традиционно человеческих задач.

Но человечество с момента своего появления трансформирует различные объекты в инструменты. Например, обрабатывая куски кремня, люди создали очень опасные для того времени ножи.

В эпоху промышленной революции инструменты становятся все более автоматизированными. Сегодня роботы выполняют значительную часть операций на фабриках. На бытовом уровне термостаты отвечают на изменения температуры без нашего вмешательства.

Однако, никто не утверждает, что эти автоматизированные инструменты при этом что-то думают. Разве эта давнишняя парадигма собирается измениться? С повышением AI наши инструменты и машины начнут действительно иметь собственное мнение? Мы рискуем стать рабами машин-хозяев?

Тревоги основаны на предположении (а, возможно, и вере), что, как только искусственный интеллект достигнет определенного уровня, он разовьется так быстро, что мы уже не сможем управлять его отрицательными эффектами.

Насколько «умным» является искусственный интеллект?

Оливер Шабенбергер ─ «Я не думаю, что опасения Маска оправдаются, по крайней мере в такой форме и так скоро».

Где сегодня находится AI?

AI стал синонимом изготовления все более умных вещей все более автоматизированным и автономным способом. Почему-то люди склонны связывать что-либо умное или неожиданное с AI. Но самые умные инструменты пока создают люди, а вовсе не AI.

В конце концов, даже простой калькулятор лучше в арифметике, чем когда-либо будут люди. Но это ─ вовсе не искусственный интеллект. Системы AI сегодня извлекают уроки только из данных. Они принципиально не могут выйти за пределы данных, создавая что-либо или рассуждая.

Продвинутая аналитика (Advanced Analytics) прогрессирует от подхода, основанного на моделях, созданных статистиками и учеными данных, к аналитическим системам, основанным на самостоятельном обучении машин (Machine Learning).

Другими словами, вместо того, чтобы размещать модель в центре аналитической обработки, мы теперь используем управляемый данными подход, в котором автоматизируем определение лучшего алгоритма. Системы теперь могут обновить себя, поскольку им становятся доступны новые данные. В этом смысле они самообучаемы. Но никак не разумны. Каждый, кто так или иначе связан с AI, в целом недоволен его текущим уровнем работы.

С появлением алгоритмов «глубокого обучения» (deep learning) машины начинают решать задачи новым способом, ─ они сами составляют алгоритмы обработки данных.

Разработчики ПО, которые традиционно пишут код на основании машинной логики, теперь заменяются «учеными данных» (data scientist), которые определяют и обучают глубокую нейронную сеть (deep neural network).

Эксперты, которые изучают определенную область и обучают ее особенностям, заменяются алгоритмами изучения, которые самостоятельно извлекают правила из исторических данных.

Люди получают удивительные уроки в этом процессе. Мало кто думал, что можно разработать программу игры в Го. Но игра была самостоятельно изучена машиной и программа сегодня играет лучше чемпиона мира.

Программы, ранее разрабатываемые классическим способом, ─ написанием кода человеком, ─ теперь решают задачи с большей точностью за счет самообучения алгоритмам. Примеры включают преобразование голоса в текст, распознавание и классификацию изображений, резюмирование документов и др.

Глубокое знание предметной области заменяется достаточно большими и точными данными, которые алгоритм может изучить и приобрести необходимые знания и навыки. Глубокое обучение уже изменяет нашу жизнь в таких областях, как автономные транспортные средства, распознавание эмоций, ведение беседы, языковый перевод и др.

Все описанное действительно существует и будет совершенствоваться. Но давайте посмотрим и на обратную сторону медали.

Мертвые точки

Означает ли развитие такого, очень сложного, глубокого обучения, что машины скоро превзойдут своих разработчиков? Они уже намного лучше нас в надежности, точности и пропускной способности. Но они отстают в размышлении, изучении, разработке. Не с сегодняшними технологиями AI.

Даже система, которая извлекает правила игры из прошлых (введенных человеком) данных, не может разработать абсолютно новые правила или новые игры. Она может применить правила новым и более эффективным способом, но не изобретает новую игру.

Машина, которая научилась играть в Го лучше, чем любой человек, не знает, как играть в покер. Система классификации объектов не может распознать объект, о котором она не была информирована во время обучения. Машины, обучаемые на основе сегодняшних технологий, не смогут самостоятельно прийти к выводу, что лед ─ это замороженная вода.

Все это не означает, что AI не является мощной технологией. У AI есть потенциал, чтобы преобразовать фактически каждую отрасль промышленности. AI обеспечивает полезные действия, способности и производительность на ранее невиданном уровне. Мы будем нуждаться во всем этом, чтобы автоматизировать аналитику в мире, который уже тонет в данных.

Какой вывод?

Истинный интеллект требует творческого потенциала, инноваций, интуиции, независимого решения задач, самосознания и ощущений. Самые современные системы, построенные на основе глубокого обучения, не имеют, ─ и не могут иметь, ─ этих особенностей.

Пока они обучаются нисходящими контролируемыми методами (top-down supervised methods) и не развиваются далее самостоятельно. Но они, конечно, могут повысить наш собственный интеллект.

Например, ученые данных в настоящее время тратят 80% своего времени на управление данными. AI в состоянии помочь в этом. Другими словами, давая ученым данных больше времени для непосредственно аналитики, AI делает их более ценными, а их рабочие места ─ более приятными.

А как насчет истинного, творческого, подобного человеку искусственного интеллекта, который иногда упоминается как «общий искусственный интеллект» (artificial general intelligence)? Мы не получим его без новых технологий, принципы которых еще не найдены.

До тех пор, несмотря на наши постоянные приступы опасений о способности машин управлять людьми, мы можем быть уверены, что хозяином положения являются не они.

P.S. От себя замечу ─ «до тех пор»? А после? Может быть, именно об этом говорит сейчас Илон Маск? Может быть, нужно уже принимать какие-то меры по ограничению и регулированию, ─ пока ситуация не вышла из-под контроля человека?

Насколько «умным» является искусственный интеллект?

Кстати, Стивен Хокинг (Stephen Hawking), как и Илон Маск, считает, что AI, который неизбежно, и в первую очередь, будет использоваться в области систем вооружений (Autonomous AI-controlled Weapons), представляет угрозу для человечества.

+35
голосов

Напечатать Отправить другу

Читайте также

 
 
IDC
Реклама

  •  Home  •  Рынок  •  ИТ-директор  •  CloudComputing  •  Hard  •  Soft  •  Сети  •  Безопасность  •  Наука  •  IoT