Кто боится AI - 2. Те же и Линус Торвальдс

Вообще, создается впечатление, что самые громкие имена в IT нашли себе интеллектуальную забаву и с удовольствием играют в новую страшилку. Только нужно выбрать, какими ты играешь − черными или белыми. Вот и Линус Торвальдс откровенно смеется над AI-апокалипсисом, выбрав белые фигуры.

В предыдущем блоге мы отметили, что за прошедшие несколько месяцев многие известные ученые и инженеры, включая Стивена Хокинга, сказали, что одна из самых больших угроз человечеству − искусственный суперинтеллект.

Линус Торвальдс (Linus Torvalds) не то, чтобы подключился к дискуссии, но изложил свою точку зрения в сессии вопросов и ответов с членами сообщества Slashdot, назвав эти страхи «идиотичными»

Торвальдс же указал прежде всего на достоинства и преимущества AI, попытавшись объяснить, что мы скорее увидим не Skynet, а то, что он назвал «целевым AI», (Targeted AI), который скромно и трудолюбиво выполняет синхронный языковой перевод в реальном времени, прогнозное бизнес-планирование со многими неизвестными и тому подобное.

Дайджест дискуссии на Slashdot: Торвальдс

В этом разделе приведу в сокращении смысловое изложение точки зрения Линуса Торвальдса, без кавычек. Вот что он примерно сказал.

Искусственный интеллект не станет «кибербогом» (cybergod) или даже эквивалентной человеческому интеллекту формацией. Рассматривайте его всего лишь как чуть продвинутые версии таких приложений, как Google Now или Siri.

Мы, разумеется, доберемся до AI, и это почти наверняка будет что-то очень похожее на нынешние нейронные сети. Верно то, что AI будет нуждаться в обучении, и это не будет достаточно надежно в традиционном компьютерном смысле.

Верно то, что пора снять с глаз сорокалетние шоры Пролога, когда люди еще думали, что они будут понимать, как AI принимает решения. Все это делает AI очень интересным, но также и труднопредсказуемым. Пока совершенно непонятно, какими именно будут нейронные сети, какой масштаб они примут, какие данные им потребуются на входе и какие решения они дадут на выходе. Раньше других прикладных реализаций, очевидно, появятся средства языковой обработки и распознавания образов.

Таким образом, я ожидал бы просто чего-то совсем необычного, характерного и предназначенного именно для AI, но вовсе не для человеческого восприятия. Я просто не вижу ситуации, в которой у вас внезапно случится некоторый экзистенциальный кризис, потому что ваша посудомоечная машина станет обсуждать с вами творчество Сартра.

AI-бот Евгений Густман как вершина достижений AI. Ну, если это все… Торвальдс выразился по этому поводу предельно ясно: «It's all bullshit, sane people know it's bullshit». Переведите сами

Что касается идеи «технологической сингулярности», (technological singularity), т.е., предполагаемого некоторыми исследователями короткого периода чрезвычайно быстрого технологического прогресса, я не думаю, что компьютеры внезапно научатся производить себе подобных, тем более в неограниченном количестве.

Я также не думаю, что AI каким-то образом позволит нам жить вечно, в какой бы то ни было форме − материальной или виртуальной. Возможно, «гуру сингулярности» от Google Рей Курцвейл и купился на этот миф, но я абсолютно скептичен по данному поводу. Это − научная фантастика, и не самая качественная.

Мнение сообщества Slashdot

Сообщество показало себя вполне здравым, поскольку опиралось в основном не на фэнтези, а на здравый смысл, который, собственно, и сдерживает безудержный полет фантазии стареющих ботанов. Как говорится, умные речи приятно и слушать.

Термин «AI» спекулятивно набирает популярность, особенно с последней волной стартапов Долины. Ох, бедные инвесторы.

Летающие автомобили − будущее, и они будут здесь через 3 года!
Освоение ближнего космоса − будущее, и это будет здесь через 15 лет!
Ядерный синтез − будущее, и он будет здесь через 20 лет!
Старение закончено. Вечный молодой человек − будущее, и мы будем жить вечно через 50 лет!
Искусственный интеллект – будущее… Просто будущее…

Я прочел, что Маск и Гейтс сказали об опасности AI и считаю, что их замечания трактуются прессой совершенно неправильно. Ни один из них не предупреждает об опасности AI, подобной Skynet.

Они обращаются к намного более простому, и гораздо лучше определенному, подобному вирусу AI. Не исполнение роли человека AI, но AI, который в состоянии приспособиться к различным целевым системам, таким, как фондовые биржи, финансовые учреждения, сети компаний и т.п. Здесь опасность реальна, но такие системы всегда так или иначе управляются человеком.

И все-таки нужна оговорка

Безусловно, «разумностью» в человеческом смысле в области AI пока и не пахнет. И еще долго «не запахнет». И все же стоит прислушаться к мнению еще одного участника дискуссии, который откровенно играет черными − Билла Гейтса.

Он, со своей стороны, обращает внимание на более приземленное, но гораздо более насущное и опасное, близкое к AI явление, приводя как пример боевых роботов, которые сегодня разрабатываются по крайней мере в 50 странах мира.

Это не AI в понимании ученых. Здесь вполне достаточно принципов и алгоритмов продвинутой автоматики − «if на движущемся объекте нет определенного опознавательного знака, then уничтожить его else предупредить об опасности выстрелом в воздух». Просто, понятно и однозначно.

Не так эффектно, как в «Терминаторе», но вполне эффективно для уничтожения наземных целей

Это вполне реализуемо и уже реализовано, например, в ПО супердрона Predator. Почитайте, как он работает.

Это − серьезная и важная общемировая проблема, для которой пока даже на ищется решения. Боевые роботы не запрещены и не ограничены ни одним международным соглашением. Они действительно представляют реальную опасность.

А искусственный интеллект… Не более чем интеллектуальная жевательная резинка для нобелевских лауреатов.