`

СПЕЦІАЛЬНІ
ПАРТНЕРИ
ПРОЕКТУ

Чи використовує ваша компанія ChatGPT в роботі?

BEST CIO

Определение наиболее профессиональных ИТ-управленцев, лидеров и экспертов в своих отраслях

Человек года

Кто внес наибольший вклад в развитие украинского ИТ-рынка.

Продукт года

Награды «Продукт года» еженедельника «Компьютерное обозрение» за наиболее выдающиеся ИТ-товары

 

Александр Черников

«Conscious robot» – не верю!

+33
голоса

Тут в середине июля вся околокомпьютерная пресса взорвалась очередной сенсацией: AI прошел тест на наличие самосознания и роботы действительно стали разумными. Правда, разработчики осторожно говорят только об «ограниченном самосознании в узких, хорошо определенных областях». Что произошло на самом деле?

Гуманоидный робот (не обманывайтесь – чучело человека, которому куда-то там вставили компьютер с соответствующей программой) решил классическую загадку, называемую «тестом мудрецов» и сказал открытым текстом, что знает, как ее решить.

Таким образом, вдруг, неожиданно для специалистов, возник вопрос, насколько в реальности мы близко к выпуску робота, обладающего самостоятельным сознанием (conscious robot)?

«Conscious robot» – не верю!

Зомби вызывали?

Что произошло

В лаборатории робототехники, что расположена на восточном берегу реки Гудзон в Нью-Йорке, трем маленьких роботам гуманоидного вида задали упрощенный вариант логической задачи о трех мудрецах и их колпаках. В классическом виде она выглядит следующим образом.

«Conscious robot» – не верю!

Три мудреца спорят, кто из них умнее. Приходят к четвертому и просят их рассудить. Тот говорит: – У меня в мешке пять колпаков. Три черных и два белых. Я надену на каждого из вас по колпаку таким образом, что вы не будете видеть цвет своего, но будете видеть цвет колпаков ваших соперников. Кто первый скажет, какой на нем колпак, – тот и самый умный. Он надевает на каждого черный колпак, два белых остаются в мешке. Через какое-то время один из мудрецов говорит: «На мне черный колпак». Вопрос: как он догадался?

Размышление здесь основано на наблюдении фактов и дедукции. «Я вижу два черных колпака… Если бы на мне был черный колпак, то… Если бы на мне был белый колпак, то…». Попробуйте продолжить сами.

В эксперименте все было еще проще. Двум из трех роботов экспериментаторы нажатием кнопки как бы дали «таблетку онемения» (dumbing pill), которая заставила их замолчать. Но ни один из них «не знал», кто еще в состоянии говорить. Это было именно то, что они должны были сами определить.

Не имея возможности решить проблему, роботы при повторении эксперимента всякий раз говорили: «Я не знаю». Но тот, кто имел возможность слышать собственный голос, все-таки понял, что заставили замолчать не его.

Следующая фраза, пожалуй, войдет в историю как «Поехали!» и «Это маленький шаг для человека, но огромный для человечества». Робот сказал: «Sorry, I know now! I was able to prove that I was not given a dumbing pill», в смысле «Теперь я знаю! Я смог доказать, что именно мне не отключали речь!»

Он самостоятельно сделал формальный математический вывод и сохранил его в памяти, чтобы доказать, что он понял, как можно решить задачу. Это – первый случай в истории, когда робот прошел классический тест, называемый «загадкой мудрецов».

В общем, это очень несложный тест, который говорит только о наличии «предгорий сознания» (foothills of consciousness), но, например, обезьяны на такое вообще не способны.

Эксперимент показал, что роботы, – в данном случае это были стандартные модели Nao, – могут решать логические задачи, требующие элемента самосознания, то есть идентификации самого себя. Это – важный шаг к созданию машин, которые понимают их место в мире.

Что такое Nao (или уже «кто такое»?)

«Conscious robot» – не верю!

Спецификация Nao довольно скромна.

Модель Nao V5 Evolution (2014)
Рост 58 см
Вес 4,3 кг
Питание Литиевый аккумулятор емкостью 48,6 Вт·ч
Автономность 90 мин (активное использование)
Степеней свободы 25
Процессор Intel Atom @ 1.6 GHz
Операционная система NAOqi 2.0 (Linux-based)
Совместимые ОС Windows, Mac OS, Linux
Языки программирования C++, Python, Java, MATLAB, Urbi, C, .Net
Конструкция Встроенная, без внешних вычислителей
Сенсоры 2 HD камеры;
4 микрофона;
Радиодальномер;
2 инфракрасных источника света / датчика;
9 тактильных сенсоров (контакта);
8 сенсоров силы нажатия (давления).
Внешние соединения Ethernet, Wi-Fi

Селмер Брингсйорд

«Conscious robot» – не верю!

Тест разработал и управлял роботами в ходе эксперимента Селмер Брингсйорд (Selmer Bringsjord) из нью-йоркского Rensselaer Polytechnic Institute

Он говорит, что, проходя много тестов подобного уровня, очень узконаправленных, роботы постепенно создадут свой репертуар способностей, которые в принципе, могли бы быть полезными людям.

Можно только приветствовать такой здравый подход, – вместо того, чтобы заламывать руки и страдать по поводу того, смогут ли машины когда-либо быть такими же самосознательными как люди, Брингсйорд стремится демонстрировать определенные, ограниченные, но работоспособные и применимые практически примеры искусственного сознания.

Этот эксперимент продолжает активно обсуждаться философами, которые пока пришли к следующему выводу: эта работа, которая будет представлена в августе на конференции RO-MAN в Кобэ (Kobe, Japan), впервые выдвигает на первый план «темные воды искусственного сознания» (murky waters of artificial consciousness).

Прохождение «теста мудрецов» требует некоторых очень человеческих черт. Но роботы Брингсйорда могут только казаться сознательными в этом конкретном случае, поскольку они как бы оценивают собственное состояние и делают то, что у людей называется «умозаключение».

Но говорить о более широкой и глубокой разумности (broader and deeper intelligence), свойственной людям, конечно, не приходится. Роботы Nao действительно могут пройти «тест мудрецов», но пока не имеют никакой надежды распознать, есть ли у них собственные ноги.

Брингсйорд говорит, что пока главной причиной того, что у роботов не может быть более широкого и глубокого сознания, является то, что они просто не могут обрабатывать в реальном времени соответствующие объемы данных.

Например, технически камеры Nao могут захватить больше данных, чем человеческий глаз. Однако роботостроители пока понятия не имеют, как «сшить» всю эту информацию вместе, чтобы построить связную картину мира.

Тест также в очередной раз поднимает вопрос о том, что означает для людей наличие самосознания, или «личного опыта сознательной мысли» (first-hand experience of conscious thought).

Совершенно неясно пока, как, например, преодолеть разницу между человеческим восприятием восхода солнца как эмоционального явления и просто наличием нейронов зрительной зоны коры головного мозга, которые физически воспринимают восход солнца.

Соответственно, без этого роботы – не более, чем «философские зомби» (philosophical zombies) способные к эмуляции сознания, но в действительности вовсе не обладающие им.

Размышления о самосознании и самоосознании

Подобные исследования, пусть не слишком широко и активно, ведутся также в других научных организациях.

«Conscious robot» – не верю!

Например, Nico, исследовательский робот в Йельском университете, смог распознать в зеркале собственную руку (2012)

«Conscious robot» – не верю!

Специальное ПО распознавания лиц для маленького робота Qbo было разработано так, чтобы он смог «узнать» себя в зеркале (2011)

Оба эти эксперимента – этап в более широких исследованиях того, как животные понимают, что морда, которую они видят в зеркале, является их собственной. Только самые умные животные нашей планеты – дельфины-касатки, слоны, сороки, дельфины, несколько обезьян (и люди) способны на это.

Любопытно отметить, что успехи робототехники таковы, что даже вызывают определенный теологический интерес. В прошлом году креационистская южная евангелистская Семинария (creationist Southern Evangelical Seminary) в Северной Каролине купила робот Nao, чтобы провести самостоятельные исследования относительно того, могли бы роботы в своем развитии закончить тем, что заменили бы людей.

Все-таки не следует умалять описанное выше достижение. Закон Мура работает, вычислительная мощность растет, алгоритмы совершенствуются. Как было сказано еще две тысячи лет назад, «увидишь более сего» (Иоан. I, 51).

Ready, set, buy! Посібник для початківців - як придбати Copilot для Microsoft 365

+33
голоса

Напечатать Отправить другу

Читайте также

 

Ukraine

 

  •  Home  •  Ринок  •  IТ-директор  •  CloudComputing  •  Hard  •  Soft  •  Мережі  •  Безпека  •  Наука  •  IoT