Искусственная проблема искусственного интеллекта

Случилось как-то Трурлю построить машину для счета, которая оказалась способной к одному-единственному действию, а именно: умножала два на два, да и то при этом ошибалась. Как было поведано в другом месте, машина эта отличалась при всем при том крайней самоуверенностью, и ссора ее с собственным создателем едва не закончилась для последнего трагически.

С. Лем. Кибериада. 1964

Примерно 40 лет тому назад мне довелось послушать одно из выступлений В. М. Глушкова. Он рисовал нам, выпускникам КПИ, сказочные картины будущего общества, преображенного с помощью недавно реабилитированной и ставшей полноправной науки кибернетики. Я уже проходил практику, работа была интересной, а потому призыву не внял. Голос судьбы, как известно, тихий, но властный. Через несколько лет я написал свою первую программу для ламповой машины и с тех пор нахожусь вблизи бурного потока идей, обещаний и результатов IT.

Кибернетика на внутреннем круге машины Луллия дописала очень важное слово: «Зачем?». Если раньше свои занятия ученые объясняли стремлением удовлетворить зуд познания неведомого, то новая наука заявила, что без нее современному обществу не выжить в нашем суровом мире. Более того, ключи от врат, за которыми счастье, находятся, в руках именно у нее.

Трурль: Наша эпоха окажется подготовительной и вдохновляющей, понимаешь? Благодаря ей наступит эра истинного счастья.

Клапауциус: Не твори счастья, не подумав! Не совершенствуй бытия одним махом! А если даже и сотворишь ты счастливцев (в чем я сомневаюсь), то ведь останутся по-прежнему и все остальные, возникнут зависть, ссоры, раздоры, и, кто знает, не встанет ли перед тобой неприятная альтернатива: либо счастливцы твои завистникам уступят, либо должны будут для достижения полной гармонии этих назойливых, обиженных да ущербных всех до одного перебить.

С. Лем. Собысчас

Мудрый Лем, как это ни обидно для устроителей всеобщего счастья, в очередной раз оказался прав. Обещания отцов кибернетики прежде всего нашли самый активный отклик у военных. Вычислительные возможности использовались для разработки ракет, бомб и спутников; основы машинного перевода закладывались специалистами отделов шифрования и дешифрования; распознавание графических и звуковых образов поддерживалось заказчиками из той же среды. Первые компьютерные сети были созданы вовсе не для электронной торговли.

Кибернетика «с человеческим лицом» — вынужденный результат осознания того, что атомная война, как убедительно показала модель академика Н. Н. Моисеева (реализованная, кстати, на суперкомпьютере Cray, любезно предоставленном американцами), — это гарантированное самоубийство. В дверь робко, а затем все настойчивее начала стучать конверсия.

Перечень завоевателей мира (а на меньшее уважающие себя благодетели не соглашаются) пополнила почти мирная кибернетика. На ее флаге, среди прочих лозунгов, есть и такой: «Не исключено, что если эра ИИ не наступит, то человечеству будет не до шуток». Я убежденный сторонник того, что человечеству будет не до шуток в любом случае, а с наступлением эры ИИ — особенно. К сожалению, тематика журнала не позволяет особенно углубляться в этические и социальные аспекты данной проблемы. Рассмотрим только некоторые ее технические стороны.

Выдавать глобальные идеи — это удовольствие; искать сволочные маленькие ошибки — вот настоящая работа.

Брукс

К словам этого человека стоит прислушаться. С 1957 по 1962 гг. он руководил коллективом из 1000 программистов, разработавшим IBM ОS/360, компиляторы для нескольких языков программирования и минимально необходимый набор утилит.

За последующие 10 лет эксплуатации в этом проекте было выявлено около 10 тыс. крупных, средних и незначительных ошибок. Разработчики последующих, более масштабных проектов, постарались максимально использовать опыт первопроходцев.

Чего же мы достигли, и насколько соответствует наше умение предстоящим задачам?

Машинный перевод (МП) — одна из актуальных задач ИИ. Усовершенствованный подстрочник, которым, по сути, являются современные системы МП, достаточен, чтобы пользователь, специалист в предметной области, понял, о чем идет речь в переводимом тексте, но качество перевода будет совершенно неприемлемым без применения «многоэтажного» аппарата анализа связного текста, в котором семантический анализ — лишь один из обязательных элементов. Только для того чтобы разобраться с семантикой микроконтекста, потребуется сделать миллионы подпрограмм, привязанных к словарным статьям исходного и выходного языков. Их надо будет не только написать, но и сопровождать, потому что языки — явление динамическое, они «живут», и система МП должна все время учитывать изменяющуюся действительность.

Распознавание устной речи — не просто более сложная задача, чем МП. Помимо многоаспектного анализа звука как такового и синтеза текста из звука, она включает в себя МП как обязательную составную часть, а именно: перевод со слитной письменной речи (со многих диалектов и выговоров) в каноническую, литературную форму, которая поступит на вход анализатора смысла того, что было произнесено. Начинать работу с распознавания речи, не решив проблему МП, — это примерно то же, что строить небоскреб, начиная с верхнего этажа. В такой подход трудно поверить, но в советское время архитекторами-новаторами были, в качестве эксперимента, построены несколько жилых домов, начиная с крыши.

Распознавание рукописных текстов, помимо интерпретации сложных кривых, отображенных на сетке, тоже неизбежно выходит на задачу анализа смысла связного текста.

Непредубежденное рассмотрение этих и иных задач ИИ приводит к печальной необходимости согласиться со следующими непреложными законами.

Когда мы пытаемся вытащить что-нибудь одно, оказывается, что оно связано со всем остальным (Закон Муира).

Вселенная не только необычнее, чем мы воображаем, она необычнее, чем мы можем вообразить (Закон Хелдейна).

Если рассмотреть проблему достаточно внимательно, то вы увидите себя как часть этой проблемы (Аксиома Дучарма).

БЕЗНАДЕЖНЫЕ УСПЕХИ

Невежество бывает двоякого рода: одно, безграмотное, предшествует науке; другое, чванное, следует за нею.

Мишель де Монтень. О суетных ухищрениях

Чем же, кроме энтузиазма, мы располагаем для решения задач ИИ?

За прошедшие 50 лет технологический прогресс очевиден. Технические характеристики компьютеров (по сравнению с «1913-м годом») потрясают, но каждый раз, когда приходится делать апгрейд, я прикидываю: а поместится ли новая ОС на новом «железе»? Прикладные программы, которым требуются большие рабочие массивы, постоянно оказываются в положении «бедных родственников»; вместо RAM им ненавязчиво, молча предоставляется дисковое пространство (с убывающим быстродействием). До сих пор так и не сделана ОС, приятная хотя бы в некоторых отношениях одновременно: надежность, быстродействие, удобство в работе и скромные потребности в ресурсах.

Из примерно 500 языков программирования, имеющихся сегодня, для разработки больших систем, как показала ревизия в связи с Проблемой 2000, в 75% всех программ (по объему исходных текстов) использовался язык сверхвысокого уровня КОБОЛ. Именно это обеспечило многолетнюю «живучесть» программ, которые оставались работоспособными в процессе их сопровождения многими преемниками авторов первоначального текста. В нашей стране КОБОЛ всегда был изгоем. На Западе неявно, но все же намечается аналогичная тенденция. Отказ от языка программирования, максимально близкого к естественному, переход на крупноблочное программирование со встроенными и недоступными для исправления ошибками — одна из причин нежизнеспособности современных больших систем.

Экспертная система, разработанная специально для Нью-Йоркской фондовой биржи, из шести кризисов предсказала только один. Кризис в Юго-Восточной Азии, другие финансовые обвалы приходили так же неожиданно, как наступает зима для коммунальных служб.

Больше десяти лет я наблюдаю титаническую работу по автоматизации бухучета. Конца ей не видно. То, чему учат человека с не очень высоким образованием на курсах бухгалтеров в течение нескольких месяцев, никак не поддается окончательной победе искусственного разума. Почему бы? Не потому ли, что сложные проблемы всегда имеют простые, легкие для понимания неправильные решения?

За 15 лет удалось сократить количество таблиц кодировки кириллицы с шести до трех; Internet иногда доставляет нам почту с произвольной перекодировкой алфавита; японцы не могут договориться сами с собой о кодовых таблицах иероглифов; много лет продолжается работа по созданию UNICODE; разнообразит жизнь постоянная несовместимость форматов файлов всех видов.

Создана индустрия игровых программ, успешно добивающаяся дебилизации молодежи (кстати, это — самый реальный и прибыльный способ создания биороботов).

До сих пор существует и поддерживается иллюзия, что каждая кухарка современными средствами может создавать СУБД, а программирование — это очень просто.

Понижается общий уровень грамотности. Если раньше в анкетах мы указывали, что переводим с иностранного со словарем, то теперь можем дополнить: пишу на родном языке с чеккером, считаю до 2000 с калькулятором, программирую на Tool box.

О надежности наших разработок хорошо сказано во Втором законе Вейнберга: если бы строители возводили здания так же, как программисты пишут программы, первый залетевший дятел разрушил бы цивилизацию.

И с этим арсеналом мы идем на приступ ИИ?

Во всех делах, где ум успешливый победу праздновать спешит, он ловит грустный и усмешливый взгляд затаившейся души.

И. Губерман

Поэты всегда видят точнее, чем инженеры. Механистический подход к проблеме ИИ, т.е. к материальному воплощению сознания, отвергал даже В. И. Ленин: «Тут явная неверность... назвать мысль материальной — значит сделать ошибочный шаг к смешению материализма с идеализмом» (Полн. собр. соч. Т. 15, с. 257). Мы вознамерились воссоздать душу, не зная, что она собой представляет, и, что особенно опасно, не задумываясь о возможных последствиях.

«ПАМЯТЬ МИРА»

Солнце горит каждый день. Оно сжигает Время. Вселенная несется по кругу и вертится вокруг своей оси. Время сжигает годы и людей, сжигает само, без помощи Монтэга. А если он, Монтэг, вместе с другими пожарниками будет сжигать то, что создано людьми, а солнце будет сжигать Время, то не останется ничего. Все сгорит.

Кто-то должен остановиться. Солнце не остановится. Значит, похоже, что остановиться должен он, Монтэг, и те, с кем он работал бок о бок всего лишь несколько часов тому назад. Гдето вновь должен начаться процесс сбережения ценностей, кто-то должен снова собрать и сберечь то, что создано человеком, сберечь это в книгах, в граммофонных пластинках, в головах людей, уберечь любой ценой от моли, плесени, ржавчины, тлена и людей со спичками. Мир полон пожаров, больших и малых. Люди скоро будут свидетелями рождения новой профессии — профессии людей, изготовляющих огнеупорную одежду для человечества.

Рэй Бредбери. 451 градус по Фаренгейту

В то же время одна из немногих задач, где IT могут найти достойное применение, — сохранение культурных ценностей для ближайших поколений.

О начале проекта «Память мира» было объявлено ЮНЕСКО в 1992 г. Его первоначальная цель — сохранение редких и уникальных документов. Очень скоро проект перерос в задачу по подстраховке на машиночитаемых носителях библиотек, исторических архивов, аудио и видеоматериалов, а также фотографий, кинофильмов и пр. Еще годом ранее президентом Уругвая был предложен проект общего рынка знаний.

Наиболее дальновидные страны уже несколько лет осуществляют национальные проекты. Россия находится в стадии обеспокоенности. В Украине, насколько мне известно, в этом смысле спокойствие абсолютное.

Все важное всегда так просто.
Все простое всегда так сложно.

Ready, set, buy! Посібник для початківців - як придбати Copilot для Microsoft 365