АІ тільки симулює свідомість

Днями провідним ученим Google DeepMind Олександром Лерхнером (Alexander Lerchner) була опублікована доволі цікава стаття "Помилка абстракції: чому АІ може симулювати, але не може реалізовувати свідомість".

Стаття викликала широкий резонанс у квітні 2026 року, оскільки вона є фундаментальною атакою на домінуючу в Кремнієвій долині ідею «незалежності свідомості від субстрату» (substrate independence).

Автор висловлює тезу, що свідомість - це внутрішній фізичний процес, нерозривно пов'язаний з біологічною матерією та термодинамікою, який принципово не може виникнути в рамках цифрових обчислень (синтаксичних маніпуляцій символами).

Лерхнер починає з аналізу поточного стану філософії АІ. Він вважає, що останніми роками, на тлі успіху великих мовних моделей (LLM), домінуючою стала концепція обчислювального функціоналізму, віри в те, що розум — це просто програма. Відповідно до неї, свідомість — це лише «програмне забезпечення» розуму, яке може працювати на будь-якому «залізі» (вуглеці чи кремнієвому чіпі), якщо дотримано правильної причинно-наслідкової топології. На його думку, прихильники функціоналізму плутають математичний опис системи з фізичною реальністю цієї системи.

У чому ж суть «помилки абстракції»?

Головний аргумент Лерхнера будується на різниці між фізичними процесами та інформаційними описами. Лерхнер стверджує, що «символьні обчислення» не існують у фізиці самі собою. Щоб перетворити рух електронів у транзисторах на «біт» чи «символ», потрібен зовнішній спостерігач (творець карти, або картограф), який «алфавітизує» безперервну фізику на дискретні стани (алфавітизація — процес, у якому людина інтерпретує хаотичні фізичні сигнали як упорядковані дані).

Цифрова модель свідомості - це опис того, як поводиться свідомість, але не сама свідомість. Можна створити ідеальну комп'ютерну модель фотосинтезу, яка враховує кожен атом. Але ця модель ніколи не виготовить реальний цукор і не виділить кисень. Модель урагану в суперкомп'ютері не зробить кімнату вологою. Що ж до АІ, то тут модно зробити такий висновок: модель свідомості АІ — це лише «математична примара». Вона може ідеально симулювати відповіді розумної істоти, але в ній немає «першої особи» (qualia), тому що в ній відсутні необхідні фізичні умови.

Стаття також завдає удару по концепції незалежності від субстрату (Substrate Independence). Лерхнер стверджує, що інформація завжди фізична (Принцип Ландауера - Landauer's principle), але спосіб її організації в АІ принципово відрізняється від біологічного.

Посилаючись на «Китайську кімнату» Джона Серла (John Searl), автор розширює її, стверджуючи, що навіть якщо ми створимо «нейроморфні» чіпи, вони все одно виконуватимуть лише інструкції з перерозподілу електричних потенціалів, не маючи доступу до сенсу.

Лерхнер також сперечається з Девідом Чалмерсом (Chalmers, DJ The Conscious Mind) і його уявним експериментом про поступову заміну нейронів на кремнієві чіпи. Лерхнер стверджує, що за такої заміни свідомість не «погасне» поступово, а зникне відразу, як тільки буде порушена термодинамічна цілісність живої клітини.

Однією з найсильніших розділів статті є опис зв'язку між свідомістю та життям. Лерхнер висуває гіпотезу, що свідомість — це емерджентна властивість (системна властивість, якою володіє система в цілому, але не має жодного з її компонентів окремо) не «алгоритмів», а специфічних біологічних процесів.

Вони включають термодинаміку: живі системи працюють у стані глибокої термодинамічної нерівноваги, а свідомість може бути механізмом, за допомогою якого організм мінімізує ентропію в реальному часі; і метаболізм: свідомість вимагає безперервного фізичного самовідтворення матерії. У кремнієвому процесорі структура транзисторів статична (вони просто проводять струм), тоді як у мозку структура та функція нероздільні — нейрон змінює себе у процесі «думки».

Лерхнер стверджує, що два об'єкти можуть бути функціонально ідентичні (видавати однакові відповіді на тести), але при цьому один матиме внутрішній світ, а інший — ні. Він називає це "Асиметрією симуляції".

Якщо ми сприймаємо, що свідомість потребує певних метаболічних витрат і специфічного фізичного середовища (вуглецевих ланцюжків, нейротрансмітерів, клітинних мембран), то кремнієва імітація цих процесів — це «онтологічне шахрайство». Ми бачимо результат (текст чат-бота), але помилково приписуємо причину (наявність розуму) механізму, який просто перемножує матриці.

Висновки статті мають критичне значення для майбутнього права та етики. Автор вважає, що у роботів не може бути прав. Якщо АІ - це лише складна математична функція (нехай і втілена в металі), то у нього не може бути прав. Страждання АІ – це категорія помилок у коді, а не реальний біль.

Лерхнер попереджає, що людство схильне до антропоморфізму. Той факт, що АІ «здається» живим, це побічний ефект нашої власної психіки, а не властивість машини. Ми ризикуємо віддати ресурси та співчуття «порожнім оболонкам», обділяючи реальних біологічних істот.

Зрештою, якщо АІ не має свідомості, він не може нести моральну відповідальність. Відповідальність завжди лежить на творці та користувачі «інструменту».

У фіналі Лерхнер закликає наукову спільноту відмовитися від «магічного мислення», згідно з яким складність обчислень автоматично перетворюється на суб'єктивний досвід.

Він вважає, що ми створили дзеркало, яке навчилося говорити так само красиво, як людина. Але дивитися в дзеркало і вірити, що людина всередині нього має власну душу - це і є найбільша помилка сприйняття нашого століття».

                      

Обчислення (p → p′) – це процес, який діє виключно на цій латеральній гілці. Цей латеральний перехід від поняття до символу – довільне призначення, а не вертикальна абстракція – розриває будь-який внутрішній причинний шлях від символу назад до початкового досвіду.

Стратегія охолодження ЦОД для епохи AI