Материя и мышление

ЖАН-ПЬЕР ШАНЖЁ: Само название этой беседы задает основную проблему отношений, существующих между мозгом и машиной, и, в более общем виде, отношений между точными науками и функционированием мозга. В области создания мыслящих машин различается, по крайней мере, три подхода.

Первый подход — это искусственный интеллект. Своей целью он ставит имитацию высших функций мозга, человеческого интеллекта, с помощью компьютера. В какой-то мере, речь идет о замене человеческого мозга машиной. Можно отметить значительные успехи работ по искусственному интеллекту: роботы для окраски машин, компьютеры, управляющие космическими кораблями до Марса и дальше, экспертные системы, которые объединяют в себе последние достижения медицины и т.д. Однако исследования в области искусственного интеллекта не ставят целью понять, как функционирует человеческий мозг, они лишь пытаются «имитировать» некоторые из его функций. Таким образом, этот подход изначально очень ограничен.

Целью второго подхода является моделирование человеческого мозга и его функций. Речь идет о более глубокой исследовательской работе, предполагающей вклад различных дисциплин: математики, физики, нейробиологии и психологии. Моделирование осуществляется с опорой на данные анатомии и физиологии, на результаты молекулярной биологии и, конечно, на наблюдение за поведением, а это уже психология и этология. Эти исследования еще не достигли больших успехов. Однако мы располагаем достаточно хорошими моделями некоторых элементарных механизмов (таких, например, как распространение нервного импульса (модель Ходжкина-Хаксли) или аллостерические переходы пост-синаптических рецепторов), а также сложных систем из небольшого количества нервных клеток (например, систем, отвечающих

J

2. ТЕОРЕМА ГЁДЕЛЯ 161

Теперь о третьем подходе. Основой его являются так называемые нейромиметические машины. Суть проекта в следующем: как только будут разработаны теоретические модели церебральных функций на примере такого естественного объекта, как мозг со всеми его нейронами, можно будет сконструировать машины, способные на базе реальных нейронных структур продемонстрировать подлинно разумное поведение.

Три подхода, но очень мало результатов. Используемые структуры все еще очень упрощены: несколько слоев нервных клеток, рудиментарные элементарные механизмы и тому подобное.

А. К.: Возможен ли второй подход без третьего?

Ж.-П. Ш.: Ты прав. Третий подход представляет собой в какой-то степени верификацию второго. Для того, чтобы показать, что теоретическая модель адекватна, необходимо провести эксперимент, построив машину, характеристики которой будут подобны характеристикам человеческого мозга. Можно считать, что третий подход дополняет второй.

Однако я хотел бы, чтобы мы с тобой обсудили три вопроса. Первый касается теоремы Гёделя, второй — машины Тьюринга, а последний обусловлен различиями и сходством между человеческим мозгом и машинами, которые этот мозг способен создать.

Ж.-П. Ш.: В биологических исследованиях теорема Гёделя часто используется для того, чтобы сдержать амбиции нейробиоло-гов или даже усомниться в здравости их подхода. Она служит также для оправдания идеи, согласно которой «человеческий разум» всегда будет сопротивляться научному анализу. Франсуа Жа-коб, например, пишет: «Можно быть уверенным, что характерные для деятельности мозга реакции биохимики будут полагать столь же банальными, как и реакции пищеварения, однако описывать в терминах физики и химии движения сознания, чувства, устремления, воспоминания — это совсем другое дело. Ничто не говорит за

162 МЫСЛЯЩИЕ МАШИНЫ

то, что мы когда-либо достигнем этого уровня, не только по причине сложности мозга, но еще и потому, что логическая система, согласно Гёделю, не является достаточной для своего собственного обоснования» [61]. С другой стороны, известен знаменитый афоризм Кабаниса: «Мозг выделяет мысль, как печень — желчь». Что до меня, я разделяю точку зрения Франсуа Жакоба о биохимии мозга и об относительно банальном характере молекул, составляющих структуру и участвующих в элементарных функциях нашего мозга. Это подтверждается и данными, получаемыми с 1970 года. Но я не являюсь его сторонником в том, что касается применимости теоремы Гёделя к нейронаукам. Разумеется, здесь возникает интересная методологическая проблема: нейробиолог, изучающий собственный мозг в состоянии самоисследования. Тем не менее, при современном состоянии науки я не вижу фундаментальных препятствий для изучения функционирования высшей нервной системы кого-либо из коллег, например тебя, с помощью методов визуализации, без прямого вторжения. А еще лучше исследовать функционирование нервной системы какого-либо вида животных, близкого к человеку (обезьян, например) методами экспериментальной нейрофизиологии. По той простой причине, что суть так называемого метода редукции или реконструкции, которые все мы используем в экспериментальных науках, как раз и заключается в поиске на нижележащем уровне объяснения феноменам, происходящим на вышележащем уровне. Иначе говоря, опираясь на организацию, правила взаимодействия и свойства элементов, составляющих нижний уровень, можно объяснить соответствующие свойства уровня верхнего. Так нейробиологи и исследуют неврологические основы высших функций человеческого мозга. И на этой стадии, насколько мне известно, не существует никаких теоретических препятствий. Главными препятствиями, как мне кажется, оказываются сложность организации мозга, его изменчивость от индивида к индивиду и возможное взаимовлияние методов наблюдения и собственно функционирования высшей нервной системы. Впрочем, подобная проблема существует и в физике, где методы наблюдения также могут взаимодействовать с наблюдаемыми объектами.

Вернемся к теореме Гёделя. Можно считать, что перевод ее с языка математики сводится к знаменитому философскому парадоксу: «Все жители Крита лгуны, как сказал Эпименид, критский мыслитель». Невозможно решить, является это утверждение ис-

г

2. ТЕОРЕМА ГЁДЕЛЯ 163

А, К.: Насколько мне известно, существуют два фундаментальных результата Гёделя относительно недостаточности, по выражению Ф.Жакоба, логической системы для своего собственного обоснования. Первый указывает на то, что невозможно, вследствие самоотносимости, доказать, что теория множеств является непротиворечивой. Это, впрочем, верно для любой теории, даже более рудиментарной, при условии, что она содержит очень простые, вполне определенные аксиомы. Затем теорема о неполноте. Для того, чтобы объяснить этот второй результат, мне нужно сначала уточнить, что такое неразрешимое высказывание в системе аксиом (например, в теории множеств). В качестве объяснения я хотел бы рассказать небольшую историю. В течение нескольких лет я каждый четверг навещал своего друга — математика, который был убежден в том, что доказал одну теорему. Он работал тогда над задачей, носящей имя одного довоенного польского математика. Задача формулировалась так: можно ли упорядоченное множество вещественных чисел охарактеризовать неким свойством. Задача эта занимала мысли моего друга на протяжении почти тридцати лет. И всякий раз, как я приходил к нему в четверг, он предлагал мне новое решение этой задачи. Он полагал, что отыскал доказательство, и при каждом моем посещении происходила примерно одинаковая последовательность действий. Он давал мне свое решение, чаще всего в письменном виде. Я искал ошибку. Иногда я находил ее сразу же, иногда мы возвращались к доказательству через неделю. И каждый раз он опять возвращался к задаче и что-то изменял в доказательстве, снова и снова. В действительности, я с самого начала знал, что какое бы то ни было доказательство в данном случае невозможно. Но я также знал и то, что я не могу указать ему на ошибку посредством приведения контрпримера. Почему? Потому что еще в шестидесятые годы было доказано, что эта задача неразрешима. Иногда в математике такое случается. В данном конкретном случае мы знаем, что если добавить к аксиомам теории множеств еще одну аксиому — например, аксиому континуума, — то можно доказать, что на поставленный в задаче вопрос имеется-таки ответ, причем положительный. Ее-

164 МЫСЛЯЩИЕ МАШИНЫ

ли же мы добавим какую-либо другую подходящую аксиому, то можно доказать, что ответ будет, и будет отрицательным. Другими словами, ситуация такова, что без добавления к аксиомам теории множеств каких-то других аксиом математик не может доказать результат. Для меня было равно невозможно привести ему контрпример, не воспользовавшись какой-либо дополнительной аксиомой, на которую он с легкостью нашел бы множество возражений. Следует очень четко представлять себе, что такое неразрешимость. Она всегда имеет смысл...

Ж.-П. Ш.: ... в рамках данной системы аксиом.

А. К.: Вот именно. Высказывание неразрешимо, если можно доказать либо его истинность, либо его ложность, не опровергая аксиом, с которыми мы имеем дело каждый день... если, конечно, не учитывать возможной противоречивости самой теории множеств.

Ж.-П. Ш.: Значит, собственных аксиом системы для решения не достаточно.

А. К.: Совершенно верно. Теперь можно перейти к теореме Гёделя о неполноте. Согласно этой теореме, какими бы ни были аксиомы, будь их конечное количество или они заданы рекурсивно, всегда найдутся вопросы, на которые мы не сможем ответить, которые останутся неразрешимыми вследствие недостатка у нас информации. Иначе говоря, теорема Гёделя указывает, что невозможно ограничиться конечным числом аксиом таким образом, чтобы в рамках данной системы оказался разрешим любой вопрос. Это не означает, что вопрос нельзя проанализировать, исходя из того, что уже известно, это означает лишь, что число новых увлекательных вопросов, на которые необходимо отыскать ответ, бесконечно. Вот как следует понимать теорему Гёделя. На мой взгляд, было бы ошибкой делать из этого вывод, что мощь человека-машины ограничена. Эта теорема утверждает лишь то, что обладая конечным числом аксиом, на все вопросы ответить невозможно. Впрочем, если тот или иной вопрос неразрешим, и неразрешимость эта доказана, то ничто не мешает нам просто присвоить ему какой-либо ответ и продолжать рассуждение.

Это означает, что каждый новый неразрешимый вопрос порождает бифуркацию в той точке, где мы выбираем ответ, положительный или отрицательный. Мир, в котором мы живем, содержит множество всевозможных бифуркаций. И все они имеют значе-

2. ТЕОРЕМА ГЁДЕЛЯ 165

ние. Однажды ответив на вопрос, мы можем продолжать ставить перед собой все новые и новые вопросы. Прежние вопросы становятся, таким образом, разрешимыми, каковыми они раньше не были. Каждый неразрешимый вопрос создает бифуркацию и вынуждает делать выбор. Например, бифуркацию порождает теорема Поля Коэна о континуум-гипотезе. Необходимо выбрать: либо не существует кардинальных чисел между счетным множеством рациональных чисел и континуумом, либо таких чисел существует 36. Первый ответ кажется предпочтительнее в силу своей простоты. При этом важно, чтобы выбор ответа в каждом конкретном случае основывался на прежних ответах на как можно более простые вопросы. И в самом деле, существуют вопросы более простые, чем вопросы о континууме.

Ж.-П.Ш.: Значит, фундаментального теоретического препятствия ты здесь не видишь...

А. К.: На данный момент я говорю только о проблеме неразрешимости. Если перед нами встает неразрешимый вопрос (например, вопрос о континууме) то нужно всего-навсего сформулировать гипотезу, которая сделает его разрешимым. Затем изучить следствия из этой гипотезы и ее способность прояснить другие вопросы. Например, если мы принимаем гипотезу континуума, то можно доказать (результат, полученный Г. Мокободски), что любой последовательности, состоящей только из действительных чисел, можно задать предел lim^ (α_η) таким образом, что будет выполняться неравенство нижний ПРЕДЕЛ (а_п) < lim_w (α_η) < ^ ВЕРХНИЙ ПРЕДЕЛ (α_η), при этом предел lim_w измеримо зависит от (а_п) и взаимозаменяется интегралом. Этот результат оказывается весьма полезен в той математике, о которой мы сейчас говорим. Когда к системе добавляется гипотеза — например, континуум-гипотеза, — нужно, очевидно, убедиться в ее неразрешимости, т. е. в двух вещах: во-первых, эта гипотеза не должна выводиться из прежних аксиом системы (теорема Коэна для континуум-гипотезы), а во-вторых, ее отрицание также не должно быть следствием из прежних аксиом (для континуум-гипотезы этот результат был получен Куртом Гёделем). На практике эти результаты всегда доказываются на основании предположения о том, что теория множеств непротиворечива. Однако я считаю, что использовать теорему о неполноте для доказательства ограниченности нашего механизма понимания не совсем уместно. Она лишь дает нам понять, что выбирать так или иначе придется и что рекурсив-

166 МЫСЛЯЩИЕ МАШИНЫ

ных способов сделать этот выбор раз и навсегда не существует. Вот каков смысл этой теоремы.

Ж.-П. Ш.: Ответ есть альтернатива. Эта теорема описывает, скорее, процесс приобретения знаний, нежели логическую и эпистемологическую невозможность. Значит, нейробиологи могут успокоиться. Рано или поздно мы разберемся в деятельности мозга!

А. К.: Теорема Гёделя определяет своего рода горизонт понимания, определяемого конечным числом уже осуществленных выборов. Чем больше это число, тем дальше горизонт. Представление о существовании горизонта не должно быть статическим, когда конечное число аксиом дает раз и навсегда ответ на все вопросы. Напротив, наше понимание носит динамический характер. Каждый раз, когда понимание расширяется, мы становимся способны ответить на большее количество вопросов. В каждой новой бифуркации мы можем делать такой выбор, чтобы горизонт отдалялся от нас. Очевидна иллюзорность мысли, что когда-нибудь мы все поймем. Это проблема науки вообще. Однако не следует замыкать себя в границах и терять надежду только из-за того, что якобы утверждает теорема Гёделя.

На самом деле, в ее самой глубинной формулировке, теорема Гёделя о неполноте показывает лишь то, что математику можно свести к формальному языку. В начале века математики пытались точно определить, что есть математическое доказательство. Гильберт создал искусственный язык на основе конечного алфавита с конечным числом грамматическим правил, позволяющих однозначно определять связность высказываний, конечным числом правил логического вывода и конечным числом высказываний, предполагаемых истинными, или аксиом. Исходя из такой системы или формального языка, можно построить универсальный алгоритм, который позволит принимать решение об истинности любого доказательства, сформулированного на этом языке. Таким образом мы можем — по крайней мере, теоретически — составить список всех теорем, которые можно доказать с помощью этого формального языка. Гильберт полагал, что сможет привести все математические теоремы* к такому виду, что с помощью соответствующего формального языка их можно будет доказать. Теорема же Гёделя показывает, что это невозможно. Какова бы ни была сложность формальной системы, всегда будет существовать высказывание, касающееся целых положительных чисел, которое

2. ТЕОРЕМА ГЁДЕЛЯ 167

будет одновременно истинным и недоказуемым в данной формальной системе. Неоднократно подчеркивался отрицательный аспект этой теоремы, в рамках которой невозможно дать четкое определение понятию доказательства. Но нельзя ли рассмотреть ее под следующим углом: истинные высказывания о положительных целых числах не могут быть сведены посредством логического вывода к конечному числу аксиом. Количество информации, содержащееся во множестве всех этих высказываний, будет бесконечным. Не кажется ли тебе, что это характеристика реальности, не зависящей от какого бы то ни было человеческого творения?

Но обратимся к проблеме интроспекции. Со времени создания теории множеств многочисленные парадоксы (в частности, парадокс Рассела) вынуждают нас выстраивать логические высказывания в соответствии с последовательными типами. Упомянутый парадокс Рассела возникает тогда, когда мы допускаем синтаксические ошибки. Например, если множество всех множеств есть множество, то можно рассмотреть некую его часть, которая есть множество множеств, содержащихся в нем в качестве элементов, а его дополнением является множеством множеств, не содержащихся в нем в качестве элементов. Парадокс возникает тогда, когда возникает вопрос, является ли это множество элементом самого себя. Для того, чтобы на этот вопрос ответить, достаточно ввести иерархию (логическую) элементов по иному, нежели принадлежность к множеству, признаку. Начнем с элементов — тип 0. Далее, множества — тип 1. Различие между типами различного уровня позволяет не смешивать друг с другом различные по своей сути множества. Уже невозможно говорить о множестве всех множеств — синтаксическая ошибка. Когда в логике присутствует иерархия, парадокс исчезает.

Ж.-П. Ш.: Ты говоришь о своего рода создании порядка.

А. К.: Последовательность типов позволяет ввести иерархию в механизмы мышления: элементы множеств рассматриваются как сущности, более простые или менее замысловатые, нежели сами множества.

Ж.-П. Ш.: Нельзя рассуждать, вкладывая в одни и те же термины различный смысл.

А. К.: Нельзя ставить на одну полку элементы и множества. В частности, нельзя ставить вопрос о множестве множеств, содержащихся в нем в качестве элементов. Аналогичную процедуру следует применять и к проблеме интроспекции мозга в процес-

168 МЫСЛЯЩИЕ МАШИНЫ

се самопознания, в результате чего этот мнимый парадокс будет устранен.

Ж.-П. Ш.: Следовательно, он не является неразрешимым.

А. К.: О неразрешимости здесь и речи не идет. Парадокс является следствием синтаксической ошибки. Очевидно, что логику теории множеств следовало бы сформулировать таким образом, чтобы этот парадокс был устранен раз и навсегда. Что и произошло, когда мы сформулированы свои вопросы с учетом вышеописанной иерархии.

Ж.-П. Ш.: Ты делаешь парадокс разрешимым, добавляя к нему гипотезы.

А. К.: Вовсе нет, просто парадокс вынуждает меня ввести более точное определение логических объектов и соответствующую иерархию.

Ж.-П. Ш.: Перейдем ко второму вопросу.

А. К.: Да. В каком смысле теорема Гёделя налагает ограничение на понимание функционирования мозга? Анализируя понятие случайной последовательности, математики пришли к выводу, что между теоремой Гёделя и теорией информации, разработанной в начале пятидесятых годов [7], существует прямая связь. Причем в такой степени, что можно рассматривать эту теорему как следствие ограничений, налагаемых теорией информации по причине конечной сложности любой формальной системы. Таким образом, второе из двух выдвинутых Ф. Жакобом ограничений (сложность и теорема Гёделя) является следствием первого. А это означает, что упомянутые ограничения можно обойти. Сначала, во избежание возникновения парадокса интроспекции, введем иерархическое различие между анализируемым мозгом (тип 0) и мозгом анализирующим (тип 1)... Далее, используя эволюционный характер развития человека как вычислительной машины, возможность объединять вместе очень большое количество мозгов, а также вероятную помощь информатики в классификации данных, можно доказать, что сложность «анализируемого мозга» вовсе не ограничена сложностью «анализирующего мозга», что устраняет первое из возражений Ф. Жакоба.

3. Мыслящая машина Тьюринга

Ж.-П.Ш.: Перейдем к машине Тьюринга. А. К.: Напомни мне, что это такое.

r

3. МЫСЛЯЩАЯ МАШИНА ТЬЮРИНГА 169

Прежде всего, что же такое машина Тьюринга? Машина, которую он описывает в своей статье, опубликованной в 1936 году, читает и записывает на ленте дискретные символы, квадраты; лента служит для ввода данных в машину. Кроме того, символы на ней сохраняются, вследствие чего она может выступать и в роди памяти. Равно как и в роли устройства вывода. Машина выполняет три операции: считывает символы, изменяет их и добавляет новые. Теоретически эта лента бесконечна и представляет собой, в некотором роде, программу. Таким образом, Тьюринг сразу выделяет программное обеспечение, или, по-английски, «software»...

А. К.: Может ли машина считывать с ленты свои собственные операции?

Ж.-П.Ш.: Да, может.

А. К.: Лента проходит только один раз или может возвращаться назад?

170 МЫСЛЯЩИЕ МАШИНЫ

Ж.-П. Ш.: Она может проходить через машину бесконечно. На ленте записана программа, или «software», тогда как остальная машина, в своем материальном воплощении, составляет «железо», или «hardware». Иначе говоря, перед нами точно такой же компьютер, какие производят сегодня.

А. К.: В описании не задан механизм, используемый машиной.

Ж.-П. Ш.: Это проблема. Машина Тьюринга представляет собой цифровой вычислитель, манипулирующий величинами в дискретной форме. В этом ее отличие от аналоговых вычислителей, измеряющих непрерывные физические величины. Цифровой вычислитель — и это очень важное положение теории Тьюринга — способен имитировать любую другую машину, работающую с дискретными величинами. Таким образом, он является универсальной машиной, и ему совершенно безразлично, какой именно процесс вы представите в форме последовательности инструкций, допускающих манипулирование дискретными элементами. Иначе говоря, машина Тьюринга способна, в принципе, воспроизвести какой угодно процесс. Она способна смоделировать даже аналоговый калькулятор.

Теперь возникает вопрос о применимости тезисов Черча и Тьюринга, согласно которым все, что может вычислить человек, может вычислить и машина, все, что может вычислить машина, может вычислить и обще- или частично рекурсивная программа, и, наконец, все, что может вычислить человек, может вычислить и эта самая программа. Это возвращает нас к предположению о возможности отождествления мозга и его деятельности с машиной Тьюринга. Доктрина функционализма, которую очень любят психологи-когнитивисты (такие, например, как Джонсон-Лэйрд), утверждает, что психология сводится к исследованию программ и, следовательно, никак не зависит от нейропсихологии, поскольку та изучает собственно машину и ее код. Все, что касается психики, входит, таким образом, в software, тогда как мозг, со своими нейронами и синапсами, составляет hardware. Следовательно, он почти не представляет интереса для функционалистов, которые даже приходят к заключению, что физическая природа мозга «не накладывает на организацию мысли никаких ограничений» [66]. В соответствии с этой модной в области наук о познании доктриной, совсем не важно, состоит мозг из протеинов или силикона, равно как не важны ни количество, ни природа этих нейронов. Имеют значение лишь алгоритмы, с которыми отождествляются функции

4, ТЕОРИЯ ^-МАТРИЦЫ в ФИЗИКЕ — АНАЛОГ ФУНКЦИОНАЛИЗМА 171

мозга. Интересоваться нейробиологическими основами — пустая трата времени!