Entry tags:

переводы, сознание

Сюзан Блекмор, "Беседы о сознании" 2006

Роджер Пенроуз

Истинное понимание лежит за пределами вычислимости.

...
Сью: Хорошо, теперь попробуйте очень просто объяснить... Как я понимаю, один из Ваших аргументов состоит в том, что Вы, как математик, способны понимать некоторые вещи, которые не могут быть получены в результате логических вычислений.
Роджер: За это я также подвергаюсь нападкам - за мои слова, что якобы мы, математики, способны понимать вещи, недоступные вам, простым смертным. Это совершенно определенно не было в моих намерениях.
Сью: У меня перед глазами встает картина, как Вы сходите с тротуара или чего-то там... или я придумываю? Не могли бы Вы рассказать?
Роджер: Это произошло, когда я работал над одной проблемой в теории относительности - вопрос о том, действительно ли черные дыры существуют в некотором определенном смысле. У меня был очень необычный подход к этой проблеме, с чисто математической точки зрения. И ко мне зашел один мой друг - большой любитель поговорить. И был момент, когда во время прогулки он вовлек меня в разговор, и мы с ним переходили улицу. На середине улицы мы остановились - разговор умолк - чтобы посмотреть не идут ли машины, и очевидно в этот момент мне пришла в голову некоторая идея. Потом на другой стороне улицы разговор продолжился, и то, что пришло мне в голову, улетучилось. Но после, когда мой друг уже ушел, меня не покидало странное приподнятое настроение, которое я никак не мог привязать к чему-либо. И я перебирал все, что случилось со мной в тот день - "Могло ли то или это быть причиной этого чувства? Нет, не вижу связи." - и так далее. В конце концов я дошел в памяти до того момента, когда я переходил улицу, и та идея снова возникла в моей голове. Я подумал: "О, вот что это было", - и я понял, что это был ключ к тому, что мне было нужно для решения этой проблемы. Все остальное, хотя и включало большой объем работы, было довольно просто после этого момента.
Сью: И как это соотносится с сознанием, поскольку можно сказать, что то озарение было в некотором смысле бессознательным?
Роджер: Ну, моя точка зрения состоит в том, что в математике озарение должно иметь смысл. Один может иметь видения, другой быть полон сумасшедших идей, которые не имеют никакого смысла, но для того, чтобы идея пустила корни, она должна иметь некоторый смысл. И это то, где, как мне кажется, сознание играет важнейшую роль; это взаймодействие с подсознанием, которое порождает всевозможные идеи, но для того, чтобы эти идеи работали вместе, вы должны быть способны подключить к этому свое сознание.
Сью: Вы тем самым делаете очень сильное утверждение. Вот Ваш замечательный мозг полный жизненного багажа математических и физических идей, и все полученное образование и воспитание, и все те природные способности - и все это взаимодействует параллельно, очень много всего - и в момент озарения возникает нечто. Откуда проистекает эта идея, что требуется нечто большее, чем просто мозг, осуществляющий некоторый вычислительный процесс? Я хочу понять, почему Вы считаете необходимым выйти за рамки вычислительной модели?
Роджер: То, что составляет другую сторону, что является сознательным - это понимание - вот, что я утверждаю. И это на самом деле и есть теория Геделя. На меня постоянно нападают за это, но я думаю, что те, кто это делает, главным образом не понимают этого аргумента. Я не знаю почему - потому что он довольно прост.
Сью: Поясните, потому что я тоже не понимаю его. Вы утверждаете, что весь этот мыслительный процесс, оперирование идеями и все такое прочее может быть вычислительным процессом, а понимание нет? Почему?
Роджер: Понимание требует осознания; сознание вовлечено в понимание - это одно основание аргумента.
Сью: Как Вы можете это обосновать?
Роджер: В обычном смысле этого слова - если нечто не сознает что-либо, Вы не скажете, что это нечто понимает что-либо, если оно это не сознает.
Сью: Не знаю. Я думаю, можно сказать, что если я совершила какое-то бессознательное действие над физическим объектом, которое требует понимания - если я успела подхватить что-то, что начало падать...
Роджер: Я бы сказал, что в этом нет понимания; Вы совершаете подобное действие в результате автоматической реакции.
Сью: Это всего лишь понимание базовых физических принципов, но это понимание в некотором роде.
Роджер: Я полагаю, что это слово может употребляться в более широком смысле, нежели тот, который я подразумеваю. То, какой смысл я вкладываю в это слово, можно было бы назвать "сознательным пониманием" - понимание, которое требует сознания. Поймать мяч можно совершенно бессознательно, это не вовлекает никакого понимания, вы просто делаете это.
Сью: Значит для Вас, в отличие от меня, понимание это нечто большее и требует сознания. Что есть сознание в таком случае? Я пытаюсь добраться до того смысла, в котором Вы употребляете это слово, потому что Вы делаете очень сильные утверждения, принимая во внимание то, как мало мы знаем о сознании, и как мало его понимаем.
Роджер: Вы можете увидеть это в том, как люди используют компьютеры. Я имею ввиду то, что вы можете использовать компьютер для множества разных замечательных вещей, но это ничего не значит, если вы не знаете, о чем они, что означает тот или иной ответ.
Сью: Это похоже на "китайскую комнату" Серля и аргумент о синтаксисе и семантике? То есть, есть разница между тем, что компьютер делает без понимания, и тем что делаете вы, когда действительно понимаете что-то?
Роджер: Да. Это не мой аргумент, но я думаю, что аргумент Серля имеет ценность. Я всегда так считал.
Сью: Значит Вы полагаете, что Серль в своей комнате, или Серль вместе со своей комнатой, не обладают пониманием китайского языка?
Роджер: Да, это так, я согласен с ним в этом.
Но позвольте мне закончить про Геделя, потому что это важнейший аргумент. Он же и приносит мне больше всего трудностей, потому что это очень сильный аргумент и люди сразу пытаются найти в нем дыры.
Аргумент заключается в следующем - я сформулирую его простым языком - допустим вы пытаетесь установить истину очень четко сформулированного математического утверждения, например Великой теоремы Ферма, о том, грубо говоря, что некоторый вычислительный процесс никогда не завершится. Далее, очень простые математические утверждения не вызывают никаких споров в отношении, какие из них истинны и какие ложны; выяснение этого может быть непростой задачей, но сам факт их истинности или ложности объективен и бесспорен. Теперь, как можно выяснить, что какие-то определенные утверждения действительно истинны? Можно использовать некоторую аксиоматическую систему, некоторые правила или процедуру, которые, будучи применимы надлежащим образом, приводят к заключению, которому вы обязаны верить. И что показал Гедель, это то, что любая такая система правил, при условии, что она не слишком тривиальна, будет обладать таким свойством, что ваша вера в то, что эти правила дают только истинный результат, позволит вам выйти за пределы этих правил. Таким образом, вы можете, если хотите, утверждать, что система этих правил непротиворечива: если ваши правила могут порождать только истинные утверждения, они обязаны быть непротиворечивыми, и если они обязаны быть непротиворечивыми, то это утверждение их непротиворечивости, которое самое является утверждением такого же рода, лежит за пределами досягаемости этих правил, то есть не выводимо с их помощью. Откуда вы знаете, что подобные утверждения истинны, при том, что они не получены путем использования правил? Откуда вы знаете, что все, что вы можете получить из этих правил, истинно? Но вы можете доверять этим правилам, только если ваше понимание говорит вам, что эти правила хорошие, что они не породят ложных утверждений.
Это понимание, которое говорит вам, что из них нельзя вывести ложные утверждения, дает вам нечто превосходящее сами правила. Таким образом, понимание оказывается не ограниченным никакой системой правил, поскольку ваша попытка заставить эти правила имитировать понимание приводит к тому, что понимание немедленно выходит за их пределы.
Сью: И это понимание, оно уникально для человека?
Роджер: Нет, не думаю. Конечно, кто-нибудь может сказать: "Хорошо, моя собака не понимает теоремы Геделя"; или кто-нибудь также может сказать: "Хорошо, я не понимаю теоремы Геделя" - и это не будет означать, что он не человек, или что он не обладает сознанием. И тот факт, что его собака не понимает теоремы Геделя, точно также не означает, что она не обладает сознанием.
Сью: Но я пытаюсь понять принцип, какого рода сущности могут потенциально обладать этим специальным пониманием, которое Вы описали.
Роджер: Ну, я думаю, что в общем случае дело именно в понимании. Сущность для меня не может рассматриваться разумной, если она не обладает пониманием.
Сью: Можно ли в принципе, в будущем, построить фантастического робота, который обладал бы подобным пониманием?
Роджер: Если робот означает вычислительно-управляемую систему...
Сью: Именно так, я имею ввиду вычислительно-управляемую систему.
Роджер: Тогда я бы сказал, что нет, такая система никогда не будет разумной. Она может очень хорошо играть в шахматы...
Сью: ... но не быть разумной в том смысле понимания, который Вы используете? Тогда что же требуется еще?
Роджер: Это очень трудно постичь. Это не так трудно сделать на практике, и посмотрите на эти тесты Тьюринга - каждый год они проводят эти огромные соревнования, - и все эти программы по-прежнему безнадежно глупы. Можно было бы предположить, что используя всю ту фантастическую вычислительную мощь, которой обладают эти машины, и которая во много-много-много раз превосходит наши человеческие вычислительные способности,... - и все-равно они остаются безнадежно глупыми.
Сью: Многие считают, что машины становятся все лучше и лучше, и что это дело времени, когда они начнут действительно понимать; а Вы говорите что есть что-то особенное в понимании, чего у них нет и никогда не будет?
Роджер: Можно достичь некоторой степени имитации, но это не будет подлинным пониманием.
Сью: Хорошо, скажите мне, что такое подлинное понимание?
Роджер: Подлинное понимание включает в себя осознание. Видите ли, я считаю, что геделевский аргумент на самом деле очень строгий, хотя многие мне говорят: "Аргументы Роджера интересны, но они по сути ошибочны". Я говорю: "Хорошо, покажите мне, где ошибка." Никто этого не сделал. Я долго ждал. Мне в ответ грубят, но никто так и не указал на ошибку.
Сью: Ну, я не в состоянии указать на ошибку, но я могу указать на большой скачок в Ваших рассуждениях - утверждение, что есть нечто дополнительное, что является "подлинным пониманием" - и я хотела бы знать, что же это такое.
Роджер: Да, ну, тогда мы попадаем в область предположений, и я это признаю.
Сью: ОК, предположите.
Роджер: Я утверждаю, что геделевский аргумент говорит нам, что мы не являемся чисто вычислительными сущностями, что наше понимание есть нечто за пределами вычислений. Он не утверждает, что это что-то нефизическое, но для полноты не хватает некоторого критического элемента, который имеет некоторое отношение к квантовой механике. Мой аргумент, и я признаю его слабость, похож на метод Шерлока Холмса, т.е. после того, как вы исключили все другие возможности, то что остается обязано быть истиной, какой бы невероятной она не казалась. Квантовая механика - наиболее очевидное место, где наши знания о физике недостаточно полны. Где еще вы можете найти невычислимость в физике? Похоже, больше нигде. Следовательно здесь, предположительно, она и находится.
Сью: Таким образом Вы приходите к идее, что сознание требует некоторого рода квантовых вычислений.
Роджер: Сказать, что работа мозга основывается на квантовой механике в самом фундаментальном смысле уже выходит за рамки общепринятого. Но даже этого оказывается недостаточно, поскольку я выхожу за рамки стандартной квантовой механики. Мне требуются некоторые усовершенствования в квантовой механике - а это уже за рамками общепринятого даже в квантовом мире.
Сью: Допустим, что мы делаем эти два нетрадиционных шага, куда они приведут нас в вопросе понимания, как работает мозг, и откуда в нем появляется сознание?
Роджер: Если вам нужно, чтобы в мозге происходили невычислимые процессы, вам необходимо найти в нем нечто, что имеет неплохие шансы на выделение крупно-масштабных квантовых эффектов, и здесь на сцене появляются микротрубки - эту идею я получил от Стюарта Хамероффа.
Мне пишут много и часто - подчас о совершенно сумасшедших теориях. И вот я получаю это письмо от человека, о котором я никогда не слышал раньше, и который пишет об этих забавных трубках в биоклетках, и я думаю: "Ну вот, еще один!". Но затем он приводит картинки этих трубок, и я вижу, что это как раз то, что мне нужно, потому что нервы оказывают слишком большое воздействие на среду. Нет никакой возможности защитить нервный сигнал от взаимодействия со средой. А с микротрубками такой шанс появляется.
Сью: Вас не смущает тот факт, что, во-первых, микротрубки являются частью любой клетки организма, и, во-вторых, общепризнанно, что они выполняют структурную функцию, которая объясняет, почему они там находятся, и что они делают?
Роджер: Позвольте мне сначала ответить на второй вопрос, и я воспользуюсь аналогией. Нам известно для чего служит нос - для фильтрации воздуха, ощущения запахов и так далее. Но что мы видим, глядя на слона? Что он использует нос для всего: мытья, захвата предметов, строительства сооружений. То, что мы знаем одну из главных функций микротрубок, не означает, что они у них не может появляться никаких других функций при определенных обстоятельствах.
Сью: А как насчет первого вопроса, что они присутствуют во всех клетках, а не только в нейронах?
Роджер: Возможны несколько ответов на этот вопрос. Мое предположение связано с различием между структурами решеток типа A и B. Предположительно есть два типа структур микротрубок: первая, которую я описал в своей книге "Тени разума", - это решетка типа A. Решетка типа B выглядит очень похоже, но она не стабильна и постоянно разрушается. Все аргументы против того, что микротрубки имеют отношения к сознанию, указывают на решетки типа B.
Совершенно очевидно, что в нейронах мы имеем дело со стабильными микротрубками: те, которые теряют связи, разваливаются и снова собираются, мы наблюдаем в обычных клетках, но в нейронах мы видим стабильные микротрубки.
Сью: Насколько я понимаю, Стюарт первоначально пришел к этой идее, потому что он наблюдал эффект воздействия некоторых анастетиков на микротрубки, и это почему он решил, что они могут играть роль в процессе отключения сознания; а затем он выяснил, что большинство анастетиков не оказывают никакого воздействия на микротрубки и начальная цель теории была отброшена. Вы по-прежнему придерживаетесь той теории - по-прежнему считаете, что ответ может быть найден там?
Роджер: Я определенно открыт для разных теорий в отношении микротрубок. Я считаю, это только часть ответа - это мое предположение. Люди часто говорят, что эти гипотезы нельзя проверить, но существует много подходов к проверке подобных гипотез, и также имеется много косвенных подтверждений, но я никогда не слышал, чтобы это обсуждалось. Кроме микротрубок мы знаем о существовании нанотрубок, которые сходны с ними. Они значительно меньше и очевидно гораздо более подвержены квантово-механическим эффектам. Вы можете закрутить эти нанотрубки в одну или в другую сторону, и это аналогия. Я не утверждаю, что микротрубки обладают тем же свойством, но это косвенное свидетельство.
Сью: Если говорить о том, что произойдет в будущем, то я представляю, как многие из тех, с кем я общаюсь в области исследования сознания, в частности функционалисты и приверженцы теории идентичности, скажут, что мы узнаем больше о вычислительных процессах мозга, о восприятии, об обучении, памяти - и "трудная проблема" в объяснении сознания просто уйдет сама собой.
Предположительно Вы заявляете нечто другое - в будущем мы узнаем больше обо всех этих различных химических и физических структурах, но в конце концов - опа! - мы обнаружим совершенно новый процесс, который и объяснит понимание и сознание присущее человеку?
Роджер: Да, примерно так. Я бы сказал, что наше понимание физического мира гораздо более ограничено, чем многие люди думают. Физики обычно очень высокомерные люди и они претендуют на то, что могут объяснить почти все. Но мой взгляд заключается в том, что вот есть физический мир, о котором мы знаем очень много, но в нем остаются очень большие вещи, которые мы до сих пор не понимаем, и я заявляю, что невычислимость - одна из них, но во многих отношениях она незначительна и второстепенна, на нее даже не обращаешь внимания.
Сью: Но ее значимость сильно возрастает, если она объясняет великую тайну того, что значит обладать сознанием.
Роджер: Именно, именно. Она некоторым образом пассивно присутствует и ждет своего часа, и только когда эволюция достигает определенного уровня развития, когда она может зацепиться за нее и начать использовать ее, только тогда появляется сознание.
...