Read the book: «Иной разум. Как «думает» искусственный интеллект?», page 2

Глава первая
В поисках «понимания»

Нет ничего вне текста.

Жак Деррида

На первый взгляд сам этот вопрос – «Что такое понимание?» – звучит даже как-то нелепо. Ну, мол, понимание – оно и есть понимание, что тут может быть непонятного? Но пока это лишь тавтология, которая ничего, как известно, не поясняет.

Что ж, тогда давайте пройдёмся по академическим словарям. И тут нас ждёт на удивление пёстрая картина: «понимание» – это…

• «уразумение смысла или значения чего-либо, универсальная способность человека, связанная с усвоением нового содержания, включением его в систему устоявшихся представлений»⁶;

• «вызванное внешними или внутренними воздействиями специфическое состояние сознания, фиксируемое субъектом как уверенность в адекватности воссозданных представлений содержанию воздействия»⁷;

• «универсальная операция мышления, представляющая собой оценку объекта (текста, поведения, явления природы) на основе некоторого образца, стандарта, нормы, принципа и т. п.»⁸

И это мы, что называется, только начали – количество научных определений «понимания» бесчисленное множество. Так что мы не будем даже пытаться перечислять их все, но важно осознать, что единого понимания «понимания» в науке нет. И это как минимум странно: как может быть, что такая понятная вроде бы вещь, как «понимание», никак не поддаётся хоть сколько-то однозначному определению!

Если чуть дистанцироваться и взглянуть на открывающуюся нам картину «сверху», то это и в самом деле какой-то парадокс. Ситуация очень напоминает знаменитый «скандал в философии», о котором писал ещё Иммануил Кант в предисловии к «Критике чистого разума».

Суть удивления Канта в том, что «несмотря на тысячелетние усилия, философия так и не открыла никаких положений, признаваемых всеми философами в качестве очевидных»⁹.

Зафиксировав это, давайте остановимся на определении понятия «понимания» из «Толкового словаря» Д. Н. Ушакова. Безусловный плюс толковых словарей в том, что они дают достаточно ясное феноменологическое описание используемых нами понятий: «Понимание – это способность, умение проникнуть в смысл чего-нибудь, усвоить, сознать его; состояние сознания, которому ясен, открыт, известен смысл чего-нибудь»¹⁰.

Кажется, что всё логично. Но это лишь описание субъективного переживания, где слова тавтологично определяются друг через друга: «понимание» – «усвоить», «сознать», «открыть смысл». Так что же за всем этим стоит на самом деле?

Философский вопрос

Трудность в том, чтобы осознать безосновательность нашего верования.

Людвиг Витгенштейн

ХХ век начался с небывалого революционного подъёма. Казалось, теперь всё переменится благодаря новому – научному – мировоззрению. Вооружившись этим исследовательским методом, мы сможем всё наконец понять, причём на объективных данных, через фундаментальные законы природы.

Впрочем, научные прорывы и в самом деле обещали, что в мире больше не останется тайн. И проблема «понимания» в этом ряду казалась совершеннейшим пустяком: если мы всё продумаем до конца – строго, последовательно, логично, – то в принципе любой философский вопрос будет закрыт.

Людвиг Витгенштейн

Молодой венский инженер Людвиг Витгенштейн смело берётся за эту работу и пишет свой, ставший библией позитивистского подхода, «Логико-философский трактат»¹¹. Основной посыл этой работы: если мы найдём чёткое соответствие всех слов всем вещам, то в мире просто не останется неясностей и путаницы.

Однако, сделав этот шаг, Витгенштейн обнаруживает, что всё, мягко говоря, несколько сложнее. Оказывается, есть научный язык – язык математики и логики, – а есть язык житейский, бытовой. И два эти языка словно бы живут в параллельных вселенных, которые, впрочем, постоянно пересекаются, что создаёт весь тот бардак, с которым человечеству приходится иметь дело.

Витгенштейн пытается осмыслить открытую им неопределённость в своих знаменитых «Философских исследованиях»¹². Здесь он приходит к выводу, что значения слов не находятся в какой-то гипотетической библиотеке, а рождаются только в процессе их употребления, в фактических действиях.

То есть понимать слово – значит уметь его использовать, или ещё необычнее – уметь играть в соответствующую «языковую игру». Мысль не скрыта «внутри головы», она не лежит «за словом», нет – она осуществляется в практике. Так что понимание – это не внутреннее озарение, а участие в игре, которую мы ведём вместе с другими людьми.

В своей последней работе «О достоверности»¹³ Витгенштейн идёт ещё дальше. Он показывает, что даже наши самые твёрдые убеждения покоятся на основаниях, которые невозможно доказать. Мы всегда уже стоим на чём-то, что принимаем «на веру», – на доверии к языку, культуре, опыту.

Таким образом, мы не можем вывести какие-либо фундаментальные основания из логики или науки. Из чего следует, что никакое «понимание» не обладает свойством абсолютности: оно всегда держится на «ржавом гвозде» того, что не проговорено, или даже на том, что не может быть в принципе высказано.

Альфред Коржибский

Примерно тем же путём и в то же время идёт и другой выдающийся мыслитель – Альфред Коржибский. Его фраза «карта не есть территория» звучит как банальность, но это только так кажется. Для Коржибского это не остроумный афоризм, а метод, который меняет сам способ мыслить¹⁴.

Тридцатые годы XX века – философия и наука уже пережили логику Рассела и Витгенштейна, релятивизм и квантовую революцию – выяснилось, что мир оказался куда сложнее, чем мы думали. И Коржибский отвечает на это не новой «теорией всего», а практикой мышления – общей семантикой, дисциплиной, которая учит различать слова, вещи и уровни абстракции.

Вопрос Коржибского: что мы на самом деле понимаем, когда «понимаем»? И отвечая на него, он формулирует три принципа.

• Во-первых, принцип не-тождественности: слово не тождественно вещи.

«Дождь» – не мокрость на коже, «государство» – не конкретная страна, «справедливость» – не то, о чём мы договорились в компании друзей. Мы получаем доступ к миру через знаки и, если забываем об этом, начинаем реагировать на слова как на вещи.

• Во-вторых, принцип не-всё: ни одно описание не исчерпывает объект полностью.

Мы всегда говорим не всё – в каждом «понимаю» есть незамеченные остатки. То есть любая карта, любая наша модель ограниченна, и именно поэтому её нужно всегда перекраивать по факту, в конкретной ситуации.

• В-третьих, принцип порядков абстракции.

Между «территорией» (сырой сенсорный поток) и нашими теориями о ней лежат несколько этажей абстракции: ощущение → слово → понятие → схема → система. Понимание не перепрыгивает их, а движется по ним. И путаница уровней – например, спор определения с фактом – лежит в основе ошибок.

Чтобы это утверждение не выглядело просто лозунгом, Коржибский даже придумал «наглядный прибор» – струк-турный дифференциал: воронка «территории», от неё идут нити к биркам, и дальше – ярлыки ярлыков (см. рис. 1). Всё ради одной цели – всегда помнить, на каком уровне удалённости от реальности мы сейчас находимся.

Рис. 1. Структурный дифференциал А. Коржибского

Таким образом, по Коржибскому, понимание – это корректное ориентирование среди уровней абстракции, при котором:

• «карта» осознанно отличается от «территории»;

• собственная «карта» трансформируется под новые данные;

• семантические реакции отделяются от фактов;

• сохраняется память о том, что мы говорим не всё.

Понимание – не метафизическое «озарение», а умение управлять расстоянием между словом (лингвистической картиной мира) и миром как таковым. Можно сказать и иначе: понимание – это дисциплина различения, благодаря которой «карта» остаётся лишь «картой»¹⁵.

Это ставит нас перед вопросом: а что же мы в таком случае вообще «познаём» или «понимаем»? Получается, что мы никогда не встречаем «территорию» как таковую, а на деле лишь путешествуем в воображении – по устоявшимся схемам, учебникам, привычкам языка.

Коржибский требовал различать уровни, датировать смысл, возвращаться к фактам и держать семантическую дистанцию. Всё это предельно разумно – можно сказать, основа критического мышления. Но разве умение управлять картами – строить их, уточнять, сверять – это о «понимании»?

Поль Рикёр и Михаил Бахтин

Параллельно с этим – рационально-аналитическим – подходом в философии продолжала развиваться и другая её ветвь. На смену классической метафизике пришла философская антропология – исследователи принялись анализировать человеческий опыт, пытаясь доискаться до сути человека, включая и феномен его понимания.

Здесь нам может быть важен французский философ Поль Рикёр, который обратил внимание на то, что сам по себе язык никогда не говорит однозначно. Он отходит от пространных идей своих предшественников – Эдмунда Гуссерля, Мартина Хайдеггера, Ханса-Георга Гадамера – и утверждает, что всякое понимание есть интерпретация¹⁶.

Тоже звучит вроде бы как банальность, но и тут не следует торопиться. Если мы говорим, что понимание – это интерпретация, то это значит, что мы никогда не имеем дело с «подлинным» смыслом. Все наши понимания – это, если угодно, «личное мнение», и у каждого, включая даже автора той или иной идеи, оно своё.

При этом интерпретации, как объясняет Рикёр, не только различаются, но и конфликтуют друг с другом. Один и тот же текст может быть понят как свидетельство веры, исторический документ, выражение культуры или как личная драма. Эти интерпретации несовместимы, и, хотя они дополняют друг друга, они не создают подлинного единства понимания.

Любой текст всегда больше, чем намерение его автора, потому что открыт к бесконечному порождению новых смыслов. Каждое новое прочтение – это всегда уже другой горизонт, другая позиция и другие вопросы. То есть Рикёр говорит о «понимании» не как об окончательной ясности, а, скорее, как о попытке удержания напряжения между разными прочтениями.

Наш гениальный соотечественник Михаил Михайлович Бахтин в чём-то очень близок к этим взглядам Рикёра, но даёт иную перспективу – он говорит не о конфликте интерпретаций, а о внутренней диалогичности.

Анализ романов Ф. М. Достоевского приводит его к идее «полифонии голосов». Ни один голос, как говорит Бахтин, не может быть окончательным, ни одно высказывание – замкнутым, и каждое слово всегда обращено к другому и, более того, предполагает ответ¹⁷.

Таким образом, понимание не может быть индивидуальным актом: оно не возникает внутри сознания, как озарение, но всегда случается между. Между говорящим и слушающим, между текстом и читателем, между культурами и традициями.

Всякий акт понимания, по Бахтину, это событие – совместное присутствие разных голосов. Даже когда мы думаем «про себя», мы продолжаем внутренний диалог: разговариваем с воображаемым собеседником, спорим с учителем, откликаемся на чужой голос.

Наше «я» – это уже полифония, где звучат чужие слова и интонации. Так что наше понимание всегда диалогично. И эта диалогичность нас самих, от которой нам никуда не уйти, оставляет нас без «нашего», собственного понимания. Всякое наше понимание – процесс постоянного обсуждения.

Получается, что и философская антропология не даёт нам ответа на вопрос, что же такое «понимание». Более того, развиваясь дальше, эти идеи последовательно приводят к негативной диалектике Теодора Адорно¹⁸, с одной стороны, и к постструктурализму Жака Дерриды¹⁹ – с другой.

Важно, что эти две фигуры, по сути, ставят точку в истории философии. И мы видим замкнутый круг – по сути, пусть и очень своеобразно, они повторяют тезис Сократа: понимание – это не какое-то знание, а «разрыв» в очевидности. Адорно отрицает всякую тождественность и утверждает абсолютность инаковости, а Деррида утверждает радикальную множественность.

Что ж, философия оставляет нас ни с чем… Последовательный анализ приводит к тому, что «понимание» – через которое мы, по сути, и определяем собственное существование, – лишь кажимость. Это не «понимание», а бесконечное говорение, которое переговаривает самого себя, не схватывая сути дела.

Когнитивное упражнение

Все модели неверны, но некоторые полезны.

Джордж Бокс

Середина XX века – старые объяснения больше не работают.

Философия продемонстрировала нам неспособность объяснить «понимание», да и редукционистский бихевиоризм Берреса Фредерика Скиннера²⁰, утверждавшего, что нам не следует даже пытаться проникнуть в «чёрный ящик» сознания, тоже сдался под напором критики.

Так что настал момент, когда пальму первенства в объяснении феномена «понимания» переняла когнитивная психология. Отцом когнитивной революции стал молодой тогда ещё Ноам Хомский, бросивший вызов Скиннеру²¹.

Аргумент Хомского был прост и убедителен: ребёнок не может выучить язык во всей его сложности, просто копируя взрослых. А следовательно, в мозге должна существовать врождённая способность к «пониманию» – универсальная грамматика.

Впрочем, подход Хомского позволил лишь описать внутреннюю структуру языка, а этого совершенно недостаточно, чтобы объяснить само наше мышление. Собственно, этот вопрос и стал основным для его учеников-отступников – с одной стороны, Джорджа Лакоффа и Марка Джонсона, и чуть позже, с другой, Стивена Пинкера.

Метафизика языка

Лакоффу и Джонсону принадлежит знаменитая работа «Метафоры, которыми мы живём»²², где они показали, что понимание – это не просто умственная операция, а скорее перенос внутренних схем с одних ситуаций на другие. Проще говоря, мы понимаем что-то новое, когда нам предлагают подходящую метафору.

Прислушаемся к тому, что мы говорим: «будущее ждёт нас впереди», «отношения – это сложный квест» или, например, «душевная тяжесть» и «эмоциональная гибкость». Это даёт нам ощущение понимания, но на самом деле перед нами классические метафоры.

Строго говоря, «будущее» не может «ждать». И почему оно делает это именно «впереди» – речь же не про пространство? «Отношения» – это что-то между двумя людьми, так при чём тут «квест»? И какая «тяжесть» или «гибкость» может быть у того, что, в общем-то, нематериально?

Но да, нам нужны понятные, укоренённые в нашем сенсомоторном опыте переживания, чтобы схватить суть того, о чём идёт речь. То есть понимание возникает не в системе абстрактных представлений, а через перенос схем из телесного мира в мир идей.

В книге «Субстанция мышления» Стивен Пинкер идёт ещё дальше²³. Он показывает, что язык не просто описывает мир, а буквально повторяет его структуру. Пространственные координаты, причинность, время – всё это не абстрактные категории, а формы, в которых мы телесно переживаем мир.

И наш язык, по сути, моделирует структуру нашего поведения в физическом мире, а затем переводит её в символическую форму, чтобы мы понимали, о чём идёт речь. Когда мы строим предложение, мы фактически выстраиваем модель мира – соотношение объектов, действий, состояний.

Например, фраза «Мяч покатился к двери» – как мы понимаем её смысл? Здесь «мяч» – объект, «покатился» – действие со встроенной динамикой (движение по поверхности), «к двери» – указание направления.

Смысл рождается мгновенно, потому что и в нашем собственном опыте движения мы действуем по тем же схемам: объект → движение → цель. Язык просто переводит этот телесный паттерн в символическую форму.

Или другой пример – «Он преодолел трудности». Трудности – не физическая стена, но мы схватываем смысл через ту же телесную схему: есть препятствие → движение вперёд → усилие → победа.

Таким образом, мы что-то понимаем не потому, что нам оно каким-то чудесным образом «открылось», а потому, что мы спроецировали на реальность свой способ существования в собственном теле.

Когда мы строим предложение, мы фактически моделируем свою реальность: кто-то действует, что-то происходит, причём в какой-то последовательности.

Язык повторяет и базовые координаты нашего физического опыта – пространство, время, причинность – в мире абстрактных идей, наших представлений. Вот почему «будущее» может «ждать», а «душа» – быть «тяжёлой»: мы нашли способ перенесения телесного опыта в символическое пространство.

Но если так, то что мы тогда «понимаем»? Мы же просто проецируем себя вовне. То есть, по существу, себя же и познаём? Да, это даёт нам ощущение «понимания», но оно иллюзорно. Проецируя своё мировоззрение на другого человека, мы, согласитесь, часто ошибаемся. Проекция – это не познание, а иллюзия знания, и это вовсе не понимание, хотя нам так кажется.

Функциональное моделирование

Другая линия когнитивных исследований оказалась более прагматичной. Здесь пионером считается профессор факультета психологии Принстонского университета Филип Джонсон-Лэрд. Он сформулировал идею «ментальных моделей»: «Понимание, – утверждает он, – это не запоминание слов, а построение внутренней модели ситуации»²⁴.

Например, когда мы слышим: «На столе стоит ваза с цветами», – в нашем сознании моментально возникает соответствующий образ: стол, ваза, цветы. И если нам затем скажут, что «цветы находятся выше стола», то мы ничуть этому не удивимся. Однако же, если прозвучит фраза: «Цветы располагаются ниже стола», – то мы почувствуем напряжение. Наш образ рушится – нам нужно срочно менять свою модель, вообразить что-то другое.

Человеческое мышление, по Джонсону-Лэрду, – это построение, проверка и реструктурирование ментальных моделей. При этом соответствие наших внутренних моделей реальности – это понимание, а ошибка понимания – это проблема или модели, или нашей рабочей памяти, которая не может удержать необходимый уровень сложности.

Собственно, именно благодаря этому механизму, как утверждают исследователи, мы и способны рассуждать о гипотетических ситуациях, удерживать альтернативы, предсказывать последствия событий. То есть понимание – это всегда некая функциональная модель, без какой-либо философской претензии на истинность.

В последующем этот подход углубил основатель междисциплинарной области когнитивной инженерии Дональд Норман – он ввёл понятие «концептуальная модель»²⁵. Когда мы взаимодействуем с прибором, мы создаём в себе представление о том, «как он работает». И если это представление совпадает с логикой системы, мы говорим о понимании. Если же не совпадает, то, значит, мы не обладаем пониманием.

Простейший пример – газовая плита. Если ручка соответствует конфорке, мы понимаем: поворот → нагрев. Но если интерфейс построен так, что ручка «отвечает» за другую конфорку, то возникает сбой. В результате мы теряем понимание, но не потому, что стали «глупее», а потому, что среда не поддержала эту нашу модель и нам надо создать какую-то другую.

То есть в когнитивной науке постепенно возобладал подход, согласно которому понимание стало приравниваться к оценке эффективности взаимодействия человека со средой.

Этот тренд продолжает и один из создателей теории управленческих решений, лауреат Нобелевской премии по экономике и Премии Тьюринга Герберт Саймон. Он приходит к заключению, что «понимание» – это, прежде всего, способность решать задачи²⁶.

По сути, он говорит: понять задачу – значит реструктурировать её так, чтобы она стала решаемой. Человек решает шахматную задачу не потому, что хранит в своём мозгу все возможные комбинации фигур на доске, а по-тому, что видит ключевую конфигурацию и выделяет структуру.

Неудивительно, что Саймон и его не менее знаменитый коллега Аллен Ньюэлл создали одну из первых компьютерных моделей мышления – General Problem Solver. Она была, по нынешним временам, очень примитивной, но реализовывала заявленный принцип «понимания» – осуществляла процесс поиска и перестройки данных, а не накопление готовых знаний²⁷.

Нейробиология понимания

Мозг – это машина для поспешных выводов.

Дэниел Канеман

Когнитивная психология показала нам, что понимание – это не какой-то мистический акт сознания, а работа с моделями: мы строим их (Джонсон-Лэрд), проверяем на согласованность с реальностью (Норман), решаем задачи (Саймон).

А субъективная понятность нашего «понимания» обусловлена проекциями – «телесностью» наших метафор (Лакофф и Джонсон) и в принципе нашим способом существовать в физическом мире (Пинкер).

Но все эти объяснения остаются на уровне описания процессов – как если бы мы знали, что делает человек, но не понимали, как ему это удаётся. В чём хитрость, как возникают эти модели и где эти метафоры «живут»?

Короче говоря, вопрос в том, каким образом тело и мозг производят то, что мы называем пониманием? И здесь на сцену выходят нейронауки.

Предиктивное кодирование

То, что когнитивные психологи описывали как «ментальные модели» (Джонсон-Лэрд), нейробиология в лице Карла Фристона определяет как процесс минимизации ошибки предсказания.

Карл Фристон показывает, что наш мозг минимизирует трату энергии посредствам предсказаний («принцип свободной энергии»). Он не столько исследует мир, сколько предсказывает, что будет происходить в каждую следующую секунду.

Для этих целей мозг жонглирует множеством моделей разного уровня сложности – от сенсорных до поведенческих. Если угадывает – отлично («всё понятно»), если нет – он пересматривает свой прогноз: пытается понять, что пошло не так, и подобрать другую, более подходящую модель²⁸.

Понимание, таким образом, – это активный поиск снижения неопределённости, целый динамический цикл: иерархическое предсказание, активное уточнение, построение модели мира.

Чувство «я понял» возникает тогда, когда все уровни этой иерархии совпадают и система достигает устойчивости.

Соматические маркеры

То, что когнитивные психологи исследовали как телесные метафоры и схемы действий (Лакофф, Джонсон, Пинкер), получило подтверждение в работах выдающегося нейробиолога Антонио Дамасио.

В своих исследованиях он изучал пациентов, которые имели повреждения в тех зонах мозга, которые отвечают за связь сознания с телесными функциями (префронтальная кора и системы, интегрирующие соматические сигналы). Оказалось, что такой человек сохраняет интеллект, память, логику, но его способность понимать ситуацию была катастрофически нарушена.

То есть такие пациенты могли рассуждать «в принципе», демонстрировать другие свойства памяти и сознания, но не могли принять ни одного осмысленного решения. Дамасио даже использует термин «соматические маркеры» мысли – без, по большей части неосознанных, телесных сигналов мы теряем способность соотнести свою мысль с реальностью, прожить её²⁹.

Совместная интенциональность

То, что философы называли конфликтом интерпретаций (Рикёр) и диалогичностью (Бахтин), а психологи наблюдали в языке, получает эволюционное подтверждение со стороны блестящего нейробиолога Майкла Томаселло. Его концепция «совместной интенциональности» показывает, что понимать – значит уметь разделять внимание и цели с другими³⁰.

Вообще слово «интенциональность» появилось в научном обиходе благодаря идее философа Франца Брентано, который считал её главной характеристикой сознания. Идея в том, что сознание не бывает пусто, оно всегда направлено (интенция) на какой-то предмет (пусть даже это наша собственная мысль)³¹.

Томаселло развивает эту идею дальше и показывает, что интенциональность конкретного человеческого сознания определяется совместной деятельностью людей. Мы постоянно синхронизируем с ними свои интенции – например, вместе смотрим на один объект, когда его обсуждаем, можем иметь общую цель, строить общие планы.

И именно здесь, говорит Томаселло, рождается понимание как общее пространство смыслов, доступное сразу нескольким умам. На множестве виртуозных экспериментов он убедительно доказывает, что наше понимание обусловлено не мощностью наших абстракций, а способностью совместного действия – разделять внимание, цели и способы действия с другими, что возникает общее пространство смысла.

Томаселло показывает, что и наш язык – это не «модуль» для кодирования, а «инструмент кооперативной коммуникации». Языковой знак – это средство управления общим полем: установления общего фокуса, уточнения роли, фиксации долей ответственности. И смысл слов формируется не «изнутри слова», а в ходе координации намерений – мы постоянно помечаем, на что смотрим, чего хотим достичь, каких шагов ждём друг от друга.

Глобальное рабочее пространство

И наконец, то, что когнитивисты описывали как «реструктурирование» и «согласование модели со средой» (Саймон, Норман), в нейронауке оказывается функцией глобальной нейронной сети, которая интегрирует локальные процессы в единое «глобальное рабочее пространство».

Профессор Коллеж де Франс, нейробиолог Станислас Деан предлагает смотреть на мозг как на оркестр. Каждая его зона играет свою партию: зрительная кора занимается буквами, слуховая – звуками, память хранит ассоциации, лобные доли отвечают за план.

Пока все эти партии звучат отдельно, музыка не складывается – есть только фрагменты. Но стоит им синхронизироваться, как возникает общий рисунок, в котором буквы становятся словами, слова – предложениями, а предложения складываются в связный текст.

Иными словами, чтобы информация стала «понятой» и доступной для использования, она должна выйти за пределы локальных специализированных областей мозга и быть интегрирована в глобальную сеть – «рабочее пространство»³².

Сейчас вы видите перед собой буквы – вы делаете это вашей зрительной корой. Но пока эта обработка остаётся локальной, вы их не сможете распознать. Понимание начинается там, где эти данные «распространяются» на языковые области, память, контекстные зоны: буквы становятся словами, слова встают в предложение, а предложение – в смысловую картину. Это и есть переход локального в глобальное.