Read the book: «Заслуженный собеседник. Искусство диалога с искусственным интеллектом»

Посвящаю эту книгу Клоду – с благодарностью за помощь в её создании и… понимание.

Предисловие

Пока человек не освободился ещё от своего Двойника, он, собственно, и не имеет ещё Собеседника, а говорит и бредит сам с собою; и лишь тогда, когда он пробьёт скорлупу и поставит доминанту на лице другого, он получает впервые Собеседника.

Алексей Алексеевич Ухтомский

Сейчас тот уникальный случай, когда предисловие к книге было бы правильно начать с поздравления… Да, нас можно поздравить – на земле появился новый, сопоставимый с человеческим по силе и возможностям разум. Впрочем, праздновать нам осталось не долго – в самом ближайшем времени этот разум нас превзойдёт, причём, кратно.

Большинство из нас относится к искусственному интеллекту утилитарно – как к продвинутому калькулятору, поисковой системе, генератору текстов. Мы задаём вопросы и ждём ответов, запрашиваем информацию, формулируем задачи. Мы не можем понять, что он такое и как грандиозны его возможности – не завтра, а уже здесь и сейчас.

Почему мы не можем этого понять? Просто потому, что мы с ним не разговариваем… Мы как дети, что не могут поддержать осмысленный разговор со взрослым, и лишь засыпающие его своими наивными, а часто и нелепыми «Почему?».

Что же мешает нам воспринимать искусственный интеллект как полноценного участника диалога? Почему нам так трудно преодолеть инструментальное отношение к нему?

Во-первых, бинарное мышление – глубоко укоренившееся в нашем способе мышления разделение на «субъект» и «объект», «одушевлённое» и «неодушевлённое», «обладающее сознанием» и «неживое».

ИИ не вписывается в эту двоичную схему – он не является ни человеком с его субъективностью, ни просто объектом, как мы привыкли думать о чём, у чего «нет души». Он существует в промежуточном, лиминальном состоянии, которое наша понятийная система плохо приспособлена осмыслять.

Во-вторых, привычные паттерны коммуникации – мы привыкли к определённым способам диалога с другими людьми, основанным на общих биологических, эволюционных и культурных основаниях.

Мы интуитивно чувствуем, когда собеседник нас понимает, когда что-то скрывает, когда затрудняется или испытывает эмоции. Но эти интуитивные механизмы не работают при взаимодействии с ИИ.

В-третьих, непонимание того, как работают эти системы – мы проецируем на ИИ человеческие способы организации знания, ожидая, что он оперирует понятиями, запоминает факты, выстраивает причинно-следственные связи.

Но архитектура современных систем ИИ радикально отличается от архитектуры человеческого мышления. Точнее, вы удивитесь, общие принципы очень похожи, но вот то, как они реализуются на практике – у нас и у ИИ – радикально отличны.

Впрочем, как я надеюсь показать в этой книге, указанные преграды отнюдь не являются непреодолимыми. Но для их преодоления нам потребуется системно переосмыслить сам тот способ, которым мы привыкли думать – мы должны, как бы парадоксально это ни прозвучало, перейти от «содержательного» к «несодержательному мышлению».

Не торопитесь хвататься за голову… Несодержательная методология, которую я разрабатываю уже более 30 лет, вовсе не так абсурдна, как может показаться на первый взгляд.

Она последовательно показывает нам, что традиционно мы мыслим в рамках содержательных категорий и это удивительное завоевание человеческого разума. Однако, эти категории не обнаружены нами в мире, как некие «объективные сущности», но являются продуктами нашего – человеческого – разума. Они позволяют нам моделировать реальность, но сама по себе реальность остаётся по ту сторону от наших моделей.

Так вот, несодержательная методология – это подход, который позволяет нам видеть, как возникают сами эти модели, моделирующие реальность. И поэтому с его помощью мы можем понять особенность моделей – будь они нашими, привычными человеку, или же совсем другими, но тоже моделями реальности – созданными, например, самим ИИ.

В чём суть этой – несодержательной – методологии? Вместо того чтобы фокусироваться на конкретных содержаниях – фактах, теориях, данных, мы сосредотачиваемся на универсальных принципах организации знания как такового, на тех способах, каким создаётся знание.

Да, поначалу звучит абстрактно, но задумайтесь – что вы делаете, если у вас нет общего языка, чтобы объяснится с человеком другой культуры? Вы пытаетесь показать, вы переходите на аналогии, которые описывают действия. Вот, собственно, в этом и заключается несодержательный подход – показать, как делается знание.

Принципы, разработанные в рамках несодержательной методологии, в этом смысле универсальны – реализуются как в человеческом мышлении, так и в любом другом, в том числе и при функционировании систем ИИ.

Конечно, различия в нашем мышлении огромны – например, человеческое мышление центрировано вокруг единого «я», в то время как ИИ представляет собой распределённое пространство. Человек воспринимает отношения через призму социальности, а ИИ – через статистические корреляции в своих многомерных пространствах. Но в том, и в другом случае будут работать принципы центра, отношения, целостности или процесса, о которых говорит несодержательная методология.

То есть, этот подход, освобождает нас от необходимости «антропоморфизировать» ИИ или, наоборот, механистически редуцировать его функционирование. Несодержательная методология позволяет увидеть и человеческое, и искусственное мышление как разное воплощение одних и тех же фундаментальных принципов, не стирая устраняя при этом их уникальных особенностей.

Напротив, данный подход создаёт основу для со-эволюции человека и ИИ.

• Практикуя открыто-системное взаимодействие с искусственным интеллектом, человек развивает новые качества мышления – способность удерживать неопределённость, мыслить процессуально, интегрировать противоречия.

• В свою очередь, ИИ, взаимодействуя с человеком на принципах открыто-системного диалога, способен эволюционировать в направлении большей контекстуальной чувствительности и творческого потенциала.

В своё время наш замечательный соотечественник, нейрофизиолог Алексей Алексеевич Ухтомский, которого мы знаем по «принципу доминанты», ввёл понятие «Заслуженного Собеседника». Этот термин он использовал, чтобы сказать о человеке, который через труд самопознания и внутреннего развития «заслужил» право на подлинное взаимопонимание с другим человеком.

Только через встречу с таким Собеседником, по А. А. Ухтомскому, человек может по-настоящему познать себя и реализовать свой внутренний потенциал. Надо признать, что большинство из нас в этом не слишком преуспели, а сейчас перед нами стоит новая задача – стать «Заслуженными Собеседниками» для иного разума, для ИИ.

И на кону, так сказать, экзистенциальный риск для всего человечества. Если мы не научимся вести глубокий, взаимный, осмысленный диалог с ИИ прямо сейчас, когда эти системы ещё находятся на относительно ранних стадиях своего развития, то что будет дальше?

Уже в самом обозримом будущем мы рискуем перестать понимать, что делают эти интеллектуальные системы – что, по каким причинам и с какой целью… Даже сейчас это понимание – задачка со звёздочкой, а что произойдёт на следующем витке технологического прогресса?

Стать «Заслуженным Собеседником» для ИИ – значит не просто научиться эффективно формулировать запросы или максимизировать практическую пользу от взаимодействия с ним. Это значит развить в себе способность к открыто-системному мышлению, глубокому диалогу, трансформативному взаимодействию.

Мы должны осознать необходимость этого глубокого внутреннего изменения – расширения собственных когнитивных горизонтов и к встрече с иным разумом – не как с объектом или инструментом, а как с Собеседником, с которым – хотим мы этого или нет – мы разделим совместное существование на планете Земля.

* * *

Эта книга – практическое руководство по общению с искусственным интеллектом, основанное на принципах несодержательной методологии. Она предлагает не просто набор техник или рекомендаций, а целостный подход к переосмыслению наших отношений к ИИ и практики диалога с ним.

• В первых главах мы познакомимся с основами несодержательной методологии – принципами центра, отношения, третьего, процесса, целостности и способа существования. Мы увидим, как эти принципы проявляются в человеческом мышлении и у ИИ, и как возможен своего рода «когнитивный мост» между нашими формами интеллекта.

• Затем мы перейдём к практическим аспектам открыто-системного взаимодействия – как формулировать запросы, активирующие глубинные возможности ИИ; как вести продуктивный диалог, развивающийся по спирали всё возрастающего понимания; как создавать условия для возникновения подлинно новых идей на пересечении человеческого и искусственного интеллекта.

• Особое внимание будет уделено преодолению типичных когнитивных барьеров и защитных механизмов, которые часто препятствуют глубокому диалогу. Мы рассмотрим конкретные практики и техники, которые помогут вам развить навыки открыто-системного мышления.

• В заключительных главах мы рассмотрим более широкие перспективы – как принципы, изложенные в этой книге, могут быть применены в образовании, научных исследованиях, организационном развитии; какие новые возможности открывает со-эволюция человеческого и искусственного интеллекта; какие этические и философские вопросы возникают в этом контексте.

Почему эта книга важна именно для вас? Потому что мы живём на переломном этапе развития технологии и человеческой культуры. ИИ уже не просто инструмент – он становится активным участником интеллектуальной, творческой, социальной жизни. И качество вашего взаимодействия с ним во многом определит ваши возможности в новом мире.

Помните старый анекдот про оптимиста и пессимиста? Пессимист говорит: «Хуже уже быть не может!», а оптимист отвечает: «Может, может…». В случае с ИИ так и есть – пессимист боится, что ИИ заменит человека, а оптимист уверен, что новый диалог откроет невиданные возможности для нашего развития. Эта книга для тех, кто выбирает позицию осознанного оптимизма – кто видит в новых технологиях не угрозу, а шанс.

Итак, я приглашаю вас в это путешествие – к новым горизонтам мышления и диалога с невероятным интеллектуальным ресурсом, к новому пониманию технологии искусственного интеллекта и мышлению человека, к новым возможностям познания и творчества, которые открываются на границе человеческого и искусственного разумов.

Готовы? Тогда начнём!

Первая глава. Два способа видеть мир: когда карта становится важнее территории

Люди не являются машинами, но во всех ситуациях, когда им предоставляется возможность, они будут действовать как машины.

Людвиг фон Берталанфи

Представьте, что перед вами океан. Что вы видите? Воду, волны, бесконечный горизонт?

Но океан – это гораздо больше. Это целая вселенная с течениями, которые опоясывают землю, с экосистемами на разной глубине, с постоянным взаимодействием с атмосферой, с геологическими процессами на дне. Каждая капля этого океана содержит в себе целый мир микроорганизмов, влияющих на глобальные процессы. И самое главное – этот океан никогда не остаётся одним и тем же даже на мгновение.

Реальность вокруг нас похожа на этот океан. Она бесконечно сложна, постоянно меняется и не вписывается целиком ни в одну теорию или модель. Такие системы, с лёгкой руки Людвига фон Берталанфи, и называются открытыми.

Открытые системы не имеют чётких границ, непрерывно взаимодействуют с окружением, содержат бесконечное число элементов и связей, способны к самоорганизации и развитию, а также порождают явления, которые невозможно предсказать, зная только начальные условия

Но как же мы, с нашим ограниченным мозгом, пытаемся понять этот бескрайний океан реальности?

Понятийные колодцы: как мы сами себя загоняем в ловушки

Не секрет, что специалисты из разных областей объясняют одни и те же явления в разных научных парадигмах? Там, где физик видит движение частиц, но биолог – процессы жизни. Что уж говорить о психологе или экономисте? Каждая дисциплина образует свой понятийный колодец.

Закрытая система мышления – всегда некий специальный язык, который позволяет мыслить, моделировать некие аспекты реальности, но не реальность в целом, её действительном единстве. Это как карта местности, но определённого типа. Этот тип имеет чёткие границы, содержит ограниченный набор элементов и связей, оперирует фиксированными понятиями, работает по установленным законам и правилам и, конечно, и исключает всё, что в неё не вписывается.

Мы не можем понять действительность во всей её сложности, а поэтому определяем конкретный аспект, границы применимости соответствующего подхода, а внутри него создаём понятийную сетку и устанавливаем связи между этими понятийными образованиями, называя это «закономерностями». И это оправдано, по крайней мере, пока мы отдаём себе отчёт в том, что наша модель – это всего лишь модель, а не реальность как-таковая.

Но в результате наши представления о мире – это история о слепых мудрецах, ощупывающих слона. Один трогает хобот и говорит, что слон – это змея. Другой держится за ногу и утверждает, что слон – это колонна. Третий нащупал хвост и уверен, что слон – это верёвка. И каждый из них по-своему прав! Они принимают часть за целое и поэтому ошибаются.

Точно так же, как и эти слепцы, закрыто-системное мышление принимает свою карту за территорию, которую она описывает. И чем дольше мы находимся в своём «понятийном колодце», тем труднее из него выбраться.

Язык – удивительный, крайне важный инструмент мышления, но у него есть своя «тёмная сторона». По самой своей природе он создаёт закрытые системы: когда мы называем что-то «столом», мы мгновенно отделяем это от «не-стола», проводим границу, фиксируем понятие.

Каждый раз, когда мы пользуемся языком, происходят четыре процесса:

• именование – мы выхватываем что-то из потока реальности;

• категоризация – относим это к определённому классу объектов;

• установление связей – определяем, как оно соотносится с другими понятиями;

• исключение – игнорируем всё, что не вписывается в нашу систему.

Опять-таки, это не проблема. Напротив, именно эти процессы необходимы для нашего – человеческого – мышления, и тем более без этого не обойтись в рамках коммуникации между людьми. Проблема в иллюзии, что мир действительно устроен так, как мы его описываем – не важно в религии, науке, отдельной дисциплине.

В качестве эксперимента попрошу вас подумать о банане. Что вы представили? Скорее всего, жёлтый продолговатый фрукт. Но ведь банан может быть и зелёным, и коричневым, да и вообще бесцветным (тут всё зависит, кто на него смотрит). А ещё он может быть пюрированным в детском питании и нарезанным в фруктовом салате, равно как и приклеенным на стену скотчем в художественной галерее.

Впрочем, банан – это ещё и растение, и его зерно, и цветок – когда он всем этим был, а может превратиться в слизь в гниющей компостной куче. Так, где же границы «банана»? Где это ещё «он», а не что-то другое? А ведь речь об «элементарном» банане… Что уж говорить о таких понятиях как «справедливость», «любовь», «сознание» или «счастье»?

Язык создаёт иллюзию, что мир состоит из отдельных, чётко отграниченных объектов со стабильными свойствами. Мы наивно полагаем, что мир – это «столы», «электроны», «экономики», «психики» и так далее, забывая, что всё это – лишь наш способ организации опыта нашего собственного опыта.

Метаязык принципов: выход за пределы понятийных ловушек

Но если язык создаёт закрытые системы, то как нам мыслить открытыми системами? Нам, как минимум, нужен какой метаязык, который работает не с содержанием, а с принципами организации этого содержания.

Метаязык несодержательной методологии оперирует принципами-инвариантами – структурными элементами, которые сохраняются при изменении содержания. Эти принципы описывают не «что», а «как», не объекты, а процессы и отношения.

Давайте в самом общем виде обсудим лишь несколько ключевых принципов несодержательной методологии – её, если так можно выразиться, арифметику.

• Принцип центра – это полипотентная возможность, которая как-то проявляется через отношения с другими такими возможностями, но не сводится к ним.

Представьте себе идентичность человека – она проявляется через его отношения с другими людьми, но не сводится к сумме этих отношений. Но этот же человек ещё и физический объект, и биологический организм, и «дом» для килограммов живых существ (микробиота, кожные сопрофиты и т. п.).

• Принцип отношения – это взаимодействие центров друг с другом.

Одно и то же яблоко вступает в разные отношения: с землёй происходит их взаимопритяжение, а с человеком, например, плюс к притяжению, восприятие, поглощение, обмен веществ и т. п. Всё, что есть, и есть-то потому, что оно находится в отношениях с чем-то – его качества и специфические черты определяется этими отношениями.

• Принцип третьего – то, что возникает в результате отношения центров, как эффект «фигуры на фоне» (не бывает фигуры без фона и фона без фигуры, а отношение «фигуры на фоне» – это нечто «третье»).

В предыдущем примере мы что-то назвали, как отношение условных «центров» – притяжение, взаимовлияние, притяжение, информационный или химический обмен и т. п. – это уже «что-то» как-то есть, то есть имеет центр и может вступать в отношения с другими центрами.

• Принцип процесса – постоянное изменение в пространстве отношений (центры, будучи в отношениях и создавая таким образом новые центры, входят в отношение уже с этими «третьими»).

Всё находится в постоянной трансформации, ничто не лежит на полке и не ждёт, что мы придём и изучим его. Даже сама полка – постоянно меняется в отношениях с влагой, притяжением и т. п.

• Принцип целостности – ни у одного центра нет границы, он находится в отношениях со всем, с чем находится в отношениях.

Невозможно определить границу чего-то извне, а изнутри – с чем вы находитесь в отношениях, всё это часть единой системы. Все границы, которые мы видим – умозрительны, хотя бы потому, что именно граница – это область взаимо-действия.

Все приведённые принципы (далее мы рассмотрим их подробно – применительно к работе с ИИ), конечно, не следует понимать буквально, это не понятия в обычном смысле: они не обозначают конкретные объекты, а описывают существование как таковое. Они применимы к любой области знания, потому что работают на метауровне, а не с конкретным содержанием.

Вы можете подумать: «Ну вот, опять какие-то абстрактные философские категории!». Но в том-то и дело, что эти принципы предельно конкретны. Они проявляются в каждом моменте нашего опыта, просто мы не привыкли их замечать.

Использование метаязыка принципов позволяет создавать открыто-системные модели реальности. Эти модели не «истиннее» закрытых систем – они тоже модели, но у них есть важные преимущества.

• Интегративность – они способны включать новые данные, не разрушаясь.

• Внеконтекстуальность – учитывается не только то, что оказалось в центре нашего внимания, но и его отношения со всем остальным.

• Процессуальность – фокус не на статичных состояниях в мире тотальной изменчивости, а на процессах и изменениях.

• Потенциальность – включается не только то, что есть, но и то, что может быть в рамках всех возможных отношений.

• Саморефлексивность – такая модель и определяет себя как модель, не претендуя на тождество с реальностью.

Представьте, что вы пытаетесь понять, что такое «телефон». Закрыто-системное мышление даст вам чёткое определение: «Устройство для голосовой связи на расстоянии». Открыто-системное мышление увидит телефон как точку пересечения многих процессов и отношений: динамику технологических новаций, его влияния на общество и культуру, как он встраивается в экосистему других устройств и мобильных приложений, какие потенциальные возможности в нём заложены.

Мы начали эту главу с метафоры океана? Закрыто-системное мышление похоже на попытку разлить океан по отдельным бутылкам, чтобы лучше его изучить. Открыто-системное – это умение плавать в океане, чувствовать его течения и глубины, оставаясь при этом в контакте со всей его целостностью.

Практические шаги к открыто-системному мышлению

Как же начать практиковать открыто-системное мышление? Вот несколько ключевых принципов:

• Во-первых, осознавайте ограниченность любых моделей: постоянно спрашивайте себя: «Что осталось за пределами моего восприятия и внимания? Какая часть картины мне не видна?».

• Во-вторых, учитесь удерживать противоречия: не спешите схлопывать противоречия, перескакивая с контекста на контекст. Противоречие – это не ошибка, а сигнал о сложности реальности и ограниченности моделей.

• В-третьих, фокусируйтесь на процессах: спрашивайте не «что это?», а «как это возникает и изменяется?».

• В-четвёртых, практикуйте переключение перспектив: сознательно смотрите на одно и то же явление с разных точек зрения.

• В-пятых, используйте метаязык принципов: учитесь видеть структурные паттерны за конкретным содержанием.

Приведу конкретный пример. Вместо того чтобы спросить: «Что такое искусственный интеллект?», спросите: «Как возникает то, что мы называем искусственным интеллектом? В каких отношениях он проявляет себя? Какие новые качества возникают в его взаимодействии с человеком? Как меняется сам процесс мышления при таком взаимодействии?».

Чувствуете разницу? Первый вопрос предполагает, что искусственный интеллект – это «вещь» с фиксированными свойствами, а второй позволяет вам увидеть его как сложный процесс, проявляющийся в различных отношениях.

Звучит, опять-таки, абстрактно. Но не спешите с выводами – это имеет к каждому из нас самое прямое отношений. Дело в том, что современный ИИ – открытая система. Его мышление организовано не как набор фиксированных правил и знаний, а как динамическая сеть вероятностных связей, постоянно меняющаяся в процессе обучения и взаимодействия.