Read the book: «Генезис. Искусственный интеллект, надежда и душа человечества»

Henry A. Kissinger, Craig Mundie, Eric Schmidt

Genesis. Artificial Intelligence, Hope and the Human Spirit

© 2024, Henry A. Kissinger, Craig Mundie, Eric Schmidt

© Jurgen Frank, photo of Henry A. Kissinger on the cover.

© Перевод на русский язык ООО «Прогресс книга», 2025

© Издание на русском языке, оформление ООО «Прогресс книга», 2025

© ООО Издательство «Питер», 2025

Права получены по соглашению с The Estate of Henry A. Kissinger, Craig J. Mundie, and Delphin LLC при содействии The Wylie Agency (UK) Ltd.

Издательство не несет ответственности за доступность материалов, ссылки на которые вы можете найти в этой книге. На момент подготовки книги к изданию все ссылки на интернет-ресурсы были действующими.

Отзывы о книге

«Искусственный интеллект (ИИ) может стать одним из величайших технологических переворотов в истории, и главный вопрос заключается в том, как к этому адаптироваться людям. Перед нами ценный своей актуальностью труд, авторы которого предлагают один из первых реалистичных взглядов на будущее, которое уже наступает, – будущее почти безграничных возможностей и новых, крайне сложных вызовов».

Сэм Альтман

«Вы держите в руках своевременное исследование взаимосвязи ИИ со знаниями, властью и политикой. Листая эти страницы, мы не можем не задуматься о рисках и возможностях, которые ИИ несет человечеству».

Билл Гейтс

«Какая роль будет отведена людям в грядущую эпоху искусственного интеллекта? В последние годы своей жизни Генри Киссинджер погрузился в изучение ИИ и в соавторстве с крупнейшими техническими экспертами – Эриком Шмидтом и Крейгом Манди – написал эту книгу. Она стала результатом всестороннего анализа ситуации, в которой человек, встретивший эпоху разумных машин, должен сохранить собственный авторитет и уберечь свои ценности».

Уолтер Айзексон

«Киссинджер, Манди и Шмидт предлагают нам пристальнее взглянуть как на перспективы, так и на вызовы, которые бросает нам надвигающаяся глобальная система, формируемая ИИ. Прочитав эту книгу, вы наверняка сделаете для себя важное открытие. Прежде чем хотя бы начать задумываться о какой-либо политике в отношении ИИ, нам потребуется разработать новые концепции человеческого разума и самого существования человечества. Эта книга стала последней работой Генри Киссинджера – и как знать, не окажется ли, что в ней сокрыто пророчество. Изучить ее чрезвычайно полезно каждому».

Лоуренс Генри «Ларри» Саммерс

«Авторы книги Genesis поднимают сложные вопросы, и чтобы на них ответить, важно обеспечить людям доступ к интеллектуальным инструментам. Это придаст им уверенности в собственных силах и откроет новые возможности для раскрытия их потенциала и свободного управления своей реальностью».

Сатья Наделла

«Очередная великая технологическая революция – в области ИИ – победно шествует уже сегодня. В то время как львиная доля дискуссий посвящена тому, на что способен ИИ и в каких направлениях он движется, эта книга блестяще переосмысливает все споры. Как люди будут взаимодействовать с ИИ? Каким образом этот захватывающий, но пугающий новый научный взрыв изменит наше представление о том, что значит быть человеком? Результатом труда трех авторов стало глубинное и многоплановое исследование – именно оно сейчас перед вами».

Фарид Закария

«Книга, обязательная к прочтению для всех, кто пытается серьезно задуматься об испытаниях, которые несет с собой ИИ. Genesis систематизирует давно известные факты – и, что важнее, затрагивает пока неведомые нам темы – к примеру, вопросы рисков, связанных с неограниченным развитием ИИ. Основываясь на уроках, извлеченных в ядерную эпоху, Киссинджер и его соавторы освещают туманный путь, ожидающий нас впереди».

Грэм Эллисон

«Киссинджер, Шмидт и Манди разработали маршрут для навигации по нашему ближайшему будущему, в котором невообразимо мощные и вездесущие системы ИИ станут автономными. Проницательность авторов относительно последствий первой встречи человечества с высшим разумом – как в практическом, так и в мировоззренческом смыслах – отрезвляет и одновременно вдохновляет, заставляя нас переосмыслить наши отношения с технологиями и сам вопрос того, кто мы есть во Вселенной. Книгу Genesis очень важно прочесть людям, желающим понять, как ИИ изменит наш мир и что нужно, чтобы оставаться человеком в эпоху разумных машин».

Ян Бреммер

«Что означает ИИ для открытий? Для истины? Для безопасности, благополучия и политики? Отвечая на эти вопросы, трое выдающихся мыслителей не боятся поднимать всеобъемлющие темы и самые сложные дилеммы, связанные с доминирующей технологией нашего времени. Эпический по масштабу, освежающе ясный и – как, впрочем, свойственно этим авторам – основанный на глубинном опыте и огромной эрудиции, этот труд уверенно можно считать обязательным к прочтению».

Мустафа Сулейман

«Книга Genesis дает нам пищу для размышлений – это крайне своевременный анализ влияния ИИ на развитие человечества и на то, что делает нас людьми. По сути, данная работа представляет собой дорожную карту для: 1) практического применения технологий ИИ; 2) решения порождаемых ими задач; 3) выстраивания взаимодействия с разумными системами в новую технологическую эпоху».

Джеймс Маньика

«ИИ ошеломляет разум, и мы изо всех сил пытаемся осознать, что же он нам обещает и чем может быть опасен. В своей последней книге мастер „большой стратегии“¹ Генри Киссинджер и его великолепные соавторы Эрик Шмидт и Крейг Манди очень вовремя сосредоточились на этой теме. Genesis – книга, которую сегодня необходимо прочитать всему нашему миру».

К. Брукс

«Пока мы сосредоточенно прокладываем маршрут в будущее, эта книга в оптимистичном ключе разъясняет нам возможный путь взаимоотношений с ИИ, при котором мы не растеряем наших человеческих качеств. В своей последней работе Генри Киссинджер, один из самых значимых мыслителей нашего времени, в сотрудничестве с Эриком Шмидтом и Крейгом Манди помогает нам войти в эту беспрецедентную эпоху. А нам, в свою очередь, надлежит привести ее развитие и огромный смысл в равновесие с общечеловеческой мудростью, которая столь необходима, чтобы на сей раз технологии применялись только во благо человечества. Данную книгу непременно следует прочесть людям, принимающим решения, то есть всем нам».

Кондолиза Райс

Предисловие

Доктору Киссинджеру – государственному деятелю, дипломату, наставнику и другу.

Мы отдаем Вам дань уважения.

Когда в июне 2018 года Генри Киссинджер опубликовал статью How the Enlightenment Ends («Как заканчивается Просвещение») в журнале Atlantic, многих удивил тот факт, что в столь пожилом возрасте этот государственный деятель сумел составить и обосновать собственное мнение о проблематике искусственного интеллекта (ИИ). Действительно, Киссинджеру только что исполнилось 95 лет. В то время развитие ИИ еще не было такой растиражированной темой, как в конце 2022 года, когда компания OpenAI выпустит ChatGPT.

Однако я, будучи биографом Киссинджера, нахожу его интерес к проблематике ИИ закономерным и естественным. Не стоит забывать, что в 1957 году он обрел настоящую популярность благодаря работе, посвященной новой технологии, которая определила ход истории. Его книга Nuclear Weapons and Foreign Policy («Ядерное оружие и внешняя политика») была встречена с таким пристальным вниманием, что даже Роберт Оппенгеймер² одобрительно отозвался о ней как о «весьма обоснованном и в этом отношении совершенно беспрецедентном исследовании в области ядерного вооружения, отличающемся… скрупулезным отношением к фактам и вместе с тем страстной и жесткой аргументацией».

И хотя Киссинджер, в те годы докторант³, с головой погрузился в дипломатическую историю Европы начала XIX века, он прекрасно осознавал (тогда и на протяжении всей своей карьеры), что вечные закономерности политики великих держав время от времени рушатся под натиском технологических новшеств. Как и многие представители его поколения, участвовавшие во Второй мировой войне, он воочию видел не только массовые разрушения и гибель людей, вызванные современным оружием, но и страшные последствия для своих соотечественников-евреев того, что Черчилль незабываемо окрестил «извращенной наукой» гитлеровского Третьего рейха.

Вопреки своей незаслуженной репутации поджигателя войны, Киссинджер на протяжении всей своей взрослой жизни был твердо намерен избежать Третьей мировой – возможного следствия перехода холодной войны между Соединенными Штатами и Советским Союзом в горячую фазу, чего многие действительно опасались. Он прекрасно понимал, что технология ядерного расщепления придаст новой мировой войне еще более беспощадный размах по сравнению со Второй мировой. В начале книги Nuclear Weapons and Foreign Policy Киссинджер оценил [гипотетический. – Примеч. ред.] разрушительный эффект десятимегатонной бомбы, сброшенной на Нью-Йорк, а затем сделал расчеты, что в результате тотальной атаки со стороны Советского Союза на пятьдесят крупных городов США, если бы таковая состоялась, погибли бы от 15 до 20 миллионов человек и были бы ранены от 20 до 25 миллионов. Еще от 5 до 10 миллионов человек погибли бы от радиоактивных осадков, а еще 7–10 миллионов стали бы жертвами лучевой болезни. Выживших ждала бы «социальная дезинтеграция». Но даже после такой атаки, отметил он, Соединенные Штаты все равно смогли бы нанести Советскому Союзу сопоставимые разрушения. Вывод был очевиден: «Таким образом, единственным исходом тотальной войны станет поражение обоих соперников». В подобном конфликте не может быть победителя, утверждал Киссинджер в своей публикации 1957 года Strategy and Organization («Стратегия и организация»), «ведь даже более слабый противник может нанести удары, после которых любое общество долго не сможет оправиться».

Однако юношеский идеализм Киссинджера не сделал его пацифистом. В книге Nuclear Weapons and Foreign Policy он прямо заявил, что «ужасов ядерной войны вряд ли удастся избежать путем сокращения ядерных вооружений» или, если на то пошло, при помощи систем контроля над вооружениями. Вопрос заключался не в том, можно ли вообще избежать войны, а в том, «возможно ли представить себе применение силы менее катастрофичное, чем тотальная термоядерная война». Ведь если это невозможно, то Соединенным Штатам и их союзникам было бы очень трудно победить в холодной войне. «Отсутствие общего понимания относительно пределов ведения войны, – предупреждал Киссинджер в статье Controls, Inspections, and Limited War („Контроль, инспекции и ограниченная война“), опубликованной в журналеThe Reporter, – подрывает психологическую основу сопротивления действиям, которые предпринимают коммунисты. Там, где война считается равносильной национальному самоубийству, капитуляция может оказаться меньшим из двух зол».

Именно на этой основе Киссинджер выдвинул свою доктрину ограниченной ядерной войны, изложенную в статье Strategy and Organization:

На зловещем фоне надвигающейся угрозы термоядерной катастрофы достижение военной победы в том виде, в каком мы ее знали, больше не может являться целью войны. Она скорее должна заключаться в достижении определенных политических условий, полностью понятных противнику. Цель ограниченной войны – нанести противнику такой урон или приблизить его к таким рискам, которые были бы несопоставимы с его целями. Чем умереннее цель, тем менее жестокой, вероятно, окажется война.

Для этого потребуется понимание психологии другой стороны, а также ее военного потенциала.

В то время многих обескуражил хладнокровный, на первый взгляд, ход размышлений Киссинджера об ограниченной ядерной войне. Некоторые ученые, такие как Томас Шеллинг, оспаривали возможность предотвращения неудержимой эскалации; позже даже сам Киссинджер засомневался в собственных аргументах. Тем не менее обе сверхдержавы продолжили создавать и развертывать тактическое ядерное оружие, следуя именно той логике, которую Киссинджер подробно описал в книге Nuclear Weapons and Foreign Policy. Концепция ограниченной ядерной войны, возможно, в теории не сработала бы, однако действия военных стратегов обеих сторон словно демонстрировали их ожидание того, как она могла бы осуществиться на практике. Молодой Киссинджер был прав в отношении ядерного оружия больше, чем сам он мог предположить.

Киссинджер никогда не переставал размышлять о последствиях технологических изменений для политической сферы. В давно забытом документе, который он составил для Нельсона Рокфеллера в январе 1968 года, Киссинджер заглянул в будущее, анализируя способы, которыми распространение компьютеров могло бы помочь чиновникам справляться с постоянно растущим потоком информации от правительственных агентств США. По его мнению, высшим должностным лицам грозила серьезная опасность утонуть в этом море данных. «В распоряжении политика высокого ранга, – писал он, – столько информации, что в кризисных ситуациях он просто не в состоянии с ней разобраться». Киссинджер утверждал, что лица, принимающие решения, должны «постоянно получать сведения о вероятных проблемных точках», в том числе о потенциально проблемных, «даже если те совсем не в приоритете». Они также должны располагать «набором вариантов действий, <…> предусматривающих запасные ходы на случай прогнозируемых обстоятельств с оценкой вероятных последствий – внутренних и внешних – каждой такой альтернативы».

Чтобы добиться такого всеобъемлющего охвата, признавал Киссинджер, потребуются крупные инвестиции в программирование, хранение, поиск и графическое отображение данных. К счастью, «аппаратные и программные средства» для выполнения всех этих четырех функций уже существовали.

Сейчас мы можем хранить несколько сотен единиц информации о каждом человеке в Соединенных Штатах на одной магнитной ленте длиной 2400 футов. Компьютеры третьего поколения способны выполнять основные машинные операции за наносекунды, то есть миллиардные доли секунды… Экспериментальные системы разделения времени⁴ показали, что возможность множественного доступа к ресурсам компьютера позволяет вводить и выводить информацию как на исполнительных, так и на операторских станциях, распределенных по всему миру… И совсем скоро цветной монитор с электронно-лучевой трубкой будет доступен для вывода изображения на компьютер.

Позже, после своего первого года работы в Белом доме в качестве советника Ричарда Никсона по национальной безопасности, Киссинджер попытался получить такой компьютер в личное пользование. ЦРУ отказало ему в этой просьбе – предположительно, потому, что Киссинджер и без компьютера олицетворял собой тот массив данных и задач, с которым предстояло справляться разведывательному сообществу⁵.

Генри Киссинджер никогда не прекращал работать и с беспокойством размышлять о будущем человечества. Человек такого склада вряд ли прошел бы мимо одного из самых прорывных явлений, которое ему довелось наблюдать на очередном этапе своей долгой жизни, – разработки и внедрения генеративного ИИ. Осмысление последствий этой зарождающейся технологии действительно заняло значительную часть последних лет его жизни.

Genesis, последняя книга Киссинджера, была написана в соавторстве с двумя выдающимися техническими экспертами, Крейгом Манди и Эриком Шмидтом, и она несет на себе отпечаток врожденного оптимизма этих новаторов. Авторы с нетерпением ждут «эволюции человека технического, homo technicus, – нового вида, который в наступающую эру сможет жить в симбиозе с машинными технологиями». ИИ, по их мнению, вскоре может быть задействован «для создания нового базового уровня человеческого богатства и достатка… что если не устранит, то, по крайней мере, ослабит напряженность труда, классовую принадлежность и конфликты, которые ранее разрывали человечество на части». ИИ может даже привести к «глубинному выравниванию… в зависимости от расы, пола, национальности, места рождения и семейного положения».

И все же в этом талантливом тандеме мы четко слышим голос его старшего участника – например, в серии предупреждений, которые являются лейтмотивом всей книги. «Появление ИИ, – отмечают авторы, – ставит вопрос выживания человечества… Позволив себе управлять ИИ небрежно и неумело, человек рискует наделить его способностью к бесконтрольному накоплению знаний – с потенциально катастрофическими последствиями…» И здесь сокрыт перефразированный для книги Genesis, но вполне узнаваемый оригинальный вопрос Киссинджера из его статьи How the Enlightenment Ends, опубликованной в 2018 году в журнале Atlantic:

Объективная способность [ИИ] делать новые и точные выводы о нашем мире, задействуя в прямом смысле нечеловеческие способы, не только подрывает нашу привычную опору, «обнуляя сам смысл научного метода в том виде, в каком его использовали на протяжении пяти веков, но и ставит под сомнение претензии человека на исключительное, уникальное восприятие реальности. К чему это приведет? Неужели эра ИИ не только не сможет продвинуть человечество вперед, но и, наоборот, спровоцирует откат к архаичному принятию необъяснимого авторитета? Иными словами, не стоим ли мы на пороге величайшего перелома в истории познания – эпохи „темного Просвещения“?

В ключевом разделе этой книги – том, что произвел на меня наиболее сильное впечатление, – авторы обращаются к пугающей теме гонки вооружений в области ИИ. „Если… каждое общество решит максимизировать свои стратегические преимущества в одностороннем порядке, – пишут авторы, – возникнет принципиально новый тип конфронтации между спецслужбами и военными – беспрецедентный в человеческой истории“. Сегодня, в считаные годы (а может быть, и месяцы) до появления первого суперинтеллекта, мы столкнулись с принципиально новой дилеммой безопасности⁶ – угрозой поистине экзистенциального масштаба».

Но если человечество уже втянулось в «гонку за обладание единым, абсолютным и бесспорно доминирующим интеллектом» – к чему это приведет? По моим подсчетам, авторы рассматривают шесть сценариев, и ни один из них нельзя назвать заманчивым:

1. Человечество рискует утратить контроль над экзистенциальным противостоянием, где все участники оказываются заложниками дилеммы безопасности.

2. Человечество столкнется с абсолютной гегемонией победителя, лишенного каких-либо сдержек и противовесов – тех самых, что исторически обеспечивали хоть какую-то безопасность для остальных.

3. Появится не один верховный ИИ, а множество инстанций высшего разума.

4. Компании, владеющие и разрабатывающие ИИ, могут в полном объеме получить социальную, экономическую, военную и политическую власть.

5. Максимальный спрос на ИИ возникнет не на государственном уровне, а в религиозных институтах, где его потенциал сможет реализовываться наиболее полно, притом в течение очень длительного времени.

6. Свободный доступ к ИИ с открытым исходным кодом может вооружить даже маргинальные группы примитивными, но опасными системами.

Подобные сценарии вызывали глубочайшую тревогу у Киссинджера – и его борьба за их предотвращение вышла далеко за рамки написания этой книги. Ни для кого не секрет, что последней задачей, которой он посвятил остаток своей жизни, – именно она фактически истощила его силы в первые месяцы после сотого дня рождения – было инициирование переговоров между США и Китаем по ограничению «гонки вооружений» военного ИИ, чтобы предостеречь все человечество от таких антиутопических перспектив.

И в заключении книги Genesis узнаваемый ход мыслей Генри Киссинджера просматривается абсолютно четко:

То, что одни считают якорем, помогающим удержаться во время шторма, другие воспринимают как поводок, который не дает сделать лишнего движения. То, в чем кому-то видятся важнейшие шаги на пути к вершине человеческих возможностей, другие назвали бы стремительным падением в пропасть.

В этом случае инстинктивные эмоциональные расхождения – равно как и субъективные границы, очерчиваемые каждой из сторон, – создают непредсказуемую и взрывоопасную ситуацию. Все более жесткие позиции потенциальных «победителей» и «проигравших» будут лишь усиливать давление этих обстоятельств. Люди чересчур осторожного склада начнут притормаживать собственное развитие и мешать развитию других. Те, кто ставит себя выше прочих, предпочтут скрывать свой истинный потенциал, украдкой пытаясь повысить собственную эффективность. Весь наш наработанный опыт будут поджимать бесконечные кризисы – постепенно они станут подобны волне, которая однажды захлестнет нас, и неизвестно, удастся ли нам выжить.

На подобные прогнозы технари дают привычный ответ – напоминают нам об ощутимых преимуществах ИИ, которые уже хорошо проявлялись, например, в области медицины. С этим я не могу не согласиться. На мой взгляд, AlphaFold – модель, основанная на нейронных сетях и определяющая третичную структуру белков, стала гораздо более прорывным открытием, чем ChatGPT. Однако медицинская наука добилась сопоставимых успехов еще в двадцатом веке. И хотя человечество изобрело антибиотики, создало новые вакцины и разработало бесчисленное множество терапевтических средств – все эти достижения медицины не смогли предотвратить ни мировых войн, ни холокоста.

Центральная проблема технического прогресса заявила о себе еще при жизни Генри Киссинджера. В 1938 году немецкие химики Отто Ган и Фриц Штрассман фактически открыли деление ядер урана. Теоретическое объяснение (и название) этому процессу дали физики австрийского происхождения Лиза Мейтнер и ее племянник Отто Роберт Фриш в 1939 году. Возможность цепной ядерной реакции открыла путь к «массовому производству энергии и радиоактивных материалов – и, как ни прискорбно, к созданию атомной бомбы», – размышлял венгерский физик Лео Силард. Тогда же с одобрением была воспринята возможность применения цепных реакций в ядерных реакторах для получения тепловой энергии. Однако на создание первой атомной бомбы ушло чуть более пяти лет, а первая атомная электростанция была открыта лишь в 1951 году.

Спросите себя: чего за последние восемьдесят лет было создано больше – ядерных боеголовок или атомных электростанций? Сегодня в мире насчитывается около 12 500 ядерных боеголовок, и это число растет, поскольку Китай стремительно наращивает свой ядерный арсенал. Для сравнения, в мире действует только 436 ядерных реакторов. В абсолютном выражении пик производства атомной электроэнергии пришелся на 2006 год, а доля атомной энергетики в общем мировом производстве упала с 15,5% в 1996 году до 8,6% в 2022 году. Отчасти это произошло из-за преувеличенных опасений политиков после нескольких аварийных ситуаций на АЭС, последствия которых для здоровья людей и окружающей среды были незначительными в сравнении с ущербом от выбросов углекислого газа при сжигании ископаемого топлива.

Урок, который преподала нам жизнь Генри Киссинджера, очевиден. Последствия технологических достижений могут быть как благотворными, так и разрушительными – все зависит от того, каким образом человечество решит ими распорядиться. ИИ, конечно, во многом отличается от ядерного расщепления. Но наивно полагать, будто человечество станет использовать эту технологию только в созидательных, а не в разрушительных целях.

Именно эта проницательность, рожденная сочетанием исторического знания и личного опыта, побудила Генри Киссинджера посвятить большую часть своей жизни изучению мирового порядка и предотвращению мировой войны. Именно поэтому он с такой готовностью и трепетом откликнулся на последние достижения в области ИИ. И по этой же причине данное посмертное издание имеет не меньшую ценность, чем все труды, созданные им за долгую и невероятно насыщенную жизнь.

Нил Фергюсон

Оксфорд, июль 2024

В память о Генри А. Киссинджере

Пережив вековой рубеж, доктор Генри А. Киссинджер скончался 29 ноября 2023 года. До своего последнего дня он не прекращал работы над этой книгой, двадцать второй по счету в списке его работ. Такая сила характера, конечно, вдохновляла всех, кто его знал. В последний год своей жизни во время наших частых встреч он неизменно подчеркивал важность нашей общей темы и настоятельную необходимость донести до ее читателя – как призыв, как тревожное послание. Мы, его соавторы, были среди последних, кто виделся и общался с ним за несколько дней до его смерти. И вот теперь, завершая этот проект от его имени и выполняя его последнюю волю, мы приложили все усилия, чтобы сохранить неповторимый строй его мысли и четкую интонацию его суждений по вопросу, который определит судьбу человечества. Закончить начатое, чтобы этот последний литературный труд не ушел вместе с ним, а выполнял свою миссию для тех, кто остался, живет и продолжит жить, – это лишь наш скромный вклад в сохранение памяти об этом человеке.

Он выстраивал этот мир всю жизнь – и до последнего часа боролся за него. Его заключительной просьбой было обращение ко всему человечеству – продолжать этот масштабный «проект», дающий нашему виду надежду на будущее. В середине прошлого века доктор Киссинджер разрабатывал основные философские и дипломатические подходы к предотвращению ядерной катастрофы – так человечество XX века впервые осознало всю тяжесть экзистенциального риска. В тот период его воля и решимость помогли обществу уберечься от опасности, но теперь, когда мы стоим перед новой угрозой, этому человеку выпала судьба покинуть нас. Он ушел как раз тогда, когда мир впервые увидел очертания иной формы жизни. Сегодня, стоя на пороге эры ИИ, мы понимаем: лишь единицы – подобно доктору Киссинджеру, этому студенту XIX-го, ученому XX-го и провидцу XXI столетия – смогли заложить столь значимые основы для будущего человечества.

Прежде всего, доктор Киссинджер был философом истории. Результатом его глубоких размышлений о природе трагедии стало вечное стремление доказать, что идеализм сердца может гармонично сосуществовать с реализмом разума, и даже возвысить его. Можно, по выражению французского писателя Ромена Роллана, сочетать «пессимизм интеллекта» с «оптимизмом воли». Если оптимист верит в возможность сохранить контроль над собственной судьбой, то пессимист видит нашу реальность как процесс, управляемый непреодолимыми силами – законами природы или, например, историческими циклами.

Конечно, ему слишком хорошо было известно, как пылкий идеализм может стать инструментом в опытных руках циничных идеологов, без колебаний готовых пролить чью-то кровь или применить силу в том или ином масштабе. Фашизм, тоталитаризм, воинствующий религиозный фанатизм – все они, казалось бы, ставили перед собой самые благие цели в истории человечества. Пройдя путь от жертвы до борца с бесчеловечными режимами, он создавал новый миропорядок – где безопасность не требует жертв, а достоинство не нуждается в оправданиях. Доктор Киссинджер виртуозно управлял международными делами и вел свою страну, ставшую ему родиной – равно как и весь мир, – через непредсказуемые потрясения, руководствуясь историческим опытом и национальными интересами.

Прекрасно понимавший избирательную необходимость политического реализма, он оставался при этом идеалистом – тем, кто, по словам его биографа Нила Фергюсона, уважал «роль человеческой свободы, выбора и воли в формировании мира». В теории и на практике он продемонстрировал свою убежденность в том, что люди не живут и не могут жить так, будто будущее неизбежно и предопределено. В своей выпускной диссертации в Гарварде The Meaning of History («Смысл истории») 27-летний Генри Киссинджер размышлял о тех же философских дебатах, что теперь оказались в основе его последней работы: «Каковы бы ни были наши представления о необходимости событий, [и]… как бы мы, оглянувшись назад ни объясняли свои давние поступки, мы совершали их, руководствуясь внутренней убежденностью в правильности собственного выбора».

Для него не существовало никаких гарантий того, что человечество переживет бесчеловечные замыслы, вышедшие из огней наших же кузниц. Столкнувшись с пугающей перспективой ядерной катастрофы, он не поддался ни убеждению в фатальности, ни пророчествам о гибели цивилизации. Безусловно, экзистенциальные страхи могут порождать нигилизм, но им также свойственно наполнять лучших из нас решимостью противостоять злу и защищать то, что необходимо сохранить ради будущего людей. В начале 1950-х годов, будучи молодым профессором Гарварда, Генри Киссинджер участвовал в ряде встреч, на которых ведущие ученые и академики, такие же, как и он сам, обсуждали возможные последствия ядерной войны и меры, необходимые для ее предотвращения. И все высказанные тогда сомнения, рассуждения, дебаты послужили основой доктринам, которые до сих пор оберегают наш мир от худших опасений участников тех собраний.

Спустя десятилетия, во время наших с ним бесед он часто возвращался к тем встречам – вспоминал их участников, обсуждаемые задачи и то значение, которое они, как теперь видно, в итоге обрели. Никогда не меняя своей точки зрения, он не прогибался под жизненные обстоятельства и не скатывался в утопическое теоретизирование. В контексте применения ИИ сохраняется тот же баланс, что и в проблематике ядерного вооружения: небольшие группы преданных своему делу людей способны изменить ход истории, вмешавшись в него и продемонстрировав свои ценности. Но в то же время, считал Киссинджер, независимо от гения ученых, создающих новые формы интеллекта, их подготовленности все равно будет недостаточно, чтобы обеспечить хотя бы минимальный уровень безопасности во время применения человечеством этих новейших инструментов.

Поэтому его вклад в сферу ИИ выходит за рамки теоретических исследований: он включает и конкретные практические решения. Спустя полвека после его тайного перелета в Пекин и последующего установления отношений между США и КНР доктор Киссинджер совершил еще одну поездку в столицу Китая. Он отправился туда по настоятельному приглашению Председателя КНР Си Цзиньпина, чтобы обсудить в качестве ключевой темы риски, которые несет для человечества развитие ИИ. Это была последняя в его жизни зарубежная поездка и последняя дипломатическая миссия.

Если раньше доктор Киссинджер превратил изучение государственного управления в искусство, то теперь его подход к ИИ преодолел границы науки. В соавторстве с одним из нас, а также с профессором Массачусетского технологического института Дэниелом Хаттенлокером он написал книгу The Age of AI: And Our Human Future («Искусственный разум и новая эра человечества»), опубликованную 2021 году. В этой работе он утверждал, что появление ИИ ознаменует новую историческую эпоху, сопоставимую по влиянию на общество с эпохой Просвещения XVIII века, поскольку ИИ обладает способностью фундаментально преобразовывать человеческое сознание. Однако в наш новый век мы уже столкнулись с тем, что вместо того, чтобы руководствоваться нашими запросами, ИИ вдруг начал выдавать ответы на те вопросы, которые ему никто и никогда не задавал. По мере того как ИИ все увереннее проникает в новые области интеллектуальной деятельности, доктор Киссинджер призывает нас искать внутреннюю опору в человеческой мудрости и историческом опыте.

В этой книге мы вместе с доктором Киссинджером исследуем влияние ИИ на восемь ключевых сфер человеческой деятельности и мышления. Нашей высшей целью станет философское осмысление поиска жизнеспособной стратегии, которая позволит сохранить баланс между возможностями и рисками этой революционной технологии. Для этого доктор Киссинджер анализирует перспективы сосуществования человека с ИИ, а в будущем – их возможную коэволюцю, т. е. совместное развитие. Его рассуждение о взаимодействии органического и синтетического разума подводит нас к ключевому вопросу: движемся ли мы к миру, где ИИ уподобляется человеку, или же к миру, где человек начинает походить на ИИ?

После выхода своей первой книги об эпохе ИИ доктор Киссинджер все яснее осознавал нарастающую ограниченность человеческого разума на излете технологической эры. Любое объяснение, выходящее за пределы человеческого понимания или творческих возможностей, кажется нам бессмысленным. Наш разум инстинктивно отвергает такие концепции как примитивные и несостоятельные по сравнению с научными аргументами – ведь согласиться с ними означало бы сделать шаг назад. Но такая позиция таит в себе серьезную опасность.

Если, как говорил Артур К. Кларк, «любая достаточно развитая технология неотличима от магии», а чудеса создаются из математики, будущее должно быть необъяснимым, ошеломляющим, даже, пожалуй, волшебным. На протяжении десятилетий нашего знакомства доктор Киссинджер щедро делился с нами своими уникальными знаниями в области государственного управления – этой тонкой материи человеческих взаимоотношений. Он тогда же объяснял нам: хотя разум и ограничен доминирующей парадигмой мышления⁷ – той, что дает людям иллюзию власти над миром, – но он бессилен выработать парадигму, которая сохранила бы нашу власть над самими собой.

И потому, продвигаясь вперед, мы не должны полагаться на один лишь разум, исторически считающийся первоисточником величайших человеческих достижений. Но принижать его значение тоже не нужно. Если в своих классических работах Киссинджер выстраивал гармонию идеализма и реализма, то в своих поздних исследованиях будущего он предлагает осмыслить качественно иную пропорцию. Речь идет о поиске равновесия между традиционной эмпирической природой истины и принципиально новым знанием: тем, что философски превосходит человеческий разум, но еще не обрело исторической завершенности. Как внешняя политика не может позволить себе полностью погружаться в одну из крайностей, так и наша концепция будущего не должна выстраиваться на однобоких категоричных установках.

ИИ, таким образом, представляет собой уникальную задачу, требующую особых подходов – да таких, которые поначалу могут показаться иррациональными или чрезмерно парадоксальными. Действительно, сценарии, описанные в этой книге, поражают воображение. Однако доктор Киссинджер, называвший себя в наших беседах (и не только) всего лишь рядовым исследователем человека и его, вероятно, окончательного творения, неизменно предупреждал: главная опасность ИИ заключается в том, что мы можем слишком поспешно или самонадеянно заявить о его понимании.

Глубина его интеллекта и редкая проницательность – качества, которые нам, скорее всего, больше не доведется встретить в ком-либо другом. Просто невозможно себе представить, чтобы человек в возрасте 93 лет сумел погрузиться в совершенно новую и ранее неизвестную область технических знаний. С его неутолимым любопытством, жаждой познания и оптимизмом, подкрепленными преданностью работе и чувством долга, никакая физическая или душевная боль не могла заглушить его неудержимого интереса к прогрессу. Преодолевая недуги, вызванные старостью, каждый новый день он встречал с твердой решимостью сделать вместе с миром очередной шаг вперед. Его несокрушимая сила духа, возможно, проистекала из железной самодисциплины, что была закалена тяжелыми испытаниями его юности, отточена на войне и проверена десятилетиями напряженной общественной деятельности.

Мы – лишь двое из сотен тысяч, на чьи судьбы повлиял этот необыкновенный человек. Нам будет его очень не хватать – и несомненно, больше, чем мы можем себе представить. Он покинул нас в период надвигающейся огромной неопределенности, и сейчас как никогда мы нуждаемся в нем. Вот почему для этой книги не нашлось более подходящего названия, чем Genesis, – в нем метафорически воплотились и его собственное незримое возрождение, и начало новой эры для человечества. Суждено ли людям достичь новых вершин или потерпеть крах – доктору Киссинджеру не дано было узнать, и конечных плодов своих трудов он не увидел. Но с нами остается его мудрость – ориентир, по которому мы можем сверять свои замыслы и поступки.

Эрик Шмидт и Крейг Манди

Введение

Еще несколько лет назад тема искусственного интеллекта (ИИ) была далеко не самым важным пунктом повестки дня общественных дискуссий. Но сегодня в своем стремительном развитии ИИ прочно обосновался на первых полосах новостных изданий и стал объектом пристального внимания лидеров науки, представителей бизнеса, журналистики, государственных служб, образования и политики во всем мире.

По нашему мнению, как широкая общественность, так и многие эксперты до сих пор недооценивают ключевые аспекты новой эры ИИ, которая уже наступила. Развитие систем ИИ и человеческие реакции на это развитие способны радикально трансформировать:

• наше восприятие реальности и истины;

• сам процесс познания;

• биологическую эволюцию человека;

• основы дипломатии;

• всю международную систему в ее нынешнем виде.

Эти вопросы станут определяющими в ближайшие десятилетия и неизбежно вызовут глубинную тревогу у ключевых игроков во всех сферах.

Новейшие достижения ИИ, какое бы мощное впечатление они ни производили, впоследствии покажутся нам скромными, поскольку его способности будут расти ускоряющимися темпами. Ресурсы, о которых мы еще не догадываемся, войдут в нашу повседневную жизнь. Системы будущего откроют путь к масштабным – и во многом благотворным – преобразованиям: они помогут сохранить здоровье людей и повысить качество жизни.

Однако эти возможности останутся неотделимыми от техногенных рисков и человеческого фактора; некоторые их таких опасностей уже известны, с другими нам еще предстоит столкнуться. Современные технологии уже демонстрируют модели поведения, которые не были предусмотрены их создателями – и даже находились за гранью их ожиданий. И эта тенденция, судя по всему, будет только усиливаться. Каждый перспективный метод исследований – а их будет немало – может раскрыть неожиданные возможности. Окажутся ли они в итоге понятными и полезными для человечества – вопрос открытый.

Создается впечатление, что ИИ будто бы сжимает наши временные рамки. Объекты будущего словно становятся ближе, чем кажется. Достаточно привести пример: совсем скоро появятся машины, способные самостоятельно формулировать для себя цели и задачи. Если мы хотим успевать справляться с сопутствующими рисками, мы обязаны реагировать и действовать в кратчайшие возможные сроки. Понимая всю значимость и срочность предстоящей работы, мы рассматриваем лишь отдельные ее аспекты.

По мере распространения «партнерских отношений» между человеком и машиной, людям придется определять характер такого взаимодействия. Ответы могут быть продиктованы логикой безопасности и эффективности, выведены из анализа исторического опыта или почерпнуты из религиозных источников. Каждому человеку, нации, культуре и конфессии предстоит определить: существуют ли границы влияния ИИ на истину? допустимо ли, чтобы ИИ стал посредником между людьми и реальностью? Таким образом, предстоит выбрать между:

1) сохранением традиционной роли человеческой деятельности (пусть и с признанием лидерства ИИ в новых сферах познания);

2) сознательным отказом от ограничений биологического интеллекта в пользу трансформированного партнерства с ИИ на интеллектуальном поле.

Оставим ли мы за собой возможность самим определять собственные цели, относясь к ИИ как к инструменту для их достижения, или в какой-то степени позволим ИИ заниматься целеполаганием за нас? Нам необходимо как можно скорее выработать ясное, соответствующее нашему времени и устойчивое определение человеческого достоинства – такое, которое могло бы стать философским ориентиром для принимаемых решений в ближайшие десятилетия.

По нашему мнению, возникновение ИИ поставило под сомнение саму возможность будущего человечества. Чуть позже мы подробнее рассмотрим идею, что по мере развития ИИ – с его постоянно растущими возможностями и нечеловеческой скоростью принятия решений – традиционные методы регулирования утратят свою эффективность. Требуется немедленная разработка принципиально новых методов контроля. Научному сообществу критически важно создать технические стандарты встроенной безопасности для ИИ. Одновременно государства должны срочно согласовать международные нормы, учредить органы надзора, разработать протоколы реагирования на кризисные ситуации. Особую сложность представляет двойное согласование – технических параметров и этических норм. Кроме того, необходимо будет переосмыслить дипломатические взаимоотношения в новую эпоху.

Доктор Генри Киссинджер, один из соавторов этой книги, скрупулезно разъяснял нам суть последней из задач, указанных выше, в то время как мы, занимая в свое время руководящие посты в компаниях Microsoft и Google, консультировали его по существу первой задачи. Крейг Манди являлся главным представителем Microsoft по вопросам технологической политики в Вашингтоне и зарубежных правительствах, одновременно курируя Microsoft Research⁸, а в последнее время консультировал руководство исследовательской организации OpenAI. Эрик Шмидт в течение десяти лет возглавлял компанию Google, а покинув этот пост, следующее десятилетие посвятил, среди прочего, продвижению инициатив по расширению возможностей для талантливых молодых людей и развитию междисциплинарных исследований на стыке технологий, филантропии и безопасности с целью защиты человечества.

Очевидная актуальность перечисленных выше проблем привела нас к однозначному выводу: человечеству необходимо перейти от тревожного ожидания глобального кризиса к упреждающему решению этих проблем.

Хотя безопасность человека – важнейший компонент ответа на вызовы ИИ, она не покроет весь спектр проблем, порождаемых этой технологией. Эпоха ИИ неизбежно изменит человечество. Остается лишь вопрос: будем ли мы – и в какой мере – стремиться сохранить контроль над ходом этих преобразований?

Часть I. Начало

Глава 1. Открытия

Способность совершать открытия – пожалуй, самая удивительная черта человечества. Когда любопытство ведет нас вперед, а мир раскрывает свои чудеса, мы обретаем возможность заполнить внутреннюю пустоту, превращая вопросы в ответы. Исследовательский дух неотделим от нашей сущности, и потому, несмотря на все опасности, мы продолжаем идти по бесконечно ветвящимся тропам познания.

История освоения окружающего мира – это летопись невероятной отваги, проявленной вопреки всем рискам и смертельным опасностям. Немудрено, что группам смельчаков, пускавшимся в такие авантюры, приходилось постоянно бороться за собственную жизнь. Так, в начале XVI века кругосветное плавание Фердинанда Магеллана стало трехлетней одиссеей, наполненной насилием, голодом и смертью. Зато Магеллану удалось впервые проложить курс вокруг земного шара. В ходе своего плавания он побил рекорд выносливости в открытом море, установил истинные размеры планеты, а в контексте европейского колониализма – заложил основы глобального социального и экономического обмена.

Моряки Магеллана хорошо знали, сколь высок был риск крушения. Если представление о плоской Земле уже и подвергалось сомнениям, то ее шарообразная форма до сих пор оставалась неподтвержденной, и мысль о «крае света» все еще пугала многих на борту.

И самому Магеллану, и его матросам было понятно, что любое опрометчивое предположение может в конечном итоге стоить очень дорого. Так оно и случилось: их ошибка привела к тяжелым последствиям. Они допустили критический просчет в определении сроков плавания и необходимых запасов провизии, проигнорировали угрозу массовых отравлений и потенциальные серьезные повреждения судов. Флотилия Магеллана состояла из пяти кораблей с экипажем из 270 человек, но в испанский порт вернулось лишь одно судно с восемнадцатью изможденными моряками, выжившими по чистой случайности. Самого капитана среди них не было – он погиб вдали от родины, сраженный отравленной стрелой, которая пронзила его ногу⁹.

Четыре столетия спустя после плавания Магеллана карта мира обрела почти завершенные очертания – лишь Антарктида оставалась белым пятном – столь же безжизненным и неизведанным, как далекая планета. Англо-ирландский путешественник Эрнест Шеклтон приблизился к Южному полюсу – нижней точке Земли – ближе, чем любой из его предшественников. В 1909 году – с неопытной командой и без какой-либо государственной поддержки, располагая лишь средствами, полученными по частным займам и от благотворителей, – Шеклтон и его товарищи установили рекорд по продолжительности полярной экспедиции. Тем самым они открыли новые возможности для других исследователей.

Хотя Шеклтону не суждено было стать первым покорителем Южного полюса, именно он снискал глубочайшее уважение потомков. Ведь в отличие от многих, он ставил человеческие жизни выше исследовательских амбиций. Спустя год изнурительных переходов, когда каждый день требовал десятичасового напряженного пути на санях, команда едва преодолевала по несколько миль за сутки. Даже имея достаточно провианта, чтобы дойти до полюса, они не смогли бы вернуться к кораблю – запасов для возвращения не хватило бы.

Так или иначе, всего в 97 милях от триумфа Шеклтон, вместо того чтобы рисковать чужими жизнями, принял решение повернуть назад. «Мы сделали все, что могли», – записал он в своем дневнике¹⁰. Во время этого отступления Шеклтон отдал свое последнее печенье (из тех, что входили в скудный паек) Фрэнку Уайлду, заболевшему члену команды. Тот позже напишет: «Этот сухарь стал дороже всех монет мира, и память об этой жертве навсегда осталась со мной»¹¹.

Несмотря на неудачу, Шеклтон предпримет еще несколько попыток покорения Южного полюса. Долгие годы ходила легенда (впоследствии развенчанная), будто он разместил в лондонской газете Таймс такое объявление:

Требуются мужчины для опасного путешествия. Оплата – незначительная, холод – лютый, кромешная темнота – долгие месяцы, опасность – постоянно, благополучное возвращение – едва ли. Почет и признание – в случае благополучного исхода¹².

Если само объявление и носит анекдотический характер, символизируемая им жертва была совершенно реальной. В ту эпоху границы познания расширялись ровно настолько, насколько хватало храбрецов, добровольно обрекавших себя на немыслимые лишения.

Возможно, осознавая эти опасности, некоторые государства сочли нужным спонсировать и поощрять экспедиции первооткрывателей, и эти предприятия стали частью – словно некой игры – международного соперничества. Экспедиция Магеллана, например, с самого начала определялась политическими мотивами. Не получив поддержки от португальского короля, своего суверена, Магеллан отправился в плавание под флагом испанской короны, которая предложила свое покровительство на выгодных условиях. После гибели Магеллана командование принял испанец Хуан Себастьян Элькано. На обратном пути, когда отчаявшийся экипаж оказался на грани голодной смерти, Элькано предпринял рискованную попытку остановки на островах Зеленого Мыса – португальской колонии у побережья Западной Африки. Тринадцать посланных на берег моряков получили унизительный отказ от местного губернатора.

Охваченный гневом и разочарованием, но исполненный еще большей решимости доказать ничтожность Португалии и величие Испании, Элькано приказал сниматься с якоря. (Членов разведывательной группы пришлось оставить на враждебном берегу.) Когда же плавание было завершено, а миссия Магеллана выполнена, Элькано обратился к испанскому монарху – к тому времени уже императору Священной Римской империи и могущественнейшему правителю мира – со следующим посланием:

Ваше Величество, как никто другой, понимает, что больше всего нам следует дорожить тем, что мы открыли и обогнули весь мир: отправившись на Запад, мы вернулись с Востока¹³.

В конечном счете отважным первооткрывателям и их политическим покровителям суждено было даже покинуть пределы земного шара. Нам предстояло не просто изучать планеты – этим человечество занималось тысячелетиями, – но и ступить на их поверхность. После Второй мировой войны космическая гонка между США и СССР, ставшая продолжением геополитического противостояния, превратилась в соревнование за право первыми отправить человека туда, где никто и никогда прежде не бывал.

Безусловно, астронавтов можно считать первопроходцами, но ни один космический полет, подготовленный Москвой или Вашингтоном, не был авантюрной игрой человека собственной судьбой. Каждая такая миссия скорее представляла собой тщательно скоординированную операцию, сочетавшую дипломатические и военные аспекты, требовавшую колоссальных ресурсов, многолетней подготовки и масштабных научных изысканий. За последние семьдесят лет более шестисот человек преодолели земное притяжение. Некоторые из них не просто достигли космоса, но и вышли на орбиту, облетели планету и даже прогулялись по Луне¹⁴. Так соперничество между США и СССР, едва не приведшее мир к ядерной катастрофе, открыло человечеству дорогу в космос.

Еще за век до наступления эпохи Великих географических открытий – так стали называть период раннего Нового времени, прославленный Магелланом, Васко да Гамой, Америго Веспуччи и их знаменитыми современниками, – морские амбиции Китая уже достигали невиданного размаха. Флот адмирала Чжэн Хэ эпохи Мин, известный как «флот сокровищ»¹⁵, превосходил по масштабам любые экспедиции, снаряжаемые западными державами. В состав этой грандиозной армады входили десятки – а порой и сотни – самых передовых на то время кораблей с многочисленными экипажами, состоящими из моряков, воинов, дипломатов и торговцев. Каждая из экспедиций адмирала длилась по два года. Пройдя через воды Тихого океана у юго-восточных берегов Китая, его корабли отправлялись на запад – к Бенгальскому заливу, Индийскому океану, Аравийскому и Красному морям и, наконец, к Суахильскому побережью на востоке Африки. Эти исследования растянулись почти на три десятилетия – с 1405 по 1433 год¹⁶.

Экспедиции Чжэн Хэ, чьи мотивы и организационные принципы куда ближе к современным космическим программам США и СССР, чем к западным морским походам той эпохи, являлись не столько попыткой освоить неизведанные земли, сколько грандиозным воплощением имперской стратегии. Однако в этом кроется парадокс: те самые факторы, что гарантируют успех хорошо финансируемой государственной экспедиции, со временем могут стать причиной ее краха. Приоритеты меняются. Человеческое терпение довольно быстро истощается. Ресурсы, затраченные на «флот сокровищ», были столь велики, что политические группировки при дворе Мин начали осуждать финансирование этих миссий императором. Недовольство усугублялось управленческими промахами и стихийными бедствиями. В конце концов китайское правительство решило уничтожить или умышленно забросить свои лучшие корабли, заодно предав забвению бесчисленные записи о путешествиях Чжэн Хэ, чтобы никакой другой энтузиаст в будущем не попытался вновь увлечь правителя подобными проектами. Флот сгнил, и никто не строил подобных судов на протяжении 400 лет.

В США случилось примерно то же самое. Космическая гонка выиграна; конкурента, который мотивировал бы национальные усилия, не стало, в результате чего поддержка Вашингтоном космических исследований ослабла, а бюджет Национального управления по аэронавтике и исследованию космического пространства (НАСА) был сокращен. В течение пяти десятилетий страна одну за другой теряла возможности в области пилотируемых полетов в космос. От амбиций единственной сверхдержавы, способной доставить человека на Луну, США сохранили лишь возможность пилотируемых полетов на низкую околоземную орбиту – а затем временно утратили и ее.

Космический престиж Америки удалось сохранить лишь благодаря частным компаниям, которые под руководством аэрокосмической компании SpaceX¹⁷ помогли стране восстановить свои позиции. Благодаря деятельности этой компании в научном сообществе зародилась революционная идея: наши соседи по Солнечной системе могут стать не временными исследовательскими базами, а постоянными поселениями. Столетие назад Шеклтон внес свой вклад в то, чтобы в дельнейшем человек сумел обосноваться на самой южной точке Земли. Сегодня кратером Шеклтона названа впадина, но находится она на южном полюсе не Земли, а Луны – на месте, выбранном для следующего шага в экспансии человеческой цивилизации.

Наличие альтернативных источников финансирования всегда играло решающую роль в успехе тех или иных научных исследований. В Европе времен Магеллана, если один монарх отказывал в поддержке, всегда можно было обратиться к другому. В начале XX века Эрнест Шеклтон, пытавшийся закрепить Южный полюс за приходящей в упадок Британской империей, столкнулся с аналогичной проблемой: в 1914 году, погруженная в тяготы Первой мировой войны, корона не могла выделить достаточных средств, вынудив его искать частных спонсоров. Появление коммерческих корпораций, объединяющих инвестиции и риски, создало принципиально новые финансовые механизмы. Остается только гадать, каких высот достигли бы Чжэн Хэ и его последователи, имей они доступ к подобным ресурсам.

На пороге цифровой эры

На протяжении большей части истории Запада изучение мира ограничивалось географией – нашей планетой и ближайшими небесными телами. Постепенно, по мере освоения всех доступных пространств – суши, морей и небес, неизбежным стало смещение фокуса от внешних горизонтов к внутренним просторам мысли. Сегодня мы наблюдаем переход от эпохи физических открытий к эре интеллектуальных прорывов.

Развитие ИИ открывает новую главу в истории научных открытий. Там, где ИИ интегрирован в физические системы, роботизированные датчики берут на себя функции, которые раньше выполняли люди, что снижает риски для человечества и привлекает все больше разработчиков и инвесторов.

Кроме того, ИИ не знает страха, а потому его не пугают бескрайние просторы реальности. Он не испытывает неловкости или смущения, а значит, без колебаний терпит неудачи. При этом ИИ обладает уникальной способностью мгновенно адаптироваться к новым условиям. Его постоянная импровизация и эксперименты позволяют сохранять эффективность даже при высокой частоте неудач, сводя к минимуму риски для тех же самых инвесторов и разработчиков.

Современные прорывы в области ИИ создаются преимущественно частными корпорациями и предпринимателями, тогда как государства играют лишь вспомогательную роль спонсоров. Даже без активного государственного участия развитие ИИ, скорее всего, продолжит привлекать инвестиции из разных источников. Хотя на нынешней, еще ранней, стадии сохраняется потребность в человеческих ресурсах и общественной поддержке, в перспективе содержание исследований в области ИИ, вероятно, перестанет быть финансовым или политическим бременем для обществ, активно занимающихся внедрением машинного разума. В отличие от прошлых эпох, когда многие научные направления так и не реализовали свой потенциал, мы (при отсутствии непредвиденных обстоятельств) можем рассчитывать на непрерывную череду открытий в сфере ИИ – в том числе совершаемых с его же помощью.

Но даже частично преодолев прежние ограничения научного прогресса, ИИ по-прежнему не может полностью от них избавиться – особенно по мере роста его влияния на все сферы человеческой деятельности. Готовность демократических обществ к рискам и изменчивая природа глобальной конкуренции останутся ключевыми факторами в развитии ИИ. Это может привести к трем сценариям:

1) глобальной «гонке ИИ» с непредсказуемыми последствиями;

2) повторению печального опыта династии Мин с уничтожением «флота сокровищ» Чжэн Хэ;

3) поиску умеренного, сбалансированного пути развития.

Разум человека-универсала

Если оглянуться назад, кажется очевидным, что сфера открытий неизбежно должна была выйти за пределы физического мира – территории адмиралов, астронавтов и искателей приключений – и что круг исследователей должен был расшириться. Действительно, уже на заре цивилизации стал появляться новый – или если не новый, то совершенно особенный – тип ученого: полимат¹⁸, человек-универсал.

Эти редкие умы, способные в совершенстве освоить множество сложнейших дисциплин, за всю историю человечества исчисляются лишь сотнями. Чему бы они ни посвящали себя – искусству, науке или тому и другому вместе, – всех их объединяла страсть к преобразованию или созданию целых областей знаний. Направляемые не столько душевными порывами, сколько силой интеллекта, они смело погружались в глубины человеческого познания и воображения – в просторы еще более безграничные, чем те, что осваивали исследователи физического мира.

К этим уникумам, способным постигать тайны Вселенной, относились со смешанным чувством благоговения и недоверия, видя в них колдунов или ложных посредников Творца. Такая репутация нередко приводила их к конфликтам с религиозными или политическими властями. В иных случаях их дар высоко ценили: под прямым покровительством властей они свободно проводили свои изыскания и щедро вознаграждались за достигнутые результаты.

В эпоху Золотого века ислама ученые искали пути развития и применения науки на благо веры. Ибн аль-Хайтам из Басры (на территории современного Ирака) сформулировал концепцию научного метода за пять столетий до ее появления у западных ученых эпохи Возрождения¹⁹. В равной степени сведущий в геометрии, астрономии, оптике и психологии, аль-Хайтам также обладал глубокими познаниями в области гидравлики.

Именно это и привело его к конфликту с духовенством. Он заявил о возможности регулировать разливы Нила – природное явление, которое тогда считалось делом сверхъестественным, – после чего его пригласили на встречу с халифом в Багдад. Там его инженерные проекты были признаны противоречащими исламской теологии. В наказание за дерзкие взгляды и нестандартное мышление он был вынужден скрываться до самой смерти халифа.

Другие ученые-универсалы, такие как Мухаммад ибн Муса аль-Хорезми – перс с территории современного Туркменистана, – добились большего успеха в тех областях науки, которым благоволили духовные деятели. Аль-Хорезми был назначен придворным астрономом и главой библиотеки «Дома мудрости» в Багдаде²⁰. Астрономия достигла новых высот при Аббасидских халифах²¹, щедро покровительствовавших таким людям, как аль-Хорезми, за их прямой вклад в исламскую веру. Например, географические координаты священных мест, и главное – направление на Мекку, знание которого обязательно для исламской молитвы, были вычислены с небывалой точностью благодаря новым методам определения положения звезд.

Современники аль-Хайтама и аль-Хорезми находили все более творческие способы поддерживать дух открытий, укрепляя союз науки и религии и обеспечивая поддержку тем, кто обладал, по словам другого великого мусульманского эрудита той же эпохи Ибн Рушда (известного также как Аверроэс), «единством интеллекта». Это была эпоха, ценность которой отмечена не рациональными достижениями, как в европейском Просвещении, а расцветом глубокой религиозности²².

За тысячи километров от Багдада – и друг от друга – китайские и индийские полиматы ориентировались не на божественную власть, а на интересы государственных структур, что обеспечило им особую близость к политике, достигнутую как через привилегии, так и через упорный труд. В XII веке на территории нынешнего Гуджарата советником короля Кумарапалы служил Хемачандра²³ – «знаток всех знаний своего времени». Столетия спустя молодой император Великих Моголов Акбар Великий также продемонстрировал многогранность своего дарования: будучи выдающимся правителем, он одновременно достиг значительных успехов в архитектуре, инженерном деле и литературе.

Китайские мыслители не только прославились своими выдающимися интеллектуальными способностями, но и активно участвовали в делах двора, занимая должности советников, ученых-чиновников и высокопоставленных администраторов. Правительство было для них одновременно заказчиком и покровителем. В какой-то момент их как главных чиновников Астрономического бюро можно было застать за руководством разработкой календаря; через час они в кабинете императора уже могли давать рекомендации по повышению урожайности. Их отправляли с дипломатическими миссиями в соседние государства, им поручали создание грандиозных военных машин, и сам император прислушивался к их мнению в вопросах экономической политики.

Однако настоящей автономии у них не было, и терпели этих знатоков, лишь пока император нуждался в их услугах. В Китае политические интриги становились для гениев таким же препятствием, как религиозные ограничения в исламском мире. Уникальные умы, рождающиеся раз в поколение, оказывались во власти системы, которая изначально помогла раскрыться их талантам, но оставляла науку в подчинении у Сына Неба. Так, Шэнь Ко, интеллектуал эпохи Сун, был изгнан завистливым военным офицером, лишился императорской милости и оказался в изоляции из-за политического соперничества – как это ни парадоксально – с другим крупным полиматом династии²⁴.

Лишь единицам удавалось проявить себя в древности и Средние века на Ближнем Востоке, в Индии и Китае. Но только после эпохи Великих географических открытий начался этап систематических концептуальных исследований сначала в Европе, а затем в США – в период, который мы теперь называем эпохой Разума или Просвещения. Ренессанс XV–XVI веков подготовил почву для последующих четырех столетий, завершившихся началом эры ИИ – принципиально нового этапа интеллектуальных открытий.

В эпохи, предшествовавшие Просвещению, полиматам оставалось лишь служить высшей власти, будь то император или халиф. В отличие от них, многие деятели европейского Просвещения получили возможность относиться к своим открытиям не как к инструменту политических или религиозных интересов, а как к самостоятельной ценности. «Человек может сделать все, если захочет», – обращался итальянский эрудит Леон Баттиста Альберти к своим современникам, выражая веру в безграничность человеческих возможностей.

Однако для полноценных исследований одного лишь интеллекта, несмотря на его ключевую роль, недостаточно. Помимо готовности к риску ученым требуются ресурсы, благоприятная среда и надежные соратники – и в эпоху Просвещения эти три компонента стали более доступны. Правительства и объединения промышленников и торговцев, движимые интересом к практическому применению науки в военных и коммерческих целях, оставались активными покровителями ученых-универсалов Европы и Америки. При этом большинство исследователей сохраняли свободу выбора направлений работы. Даже когда власти пытались привлечь интеллектуалов на свою сторону или ограничить их свободомыслие, раздробленность Европы позволяла отвергнутым в одной стране найти пристанище в другой. Так, француз Франсуа-Мари Аруэ, более известный под псевдонимом Вольтер, провел значительную часть жизни в изгнании. Русский ученый Михаил Ломоносов в девятнадцать лет пешком отправился «изучать науки» из северной деревни в Москву, где получил начальное образование. Обучение он продолжил в Киеве, а затем в Германии – в университетах Марбурга и Фрайберга²⁵.

Важнейшим достижением стало формирование сообществ единомышленников – как в физическом, так и интеллектуальном пространстве, что стимулировало ученых к сотрудничеству и здоровой конкуренции. В прошлом гении часто работали в одиночестве, ограниченные временем и расстоянием. Без поддержки коллег они могли расширять границы познания лишь в пределах личных возможностей. Слабая связь между разобщенными исследователями разных стран вела к дублированию усилий: ученые не знали о работах друг друга и не могли опираться на чужие достижения.

Со временем доступ к точным, актуальным и качественно переведенным материалам позволил исследователям участвовать в сложных проектах, внося свой вклад не только в работы современников, но и в наследие прошлых поколений. К эпохе Просвещения мыслители научились не только преодолевать границы между дисциплинами, но и синтезировать разрозненные области знаний, создавая из них единое целое. Исчезло разделение на персидскую или китайскую науку – осталась наука как универсальное явление.

Такой подход к синтезу знаний из разных сфер ускорил научный прогресс и заложил основы «коллективного разума». В XX веке Манхэттенский проект²⁶ в период Второй мировой войны наглядно показал силу совместного мышления: величайшие умы эпохи применили достижения теоретической физики для создания атомного оружия примерно за пять лет – срок, немыслимый для одиночек прошлого. Такие институты, как Принстонский институт перспективных исследований и корпорация RAND в Калифорнии, стали центрами притяжения для выдающихся умов.

Естественно, выдающаяся одаренность отдельных полиматов все же предопределяла их стойкое желание работать в одиночку. Одним из таких был американский изобретатель сербского происхождения Никола Тесла:

В беспрерывном одиночестве ум становится все острее и внимательнее. Для размышлений не нужна большая лаборатория. Оригинальные идеи рождаются в условиях отсутствия внешних влияний, сковывающих творческий ум. Возможность уединиться – вот секрет изобретения; останьтесь наедине с собой – и тогда появятся идеи. Потому-то многие земные чудеса и зародились в ничем не примечательных условиях²⁷.

Но подход Теслы был скорее исключением. Научно-технический прорыв XX века сопоставим по своей мощи с кембрийским взрывом, дав человеческой цивилизации беспрецедентный импульс развития как по скорости, так и по масштабу преобразований, не имеющий аналогов предыдущих эпох. Объединив интеллектуальные ресурсы, ведущие исследователи получили доступ к принципиально новым инструментам познания. Совокупный эффект этого прорыва позволил преодолеть множество прежних ограничений. Цифровые коммуникации и интернет-поиск – плоды труда преданных науке умов – не только расширили границы научного сообщества, но и собрали воедино объем знаний, превосходящий познавательные возможности любого отдельного человека.

Однако важно осознавать существование принципиальных границ. Сколько бы мы ни совершенствовали конструкции наших «кораблей», предназначенных для покорения новых рубежей, и как бы ни объединяли выдающиеся умы в исследовательские коллективы, биологические ограничения и присущие человеку несовершенства остаются непреодолимым барьером. Наш земной срок строго ограничен. Мы зависим от сна. Нас неизбежно одолевает усталость. Мы нуждаемся в отдыхе и восстановлении сил. Даже в моменты наивысшей продуктивности наше внимание, как правило, способно фокусироваться только на одной задаче.

Вспомним Томаса Эдисона – великого изобретателя, соперника Теслы, который в конце XIX – начале XX века провел тысячи экспериментов для создания «практичной лампы накаливания». Эта работа заняла три года, хотя Эдисон параллельно совершенствовал телефон Александра Белла. Но даже с командой ассистентов путь к созданию лампы оказался чрезвычайно сложным. И сегодня разработка передовых технологий остается дорогостоящим, длительным и ресурсоемким процессом, требующим значительных политических и психологических затрат. Из-за высокой неопределенности результатов исследование ключевых рубежей – космоса, океанских глубин, земных недр – остается прерогативой крупнейших корпораций и богатейших государств.

Именно высокие риски придают открытиям особую ценность, возводя их в ранг выдающихся достижений.

Физик Джон фон Нейман, которого позже назовут одним из величайших умов XX века, признанный изданием Financial Times «человеком столетия», олицетворял веру своей эпохи в способность разума «покорить физический мир»²⁸. С невероятной энергией он работал над математической теорией, созданием атомной бомбы и – что особенно важно – разработкой компьютера. Это последнее великое изобретение XX века, одно из тех, которые создавались еще преимущественно индивидуальными усилиями.

С такими титанами мысли, как фон Нейман, человечество, вероятно, достигло пределов возможностей не усиленного технологиями интеллекта. Универсальность талантов – явление исключительной редкости, ведь овладение даже одной дисциплиной требует колоссального времени. Когда потенциальный полимат достигает мастерства в какой-то области, у него обычно не остается ресурсов для других. Сегодня инновации чаще рождаются в командах, чем в сознании отдельных гениев-универсалов.

Однако интеграция знаний множества специалистов остается сложной задачей. Даже среди выдающихся интеллектуалов – а возможно, особенно среди них – избыток участников может препятствовать эффективному обмену идеями.

ИИ, в отличие от человека, становится идеальным полиматом. В исследовании границ познания он анализирует и генерирует огромные массивы данных с недоступной человеку скоростью, выявляя закономерности в бесчисленных измерениях и открывая неожиданные взаимосвязи. Как отметил социобиолог Э.О. Уилсон, ИИ способен объединить дисциплины в новое «единство знаний»²⁹.

Подобно тому как достижения энциклопедистов Просвещения основывались на междисциплинарных связях, современный прогресс в машинном обучении стал возможен благодаря огромным массивам данных – коллективному интеллекту человечества, – которые ИИ делает доступными и применимыми.

Развивая эту аналогию, стоит отметить: неудивительно, что последние достижения в области ИИ основаны не на единой универсальной программе, а на интеграции множества специализированных алгоритмов – так называемой «смеси экспертов»³⁰. Здесь проявляется принцип коллективного взаимодействия.

До сих пор масштабы научных исследований ограничивались количеством и способностями людей на переднем крае науки. За всю историю человечество вырастило лишь несколько тысяч первопроходцев и еще меньше подлинных универсалов. ИИ кардинально меняет правила игры как в изучении физического мира, так и в интеллектуальных поисках. Лишенный страха и сомнений, ИИ неуклонно движется к новым рубежам – туда, куда мы его направляем. Более того, ИИ, одинаково эффективный в исследовании масштабов космических далей и клеточных структур, не знает субъективности, физических ограничений и эмоциональных барьеров. При этом машины не требуют человеческих жертв – им достаточно лишь вычислительных ресурсов, которые мы готовы выделить.

В будущем уровень развития общества перестанет соотноситься с количеством гениев, которых оно способно объединить, чтобы поддерживать хрупкий механизм научного прогресса. Потенциал человечества больше не будет зависеть от числа новых магелланов или тесл. Сильнейшей нацией станет не та, что воспитала больше всего эйнштейнов и оппенгеймеров, а та, что овладела искусством создания и применения ИИ. Это меняет саму систему измерения национальной мощи, которая эволюционировала от территорий к ресурсам, затем к капиталу, потом к человеческому потенциалу – а теперь, возможно, к вычислительной мощности.

Более того, самообучающаяся машина неизбежно станет машиной, способной к самосовершенствованию. И последний вопрос: не окажется ли, что последнее изобретение ученых-универсалов – вычислительные технологии, расширившие возможности человеческого разума и через десятилетия приведшие к революции ИИ – в конечном счете заменит своих создателей?

Третий век открытий

С позиции ИИ все накопленные человечеством знания – словно архипелаг вулканических островов, разбросанных по бескрайнему океану. В центре каждого острова на этой воображаемой карте возвышается вулкан. По мере того как взгляд зрителя скользит вниз, к морю, очертания становятся менее четкими, границы – более размытыми, пока не растворятся в плавной береговой линии³¹.

Представим, что для нашей мыслительной задачи из земных океанов откачали значительную часть воды. Тогда перед нами откроется грандиозный подводный ландшафт, прежде скрытый от человеческого глаза. Острова перестанут казаться изолированными участками суши, дрейфующими в океане, – в действительности это вершины гигантских подводных гор или вулканов, которые, поднимаясь со дна сквозь толщу вод, лишь слегка выступают над поверхностью.

И если каждый остров символизирует отдельную область человеческого знания, то вода между ними – это недостающие связи, которые необходимо обнаружить для целостного понимания Вселенной. Хотя мы уверенно исследуем ближайшую реальность, нам практически неизвестно, что скрывается за ее видимыми границами. ИИ способен изменить эту ситуацию.

Возьмем физику – квинтэссенцию научного знания. Если Исаак Ньютон объединил законы небесной и земной механики, а Майкл Фарадей и Джеймс Клерк Максвелл – электричество, магнетизм и оптику, то поиски «теории всего», которая примирила бы две фундаментальные, но пока несовместимые теории, объясняющие наше существование с противоположных концов реальности, продолжаются и по сей день. Речь идет об общей теории относительности, описывающей макромир и гравитационное взаимодействие, и квантовой механике, управляющей законами микромира³².

ИИ может внести порядок в кажущуюся разобщенность наших знаний, выявляя связи между генетикой, лингвистикой, космологией и психологией подобно тому, как архипелаг имеет общее основание. Он способен даже преодолевать разрывы между несовместимыми на первый взгляд интеллектуальными традициями или системами убеждений.

Во многих дисциплинах мы выделили широкий спектр потенциальных истин, но многие из них вряд ли подтвердятся. На карте знаний эти гипотезы подобны точкам у береговой линии – не полное неведение, но и не окончательная истина. Направляя ИИ к таким пограничным областям, мы можем с максимальной точностью определить наиболее перспективные пути исследования. Перебирая, тестируя, анализируя и снова выбирая в быстрой последовательности ИИ способен оценить миллионы возможных решений. Именно этот метод (который мы подробнее рассмотрим в главе 5) позволил DeepMind от Google не только освоить древнюю китайскую настольную игру го на человеческом уровне, но и в той мере, в которой машина смогла передать свое понимание людям расширить наши представления об этой игре. В отличие от ранних шахматных программ, полагавшихся на метод «грубой силы»³³, AlphaGo, изучив 30 миллионов ходов, продемонстрировала способность к абстрактному мышлению³⁴.

В этом смысле процесс обучения напоминает путь аспиранта-философа: годы интенсивного изучения формируют способность к глубоким рассуждениям. Подобно студенту на защите диссертации, DeepMind «обучилась» выходить за рамки заученного, выбирая в го ходы, которые, по ее оценкам, неизбежно приведут к победе. Более того, иногда модель ИИ выбирала ходы, которые за 4000 лет игры даже не приходили в голову человеку. Это стало возможным потому, что человеческий разум способен оперировать лишь четырьмя независимыми переменными одновременно, тогда как ИИ может обрабатывать бесчисленные вероятностные оценки в многомерном пространстве³⁵. Так ИИ получил доступ к принципиально новым идеям и впервые сделал их частью человеческого опыта.

Когда пользователь задает вопрос модели ИИ – например, вводя вопрос в ChatGPT, – он просит не просто найти информацию, как это делают традиционные поисковые системы, а синтезировать множество данных и на их основе сделать вывод. Работая в многомерном пространстве, система создает сложные представления информации, учитывая взаимосвязи внутри и между различными областями знаний. На основе этих сетевых структур она формулирует ответы.

Именно здесь проявляется удивительная способность ИИ: скорость и мощь LLM³⁶, освоивших колоссальные объемы данных. Поскольку точность ответов влияет на наши представления об истине, такие модели создают все более детальную «карту глубин» наших знаний.

ИИ, скорее всего, будет накапливать новые данные не только быстро, но и таким образом, что это откроет исследовательские перспективы. Играя в го, AlphaGo часто выбирала необычно открытые позиции. Некоторые модели ИИ, вероятно, научились предпочитать области с множеством вариантов, что позволяет гибко исследовать новые возможности.

Человечеству может быть трудно адаптироваться к этому новому способу познания, ведь нам пока неясно, будет ли этот процесс соответствовать нашему восприятию реальности. Возможно, нам потребуются инструменты, чтобы успевать за ИИ и направлять его. Или же мы создадим технологии, с помощью которых – неторопливо, как мы привыкли, – будем «перелопачивать грунт на дне того самого океана», тем самым расширяя наши скромные возможности познания. А может, решим вообще не выходить за пределы знакомого мира.

Существует и риск некорректного управления ИИ, который может накапливать знания разрушительными методами. Его способы открытий могут быть столь же мощными и хаотичными, как вулканические извержения, когда-то формировавшие наш мир. Словно новое извержение, ИИ способен разрушить старые представления, одновременно расширяя острова знаний. Он может даже сдвигать тектонические плиты на дне «океана», поднимая новые горы познания. Но поскольку эти знания будут оторваны от нашего опыта, они могут вызвать когнитивные кризисы, ведущие к более полному – хотя и не всегда желательному – пониманию реальности.

С другой стороны, если развитие ИИ будет соответствовать нашим целям, оно, подобно совершенствованию вычислительной техники, станет миссией, облегчающей все остальные задачи человека. Это возведет ИИ в ранг главной – или равной нам – силы во Вселенной, определяющей большинство значимых открытий следующего века. Оглядываясь назад, мы, возможно, осознаем, как мал был остров, который мы возделывали тысячелетиями, по сравнению с подводными рифами возможностей, скрытыми во тьме неведомого.