Пластмассовый бог

4.

Доктор Гейзенберг вошёл вслед за Артуром Шаломбери в просторный треугольный кабинет директора лаборатории, выдержанный в серых тонах. Огромная передняя стена имитировала стекло, открывающее вид на панораму Сатурна, наполовину скрытого горизонтом Титана. Конечно, они находились под землёй и ничего этого не могли видеть в действительности. Но все равно картинка производила впечатление. В углах стояло несколько цветочных ваз, из мебели – красный кожаный диван, книжная стенка, большой, темного дерева стол директора и несколько белых кресел, в одном из которых тут же устроился профессор. Сам директор, маленький, краснолицый, пухлый человечек, сидел за большим столом и тихо беседовал с кем-то, когда доктор вошёл. Оба встали и Гейзенберг увидел Павла Гринева. Они сухо поздоровались, директор вежливо представился:

– Меня зовут Альфред Хойк, я директор лаборатории, а Гринев, – он указал пухлой рукой на Павла и поправил маленькие очки. – руководитель программы. Вы будете работать в отделе программного обеспечения. Нет, нет, – директор хохотнул и взмахнул руками, – вы не будете заниматься программированием, это не ваш профиль. Это название для отвода глаз, как и большинство других названий. Вообще, мой вам совет: здесь, в лаборатории, ничему не удивляйтесь. Здесь такая аура секретности, что я уже скоро начну путаться в паролях!

И он весело расхохотался, при этом внимательно глядя на доктора щелочками глаз из-за маленьких стекол очков.

– Давайте ближе к делу, директор, – утомленно проговорил Шаломбери и подминул Гейзенбергу.

Гринев пригласил доктора сесть, тот удобно устроился в кресле и поинтересовался:

– Так чем же я буду заниматься?

Гринев и Хойк переглянулись. Павел взглянул доктору прямо в глаза и сказал:

– Вам нужно написать моральный кодекс.

Доктор переводил взгляд с одного лица на другое.

– Дайте угадать, для искусственного разума?

Директор Хойк кивнул, но Павел сказал:

– Не совсем так.

Они снова переглянулись и директор, активно жестикулируя, стал объяснять:

– Представьте себе, что некий… некое… ну, скажем существо похожее на человека, но человеком не являющееся, своего рода машина, робот, но не совсем в том смысле, в котором вы привыкли это понимать, так вот, это существо получает свободу действовать. – Тут директор поймал на себе грозный взгляд Павла, запнулся и шепотом сказал: – послушай, он должен знать такие вещи, как он будет работать? Так вот, – продолжил он, обращаясь вновь к доктору, – оно, это существо, получит свободу действовать. И ваша задача написать для него своего рода этическую модель поведения, которая будет мотивировать его, так скажем, к хорошему поведению. Повторюсь, это не должна быть программа, это будет лишь кодекс, совсем как у человека.

Из всего этого доктор понял одно и тут же выпалил свои соображения:

– Иными словами, вы здесь собираетесь дать свободу искусственному интеллекту? Это запрещено законом!

Директор горестно вздохнул. Павел посмотрел на него взглядом: «я тебя предупреждал», встал и отошёл к окну.

– Это не искусственный интеллект, доктор, – сказал он, не оглядываясь. – Это машина. Умная машина. Она получит свободу, это так. Но это всего лишь эксперимент. Мы хотим понаблюдать и сделать выводы. У машины будет разум и свободная воля. И моральный кодекс. Задача эксперимента – выяснить, как она будет поступать, как распорядиться этой свободой. У нее не будет никаких программ, но будет опыт. Это не искусственный интеллект в традиционном понимании. Это не робот с самосознанием. Это не мыслящая машина. Это нечто, чему мы и сами пока не придумали названия.

Павел прошёл к столу и остановился, сунув руки в карманы и глядя на доктора сверху вниз.

– Поймите, рано или поздно настанет день, когда машины начнут управлять людьми. "Пластмассовый бог" – это не расхожая байка. Ее придумали китайцы, но как и в любой сказке, в мифе, в ней есть зерно правды. Это зерно в том, что робот-правитель однажды выйдет на сцену. Но кто выведет его? Вот главный вопрос. Машины сегодня применяются всюду, они все сложнее и сложнее, они способны вести философские беседы о смысле жизни, они скоро будут решать задачи, которые человечество решить не способно! Наш эксперимент служит именно этой цели – убить страх перед машинами, научить людей доверять роботам целиком и полностью. Задача как раз для вас, не так ли? Вы ведь до дрожи боитесь умных машин и свято убеждены, что как только робот научиться ставить цели и решать сложные задачи он неминуемо взбунтуется. Мы хотим, чтобы результатом эксперимента стала возможность дать машинам свободный разум. – И он шутливо добавил, усмехнувшись: – Поможете нам?

Доктор Гейзенберг уже давно сидел неподвижно, не в состоянии шевельнуться. Да, у него была фобия, страх перед искусственным умом, эта болезнь осталась незамеченной никем. Он боялся умных машин, до холодного пота, до дрожи в коленках и в своё время он решил, что положит конец всем работам по развитию искусственного разума. Но ему, конечно, не дали этого сделать. После памятного доклада, в котором он говорил об угрозах и рисках, воротилы бизнеса погнали его из науки поганой метлой. И вот ему дают шанс вернуться, да ещё, можно сказать, окунают в самый эпицентр событий.

– Вы совершаете ошибку, – тихо, сдавленным голосом выговорил доктор. – Нельзя давать машине свободу принимать решения. Нельзя. Это приведёт к ужасным последствиям, вы себе даже не представляете…

– К каким, доктор? – Павел улыбался, но было заметно, что упрямство доктора бесит его. – К каким последствиям? К ядерной войне? Захвату Вселенной машинным разумом? Или из нас сделают скрепки для бумаг? Это все фантазии, поймите, если вы увидели в детстве «Терминатора» и он напугал вас до чертиков, это не может служить достаточным основанием для прекращения работ в области ИИ! Что может мыслящая машина против человека?

– Я не знаю. – Доктор прямо и открыто посмотрел на Павла, потом на директора. Те переглянулись. – Никто не знает. Мы не можем сказать, как поведёт себя машина. И уже одно это должно быть достаточным основанием для прекращения всех работ по развитию свободного искусственного разума.

– Вы ничуть не изменились, – мрачно выговорил Павел, опустился в кресло и побарабанил пальцами по подлокотникам. – Послушайте, доктор. Ведь вы специалист высочайшего класса по этике искусственного интеллекта. Вы знаете об этом все, вы лучший. И вы боитесь машин. Так это же хорошо! Именно это нам и нужно! Напишите для нас моральный кодекс, сделайте так, чтобы машины боялись поступать плохо, передайте машине свой страх!

– Машине не ведом страх, – зловеще проговорил Шаломбери, давно хранивший молчание. – Машине не ведомы чувства. У машин нет души, нет сердца, есть только процессор и провода. Они не сомневаются, они ничего не забывают, не раздумывают и никогда не останавливаются. И вы хотите этому чудовищу Франкенштейна дать свободу? Свободу мыслить, действовать, решать, ставить цели и достигать их? Не надо делать из роботов игрушки. Разумная машина, которая получит неограниченную свободу, не захочет служить людям. Вы научите ее формальной логике, дадите ей мораль, а она посмотрит, как живут люди и задаст себе вопрос, много вопросов: почему люди так скверно живут, убивают друг друга, грабят? Почему люди делают зло, сами нарушают кодекс, который дали машине? Что она решит, не найдя ответов на все эти вопросы? Вы можете предположить? Не сочтёт ли она нас недостойными жить?

– Это демагогия, Артур, пустая брехня, – устало сказал Хойк.

Павел фыркнул, помотал головой. Он тоже устал от этого разговора, доктор надоел ему и он уже жалел, что притащил его сюда.

– Доктор, – сказал он и твёрдо взглянул Гейзенбергу в глаза. – Вы будете работать?

Тот весь обмяк, почувствовал себя выжатым, как лимон. Достал платок и вытер лоб, щеки, гладко обритый подбородок. Сложил платок, спрятал в карман. И вкрадчиво осведомился:

– Могу я увидеть вашу машину?

Они снова переглянулись, Павел и директор, и посмотрели друг на друга весьма выразительно.

– Н-нет, – с запинкой ответил Павел. – Понимаете, здесь, в лаборатории, разные отделы не сообщаются друг с другом из-за секретности. У вас допуск только для этого уровня, а пройти в испытательный центр или, тем более, в конструкционную лабораторию вам не дозволяется. Во всяком случае, пока.

– И как же я должен работать, не имея представления о том, для кого мне писать программу?

– Вам не нужно знать ничего сверх того, что мы с директором уже вам рассказали. У вас достаточно сведений. И вам не нужно писать программу, ваша задача написать свод законов, вот и все. Возьмите Аристотеля, Бэкона, Тургенева в конце концов и сочините что-нибудь на современный лад.

– Мне показалось. – Доктора вдруг осенила внезапная мысль. Он прикусил губу и отвёл глаза, почувствовав быстрый проницательный взгляд Гринева. Он раздумывал секунду продолжать или не стоит. – Мне показалось, вы сказали, что… что вам нужны инструкции, чтобы отличать плохое от хорошего. Но вы ничего не сказали о взаимодействии с людьми. Каким образом ваша машина будет взаимодействовать с людьми?

Гринев как будто ждал этого вопроса.

– Никаким, – тяжело уронил он и не добавил ни слова.

– Простите, что… – заикнулся было доктор, но вдруг его перебил Шаломбери:

– Довольно вопросов, доктор! Вы и сами многое узнаете, только позже, а до поры до времени не торопите события!

Доктор кивнул. Он и сам уже ощущал большую усталость.

– Так вы согласны? – с нажимом произнес Павел. – Или послать за вашим чемоданом?

– Я согласен, – чуть слышно выговорил доктор. – Согласен. Да, я возьмусь за эту работу. Но мне нужны гарантии. Когда я закончу работу, вы покажете мне вашу машину. Иначе я завтра же покину Титан.

5.

Я наливал кофе на первом этаже Департамента, когда ко мне подлетел бравый сержант Зэрба и заорал:

– Шеф, возьми тебя леший, где тебя носит? Тебя в кабинете уже четверть часа дожидается какая-то важная шишка!

Я попробовал кофе, поморщился, добавил сахару, старательно перемешал содержимое стакана ложечкой и только тогда обратил свое внимание на нервного сержанта:

– Что стряслось?

Тот терпеливо дожидался, когда я повернусь к нему.

– Не знаю, он говорит по поводу Ассамблеи…

Я открыл дверь кабинета, на которой качнулась скромная табличка «Георгий Лесной». Мы с сержантом вошли в кабинет. За моим столом, небрежно развалясь в кресле, сидел невозмутимый Артур Шаломбери.

– Профессор? – Я поднял брови без особенного удивления. – Вы по делу или это светский визит?

Шаломбери смерил меня одобрительным взглядом и сказал снисходительно:

– Скажи, Джерджи, что тебе известно о деятельности Ассамблеи?

Я сделал сержанту знак удалиться, сел в кресло, поставил стакан на стол и сцепил пальцы. Я улыбнулся Шаломбери. У меня всегда вызывала уважение честность, с которой профессор, разговаривая со мной по-английски, пытался произнести мое русское имя так, как его произносят у меня дома. У него это плохо получалось, но он старался.

– Вопрос не из праздного любопытства? – спросил я.

Профессор отрицательно помотал головой и посмотрел на меня серьезно. Я пожал плечами.

– Ну… это международная организация по контролю за технологическим прогрессом. В народе ее называют «страшный суд», Ассамблея решает каким изобретениям выдавать патент, а каким – нет, и какие эксперименты и исследования в какой области запретить или разрешить.

– Очень емкое и исчерпывающее объяснение, – похвалил Шаломбери. – Да, действительно, именно этим и занимается Ассамблея. Запрещает и разрешает. Вероятно, для тебя не секрет, сколько запрещённых исследований ведётся нелегально?

– Мы вскрываем до трехсот подпольных лабораторий ежегодно, так называемые «стелс-предприятия», работающие под прикрытием частных компаний и занимающиеся разработкой незаконных технологий.

– Хорошо. – Профессор в задумчивости помолчал. – Хорошо. Знаешь такую фирму «Заслон»?

Он бросил на меня быстрый, проницательный взгляд.

– Да, конечно. Они вооружают русский флот.

– Я тоже до недавнего времени так думал. А когда узнал у меня не то что челюсть отпала… одним словом, я убедился, что твоя контора ни черта не умеет работать. Вы тут гоняетесь за мухами, пока в вашей гостиной резвиться слон. Черт побери, Джерджи, ты возглавляешь Интерпол! И я делаю для тебя такие открытия!

– И чем же занимается твой «Заслон»? – спокойно осведомился я.

– Не только вооружениями и не только для флота. У них на Титане подземная лаборатория. Очень большая. Они готовят кое-какой эксперимент. Это прорывные технологии. Исследования проводятся в области искусственного интеллекта. Как ты понимаешь, это запрещённые исследования. Сознание и творчество. "Пластмассовый бог", слыхал?

Добавил он и сделал значительное лицо.

– Слыхал. Но ведь… – заикнулся было я.

– Да, – перебил он и тонко улыбнулся. – Все верно, Титан свободная зона, некоторые законы там теряют силу… но мы должны покончить с тем, что делает «Заслон» на Титане. Его деятельность необходимо прекратить.

– И что, нужны доказательства? Нужно забраться туда и сделать пару фотографий?

– Нет, – сказал Шаломбери и я поднял взгляд, почувствовав, как изменился его тон. Он тонко улыбнулся. – Все гораздо серьезнее.

– В чем дело?

– Фотографии я и сам тебе предоставлю. Только вот будет ли от них толк? – Мое лицо приняло нехорошее выражение и Артур заторопился объясниться: – хорошо, слушай, я работаю в этой лаборатории. И у меня есть основания предполагать, что руководство Ассамблеи в курсе происходящего на Титане и, более того, обеспечивает финансирование и секретность проекта. Вот так. Ты внесешь меня в программу защиты свидетелей?

Я усмехнулся.

– Во-первых, у тебя скорее всего нет доказательств. А во-вторых… знаешь, я слыхал, у тебя есть великолепный личный кораблик, на котором, по слухам, можно при желании прожить до старости ни в чем себе не отказывая.

– Эт-то верно, – цокнул языком довольный Шаломбери. – Только вот не люблю я одиночество…

– Так что ты хочешь от меня? – спросил я. – Защиты? Думаешь, Ассамблея следит за тобой? На Титан я заброшу ребят, так уж и быть. Покопаем. Но чур никакой политики!

– Есть одна существенная проблема, – протянул профессор и я напрягся. – Я боюсь не столько Ассамблеи, сколько того, что она может сотворить… понимаешь, «Заслон» – это русская контора. А русские, как ты знаешь, не сотрудничают с Интерполом. Понимаешь, чем тут пахнет? Международным конфликтом в космосе, мать его!