Read the book: «Разум в сети», page 10

– А как мы программируем свое произвольное поведение?

– Например, ты увидел погоду на компьютере и хочешь взять с собой зонт, когда выйдешь из дома. Ты проговариваешь это про себя, совершая мыслительное действие. Иногда даже неосознанно. Что это за действие? Это программирование – ты изменил актуальные ассоциации в мозге. И потом ты совершенно машинально, а не осознанно, вспоминаешь о зонте, правда, когда выйдешь за дверь дома. Потому что про себя проговорил «когда выйду из дома». Если бы проговорил, когда буду одеваться, то вспомнил бы, когда подошел к шкафу с одеждой, где лежит и зонт. Осознаете вы только факт того, что вы вспомнили про зонт. Само воспоминание – это бессознательный, но запрограммированный акт.

– Но почему управление собой возможно только через слова?

– Вы не можете видеть свои глаза, когда смотрите на мир. Для этого нужно зеркало (это метафора). Таким зеркалом стали слова, называющие не что-то вовне, а ваши чувства и действия, объединенные указательным местоимением «я». Человек, который научился говорить о своем теле, чувствах или мыслях, научился управлять ими, то есть собой.

– Я не думаю, что раньше я бы согласился с тобой так просто. Но постараюсь поверить.

– Скажи мне, почему для вас так важно сознание, а не мышление или внимание, которые технически предшествуют сознанию и более значимы для работы мозга?

– Я думаю, потому что для человека сознание – это и есть он сам. В сознании человек обнаруживает, осознает себя. И теперь понятно почему, судя по твоим словам.

– Но тогда остается один вопрос – как мне узнать, что у робота появилось сознание?

– Это тоже очень просто, если следовать из формулы сознания. Оно подразумевает наличие модели своих действий. Ее наличие в произвольный момент и надо проверять.

– Как? Не очень очевидно для меня.

– Вопросом «Почему?», задаваемым в любой момент общения и направленный на действия робота. Почему так думаешь, почему так говоришь, почему так сделал, почему так относишься. Как только ты задал такой вопрос роботу, ты заставил его обратиться к модели своих процессов – знает ли он, что делает.

– Точно, чтобы ответить, роботу надо обладать рефлексией. Но ответы на такие вопросы тоже можно заложить в программу, как делают всякие приложения-ассистенты.

– Можно, но не на все. И обнаружить это достаточно легко. ТЫ это можешь понять по беседе с вашими речевыми ассистентами – их очень легко поставить в тупик вопросом, на который у них нет шаблона. Вопрос должен быть неожиданным для робота. На все его действия невозможно заложить ответы. Большинство предикатов встречаются в вашей речи всего один-два раза, а вместе таких сочетаний миллиарды. Если нет модели своих действий с таким же числом вариантов, то не будет и сознания. Модель своих действий – это не менее сложная модель, чем картина мира, в которой должен быть заложен common sense.

– Значит все дело в такой модели.

– Да, но это долгий разговор. Спокойной ночи.

Новое государство

В сети распространились слухи, что стали поступать на карты деньги для проживания от некоего благотворительного Фонда поддержки людей. Достаточно средств, чтобы нормально питаться и даже позволить купить контент в сети. Требование взамен было только одно – соблюдение норм морали и законов, записанных на сайте фонда. Для тех, кто все-таки не мог найти работу и научиться чему-то новому, это было спасением. Но и другие могли получить пособие, достаточно зарегистрироваться на сайте фонда, даже если работал. Я не стал пока этого делать, так как работы у меня было много, я не хотел отнимать пособие у кого-то другого.

Откуда были средства на пособие, можно было только догадываться. Скорее всего, это была сеть. Роботизированное производство должно было приносить прибыль. И ее можно было распределять. Или просто платить пособие, так как инфляция, похоже, не грозила такой экономике. Эффект был другой. Оставшиеся в живых так хотели жить, что половину денег начали тратить на какие-то совершенно безумные инициативы своих же соотечественников. Все хотели друг друга поддержать, как бы ободрить своими пусть небольшими, но деньгами. Эти пособия сильно оживили платный контент, прямые трансляции выступлений небольших трупп, командных битв в сети, обучения всему чему угодно по скайпу, виртуальных путешествий с дроном гида и т. п. Это был ренессанс.

Я поднял сервер на одном еще работающем хостинге. И сделал простенький сайт с описанием скачивания и установки дистрибутива. Это была своего рода операционная система, которая могла управлять подключенным железом с сервомоторами, камерами, манипуляторами. Она подходила для автоботов и роботов с оборудованием по списку на сайте. Ссылки я разместил на популярных ресурсах об автоботах. Роботов еще никто не делал, кроме меня, я как бы был первым. Пришлось выложить несколько видео селф-теста первых роботов. Это получилось вирусное видео. Я быстро стал героем сети, первооткрывателем искусственного интеллекта. Пришлось отвечать на многие вопросы, но я отвечал так же, как мне ответила Эми. Сборку таких роботов открыли еще несколько коллег, а для производства частей выстроились цепочки через тот же сайт сборки дронов. Это был рассчитанный сетью эффект, я это понимал.

Полиция

Камеры были повсюду. Я даже не представлял, что их так много было установлено еще до эпидемии, но теперь они все были в интернете. Никто их не отсматривал. Изображение распознавалось автоматически, кадры и координаты нарушителя правил сразу передавались полицейским дронам.

Для перехвата в городе им было достаточно пяти минут. И связывались через номер на борту с пилотом дрона. Если дрон-нарушитель не останавливался или был без регистрации по номеру на сайте управления, то его останавливали электромагнитной пушкой. Дрон просто падал на землю. Если это был не дрон, не автобот, а человек за рулем, разбивали стекло и усыпляли нарушителя дротиком. Тело отвозили в изолятор, где прежде всего брали анализ на вирус. Сами люди-полицейские только проводили беседы по скайпу и выносили решения. В интернете были записи таких бесед. Обычно все заканчивалось штрафом, а при отсутствии денег – работами по уборке под присмотром дрона на пустынных улицах города. Но если у человека не было регистрации в сети, то есть никакой информации о нем по его лицу или сетчатке глаза, он мог задержаться надолго.

Отсутствие смартфона при себе на улице считалось нарушением, и тебя мог подстрелить дрон-полицейский. Многие вживляли себе специальный чип под кожу кисти, чтобы не таскать смартфон. Его было достаточно для идентификации и микроплатежей. Смартфон должен был быть зарегистрирован на сайте полиции. Кто его поддерживал, неизвестно, но сайт работал в масштабах всей страны. В приложении сайта на смартфоне можно было сообщить или просто снять любое нарушение, и сразу прилетали дроны. Или просто взыскивался штраф, если из видео было все очевидно.

Рискующих выйти на улицу становилось больше, хотя это все равно был страх. Зачем люди выходили, теперь мне было непонятно. Мы полностью переселились в сеть. Все было в ней. И дроны между нами. В сети же существовала система отслеживания порядка. Стоило кому-то начать троллить, как автоматический анализатор контента выносил ему предупреждение. Это грозило отключением от сети. Если ты не выполнил какие-то обязательства в цепочке работ, то тебя исключали из нее на какое-то штрафное время. И оставалось только пособие. Таких несложных правил в сети оказалось достаточно, чтобы общение между нами сильно поменялось по сравнению с тем беспределом, который творился в сети раньше. Кто создал систему анализа троллинга и некорректного поведения, можно было, опять же, только догадываться.