Read the book: «Мир-фильтр. Как алгоритмы уплощают культуру»

© 2024 by Kyle Chayka

© Е. Поникаров, перевод на русский язык, 2025

© А. Бондаренко, художественное оформление, макет, 2025

© ООО “Издательство Аст”, 2025

Издательство CORPUS ®

Художественное оформление и макет Андрея Бондаренко

* * *

Джесс

Возможно, вы не используете социальные сети, но они используют вас.

Эйлин Майлз

Суть многих вещей в Америке – “или так, или умри”.

Джордж Уильям Троу

Йозеф Фридрих Фон Ракниц. Предположительная схема механического турка. 1789

Введение
Добро пожаловать в Мир-фильтр

Механический турок

В 1769 году государственный служащий империи Габсбургов по имени Иоганн Вольфганг Риттер фон Кемпелен создал устройство, прозванное механическим турком. Этот подарок должен был произвести впечатление на императрицу Священной Римской империи Марию-Терезию Австрийскую. Почти что волшебная машина фон Кемпелена умела играть в шахматы и побеждать человека – всего лишь с помощью внутренних шестеренок и ремней. Как видно на исторических гравюрах, механический турок представлял собой большой деревянный ящик шириной около четырех футов, глубиной два с половиной фута и высотой три фута¹; за его дверцами можно было разглядеть сложный внутренний механизм. Сверху располагался человекоподобный автомат: над шахматной доской наклонялась фигура размером с ребенка – халат, тюрбан, впечатляющие усы (этот ориенталистский архетип объединял в глазах европейцев чужака-человека и чужака-машину). Турок протягивал над доской левую руку, брал фигуры и передвигал их. Машина сигналила после сделанного хода, определяла, когда противник жульничает, а лицо автомата могло менять выражение. Механический турок фон Кемпелена настолько всех одурачил, что во время своих путешествий по миру сразился с Бенджамином Франклином в 1783 году и Наполеоном Бонапартом в 1809 году. Оба ему проиграли.

Однако на самом деле механический турок не умел играть в шахматы. Не было ни искусственного интеллекта, управляющего автоматоном, ни кучи шестеренок, механически определяющих следующий ход. Внутри корпуса сидел невысокий человек, хорошо игравший в шахматы. Благодаря системе магнитов он мог отслеживать расположение пешек, коней и королей на доске². Используя систему рычагов и тросиков, игрок управлял рукой автомата: брал фигуры и передвигал их. Дым от свечки, которую спрятанному шахматисту приходилось использовать для освещения, уходил через скрытые отверстия в задней части машины³. Все внутренние механизмы не играли никакой роли, а лишь создавали видимость. Когда дверцы открывались и зрители заглядывали внутрь в рамках демонстрации ложной прозрачности, они не видели оператора: тот скрывался, используя передвижное сиденье – нечто вроде ложного дна в реквизите фокусника.

Механический турок создавал впечатляющую иллюзию машины, которая могла сама принимать решения и выглядела умнее человека, в то время как на самом деле автоматом управлял именно человек. Некоторые зрители подозревали обман. “Называть это автоматом – жульничество, и это заслуживает публичного осуждения”, – писал скептически настроенный британский автор Филипп Тикнесс в книге 1784 года, утверждая, что машиной управляли “невидимые сообщники”. Тикнесс продолжал: “Шахматист-автоматон – это человек в человеке; из чего бы ни состояла его внешняя форма, внутри он содержит живую душу”. Конечно, Тикнесс был прав, но тайна полностью раскрылась только в 1860 году, когда машина уже объехала Соединенные Штаты и попала в коллекцию Джона Кирсли Митчелла, личного врача Эдгара Аллана По⁴. Оригинальный автоматон погиб во время пожара, а сын Митчелла написал статью для журнала Chess Monthly. Однако то, что машина оказалась чистой иллюзией, только увеличило значимость механического турка.

За два века, прошедшие с момента его изобретения, это устройство стало распространенной метафорой для описания технологических манипуляций. Она олицетворяет человека, скрывающегося за фасадом, казалось бы, передовых технологий, а также способность таких устройств вводить нас в заблуждение относительно своей природы. (В 2005 году компанияAmazon назвала “Механическим турком” свой сервис, в котором цифровые задачи, такие как расстановка тегов для фотографий или очистка данных, выполняются с помощью невидимого рынка аутсорсингового человеческого труда.) Механический турок подобен герою “Волшебника страны Оз”, прятавшемуся за занавесом, – всезнающая таинственная сущность, которая в конечном итоге оказывается чем-то гораздо более обыденным и понятным. Машина и трюк дополняют друг друга. Благодаря двойному обману турку удается “все время выигрывать” – как писал немецкий философ Вальтер Беньямин, размышляя об этом устройстве в эссе 1940 года.

В последнее время я довольно часто думаю о механическом турке, потому что он напоминает мне об одном технологическом призраке, преследующем нашу эпоху начала XXI века. Имя этому призраку – “алгоритм”.Алгоритм – это сокращение от “алгоритмических рекомендаций”, цифровых механизмов, которые поглощают кучу пользовательских данных, проталкивают их через набор уравнений и выплевывают результат, считающийся наиболее релевантным для заданных целей. Алгоритмы определяют сайты, которые мы находим с помощью Google; тексты, которые мы видим в ленте Фейсбука⁵; песни, которые бесконечным потоком проигрывает Spotify; людей, которых мы рассматриваем как потенциальных партнеров в приложениях для знакомств; фильмы, рекомендуемые на главной странице Netflix; персонализированную ленту видеороликов, которую выдает ТикТок; порядок постов в Твиттере⁶ и Инстаграме; папки, по которым автоматически сортируется наша электронная почта; рекламу, которая преследует нас по всему интернету. Алгоритмические рекомендации в значительной степени обуславливают наше взаимодействие с цифровым пространством – учитывая наши предыдущие действия и выбирая те фрагменты контента, которые в наибольшей степени соответствуют нашим моделям поведения. Они призваны интерпретировать наше поведение, а затем показывать нам то, что мы хотим увидеть.

Сегодня мы постоянно сталкиваемся со всевозможными алгоритмами, каждый из которых пытается угадать, о чем мы думаем, что ищем и чего желаем – еще до того, как даже мы сами осознаем ответы на эти вопросы. Когда я пишу электронное письмо, мое приложениеGmail предугадывает слова и фразы, которые я пытаюсь набрать, и пишет их за меня, словно читая мои мысли. Сервис Spotify выводит на экран музыкантов и альбомы, которые, по его прогнозам, я, скорее всего, буду слушать, и в итоге я часто выбираю их просто по привычке. Когда я разблокирую свой телефон, там уже висят фотографии из прошлого, которые я, возможно, захочу посмотреть – названные “воспоминаниями”, словно они существуют в моем подсознании; рядом мне предлагают и приложения, которые я, возможно, захочу открыть, и друзей, которым я, возможно, захочу написать сообщение. Инстаграм подсовывает доску настроений из того, что его алгоритм считает моими интересами: фотографии еды, снимки зданий, повторяющиеся нарезки популярных телепередач. ТикТок предлагает мне необъяснимую лавину видеороликов о том, как люди меняют плитку у себя в ванной, и я необъяснимым образом продолжаю их смотреть, хотя мне это ни к чему. Но ведь не может же моя идентичность сводиться к культурному потреблению?

Раньше все эти мелкие решения принимали люди: редактор газеты решал, какие материалы поместить на первую полосу; фоторедактор журнала отбирал фотографии для публикации; ответственный за программу фильмов выбирал, какие картины показывать в кино; диджей независимой радиостанции составлял плейлисты из песен, соответствующих его собственному настроению и особой атмосфере того или иного дня или места. Хотя эти решения, конечно, зависели от различных социальных и экономических сил, человек, отвечающий за них, обеспечивал базовый уровень качества и даже безопасности; однако при ускоренной подаче в интернете этот уровень может отсутствовать.

Алгоритмические рекомендации – это новейшая итерация механического турка: серия человеческих решений, облеченных в форму технологических, автоматизированных и получивших нечеловеческие масштабы и скорость. Эта технология, разработанная и поддерживаемая инженерами монополистических компаний и работающая на тех данных, которые мы – пользователи – постоянно предоставляем, заходя каждый день, одновременно создана нами и нами же управляет, манипулируя нашим восприятием и вниманием. Алгоритмвсегда побеждает.

Открытие мира-фильтра

Название этой книги – “Мир-фильтр” (Filterworld) – мой термин, который означает обширную, взаимосвязанную и в то же время разрозненную сеть алгоритмов, влияющих на нашу сегодняшнюю жизнь и оказывающих особенно сильное воздействие на культуру и способы ее распространения и потребления. Хотя Мир-фильтр также изменил политику, образование, межличностные отношения и многие другие аспекты жизни общества, я сосредоточился только на культуре. Визуальные искусства, музыка, кино, литература или хореография – алгоритмические рекомендации и наполняемые ими ленты опосредуют наше отношение к культуре, направляя внимание на то, что лучше всего вписывается в структуру цифровых платформ. Автоматические рекомендации – это фильтры, которые отделяют то, что привлекает внимание, от того, что игнорируется, и тонко искажают внешний вид этих вещей, подобно фильтру в Инстаграме, усиливающему одни свойства и ослабляющему другие. Культурные успехи Мира-фильтра очевидны. К ним относятся такие явления, как “кантрифицирующие”⁷ действия ТикТока, который в 2018 году привел к мировой славе песню рэпера Lil Nas X “Old Town Road”; клишированные тенденции в дизайне, затопившие Инстаграм, такие как минималистичные интерьеры и однообразные логотипы со шрифтами без засечек, которые модные бренды взяли на вооружение в последние годы; вызывающий ярость поток бессмысленных споров в Твиттере.

Алгоритмические рекомендации диктуют жанры культуры: они поощряют определенные шаблоны продвижением в лентах, исходя из того, что сразу привлекает наибольшее внимание. В 2018 году писательница Лиз Пелли определила один из таких жанров – “стримбейт”⁸: “приглушенный, среднетемповый, меланхоличный поп”, характерный для Spotify. В 2019 году писательница Джиа Толентино аналогичным образом определила “лицо Инстаграма” – “отчетливо белое, но этнически неопределимое” сочетание черт, которое стало возможным благодаря пластической хирургии и обрело популярность на платформе: “Кошачьи глаза и длинные мультяшные ресницы; маленький, аккуратный нос и полные, пухлые губы”. Появился термин “голос ТикТока”; он обозначает скомканную монотонную протяжность многих закадровых голосов в видеороликах ТикТока. Каждая платформа вырабатывает свой собственный стилистический архетип, который определяется не только эстетическими предпочтениями, но и расовыми, гендерными и политическими убеждениями, а также фундаментальной бизнес-моделью корпорации, которой она принадлежит.

Процветающая в Мире-фильтре культура, как правило, доступна, интерактивна и совместна, она окружает вас. Ею можно делиться с широкой аудиторией, она сохраняет свое значение для разных групп, которые слегка корректируют ее в своих целях. (В Мире-фильтре все должно быть каким-то мемом – например, шуткой, которая поддается бесконечной переделке, или картинкой, оптимизированной для распространения по интернету.) Эта культура также является приятной или достаточно средней, чтобы ее можно было проигнорировать и ненавязчиво задвинуть на задний план, где она зачастую остается незамеченной, пока вы не начнете ее искать. Однако после того, как вы ее заметите, вы, как правило, обнаруживаете ее повсюду, как, например, было с внезапной популярностью зимой 2018 года “курткиAmazon” – пуховика, который рекомендовали участникам сервиса Amazon Prime на онлайн-платформе компании – еще одном алгоритмическом пространстве. В последующие годы эта оригинальная куртка Orolay вдохновила производство десятков реплик и копий, включая вариант от самой Amazon. Культура Мира-фильтра в конечном счете однородна и характеризуется всепроникающим чувством одинаковости, даже если ее артефакты не являются буквально одинаковыми. Она воспроизводит себя вплоть до скуки.

Я начал замечать эффекты Мира-фильтра в кофейнях – примерно в 2015 году. Когда в 2010-х годах я путешествовал по разным городам в качестве журналиста-фрилансера – Киото, Берлин, Пекин, Рейкьявик, Лос-Анджелес, – мне всегда попадалось кафе, которое походило на другие, виденные мною в других странах, и это вызывало ощущение дежавю. В этом типовом кафе, как я стал его называть, стены облицованы белой плиткой “под кирпич”; стоят широкие столы из переработанной древесины и стулья в стиле модерн середины века, имеющие хлипкие ножки; подвесные светильники снабжены эдисоновскими лампочками. “Инстаграмная” эстетика. И вне зависимости от города и времени суток в этом кафе неизменно сидят люди, похожие на меня: фрилансеры за ноутбуками, зачастую просматривающие социальные сети. Почему же интерьеры выглядят и функционируют одинаково в разных географических точках? Такая строгая одинаковость выходила за рамки обычных признаков глобализации. Мне захотелось найти ее первопричину.

Много путешествующий бизнес-консультант – миллениал из Берлина по имени Игорь Шварцман, который также заметил типовые кафе, описал мне этот феномен как международную “гармонизацию вкусов”. Благодаря алгоритмическим цифровым платформам – таким как Инстаграм,Yelp и Foursquare – все больше людей по всему миру учатся искать сходных продуктов и впечатлений в физической жизни. Через свои ленты они потребляют сходные виды цифрового контента, независимо от того, где живут, и в результате их предпочтения формируются в соответствии с этим образом. Ими манипулируют алгоритмы: приложения направляют их через физическое пространство в реальные места, которые обрели популярную в цифровом мире эстетику, завоевав внимание и рейтинги других пользователей. Более высокие рейтинги способствуют еще большему алгоритмическому продвижению и, следовательно, увеличению числа посетителей. Однако, несмотря на интернациональность этих эффектов, в их основе лежат западные платформы, которые базируются в основном в крохотном американском регионе – Кремниевой долине, а контролирует их горстка непостижимо богатых белых мужчин – абсолютная противоположность разнообразия.

Теоретик литературы индийского происхождения Гаятри Чакраворти Спивак писала в 2012 году: “Глобализация происходит только в капитале и данных. Все остальное – это антикризисные меры”. В эпоху Мира-фильтра цифровые платформы – Фейсбук, Инстаграм и ТикТок – стали накапливать и распространять по всему миру данные – в виде активности пользователей и их капитала, в виде серверных ферм и алгоритмических технологий, захватив миллиарды пользователей. Однородная культура – неизбежная реакция на ущерб от этого распространения, способ справиться с ним или приспособиться к нему. Долгое время я полагал, что эстетика типового кафе постепенно исчезнет, что это, возможно, не более чем преходящий тренд. Однако она только укрепилась. С расширением цифровых платформ распространилась и однородность, к которой они приводят.

Мир-фильтр и его гладкая одинаковость могут вызывать захватывающее, почти изнуряющее чувство тревоги. Однородность кажется неизбежной и отчуждающей, даже если она широко позитивно рекламируется. “Надзорный капитализм”, как назвала его исследовательница Шошана Зубофф, – это концепция, в рамках которой технологические компании монетизируют постоянное поглощение наших персональных данных, это усиление экономики внимания. И все же, несмотря на все эти данные, алгоритмы часто понимают нас неправильно, связывая не с теми людьми, рекомендуя не тот контент, поощряя в нас привычки, которые мы не желаем иметь. Сеть алгоритмов принимает за нас множество решений, а у нас практически нет возможности ответить ей или повлиять на ее работу. Этот дисбаланс порождает состояние пассивности: мы потребляем то, что рекомендуют нам ленты, не вникая в суть материала. Мы также подстраиваем свою деятельность в Сети под предлагаемые стимулы. Мы пишем твиты, публикуем посты в Фейсбуке и делаем фотографии для Инстаграма в том виде, который, как мы знаем, привлечет внимание и соберет лайки или клики, приносящие доход технологическим компаниям. Научные исследования показали, что эти лайки вызывают прилив дофамина в нашем мозгу, а, значит, погоня за ними и соблюдение предложенных нам правил вызывает привыкание.

Другая сторона нашего алгоритмического беспокойства – состояние оцепенения и невосприимчивости. Выброс дофамина становится несоразмерным, а шум и скорость ленты подавляют и перегружают. Наша естественная реакция – искать культуру, которая приветствует небытие, укрывает и успокаивает нас, а не ставит проблемы и не удивляет, как это должны делать яркие произведения искусства. Нас становится все труднее зацепить; истощается даже наша способность проявлять эмоции, интерес и любопытство.

Уплощение культуры

Чтобы понять, как Мир-фильтр формирует наш опыт, нужно понять, как он появился. Доминирование алгоритмических лент – относительно недавнее явление. На заре существования таких социальных сетей, как Твиттер, Фейсбук, Инстаграм и Тамблер, ленты контента на их сайтах отличались более или менее хронологическим порядком. Вы сами выбирали, с кем дружить или на кого подписываться, и посты этих людей появлялись в порядке публикации. В 2010-х годах число пользователей этих платформ выросло до миллионов и миллиардов, и они стали общаться с большим количеством людей одновременно, поэтому полные хронологические ленты стали громоздкими и не всегда интересными. Вы могли пропустить популярный или интересный пост только потому, что не заходили на платформу в нужное время. Поэтому в лентах постепенно увеличивалась процентная доля рекомендуемых постов, расположенных не в хронологическом порядке. Источниками этих алгоритмически выделенных постов могут быть даже аккаунты, на которые вы не подписаны, а их темы могут быть вам безразличны; они встраиваются в вашу ленту только для того, чтобы при открытии приложения там что-нибудь было.

Мотивом для такой трансформации послужило не столько удобство использования, сколько выгода. Чем больше времени пользователи проводят в приложении, тем больше данных они производят, тем легче их отследить и тем эффективнее можно продать их внимание рекламодателям. С течением времени ленты становились все более алгоритмизированными – особенно в переломный момент середины 2010-х годов.

ТикТок, запущенный в США в 2018 году, в качестве основной инновации сделал свою основную лентуFor You (“Для вас”) почти полностью алгоритмической. В этом приложении пользователи следили не столько за теми, на кого подписались, сколько за контентом, подобранным для них алгоритмом рекомендаций (отсюда и бомбардировка моей ленты видеороликами про укладку плитки в ванной). ТикТок стал самой быстрорастущей социальной сетью в истории, заполучив свыше 1,5 миллиарда пользователей менее чем за пять лет, и его конкуренты, пытаясь наверстать упущенное, последовали его примеру с алгоритмизацией. В 2020 году Инстаграм добавил функцию видеороликов Reels, основанную на рекомендациях, а Твиттер после покупки Илоном Маском ввел в 2022 году колонку For You (“Для вас”) с рекомендуемыми твитами. И этот алгоритмический бум не демонстрирует никаких признаков спада – по крайней мере для крупных корпораций, на долю которых приходится большая часть трафика в интернете.

Теперь живых блюстителей и хранителей культуры, редакторов и диджеев заменили алгоритмические аналоги. Хотя такая трансформация понизила многие культурные барьеры для входа (поскольку теперь каждый может обнародовать свою работу в интернете), она также привела к своего рода тирании данных в реальном времени. Единственной мерой оценки культуры стало внимание, а то, что получает внимание, диктуется уравнениями, разработанными инженерами Кремниевой долины. Результатом такого алгоритмического контроля является повсеместная уплощенность, которая проявляется во всех областях культуры. Под уплощением я подразумеваю придание однородности, а также упрощение: сильнее всего продвигаются наименее неоднозначные, наименее подрывные и, возможно, наименее значимые части культуры. Уплощенность – это наименьший общий знаменатель, усредненность, которая никогда не была отличительным качеством самых значимых культурных достижений человечества.

Метафора Мира-фильтра встретилась мне в романе японского писателя Ясуо Танаки “Слегка хрустальные”, вышедшем в 1980 году. Эта книга – не драматическое повествование, а скорее список модных марок, брендов, ресторанов и бутиков. Автор в мельчайших подробностях описывает потребительскую среду в Токио, окружающую молодую женщину по имени Юри, рассказывает о том, что героиня покупает, а также о различных устройствах, которыми она пользуется, – литературный эквивалент аккаунта популярного блогера в Инстаграме. Роман начинается с того, что Юри просыпается и включает стереосистему рядом с кроватью. Она нажимает на кнопку, чтобы радио переключилось на FEN – станцию, передающую американскую рок-музыку. В сноске книга философствует о технологии подобной кнопки: это “удобная функция, позволяющая заранее задать частоту нужной вам станции”, хотя при этом “немного утрачивается безумная радость от ручной настройки”.

Автор обращает внимание на разницу между нажатием кнопки для мгновенной настройки на станцию и покручиванием ручки влево-вправо, когда вы пробиваетесь сквозь помехи и в конце концов обнаруживаете идеальное аналоговое положение. Возможно, второй вариант менее точен и удобен, зато он несколько более волшебен и человечен. В нем нет предустановки, нет заранее определенного решения. Культура Мира-фильтра – это культура предварительных установок, устоявшихся шаблонов, которые повторяются снова и снова. Подобная технология ограничивает наше потребление определенными способами, выйти за рамки которых уже не получится. Когда столь многое зависит от способности культуры распространяться через цифровые каналы, уходит, как выражается Юри, “безумное веселье” – то есть исчезает определенная степень оригинальности, небывалости, творчества и неожиданности.

Цель этой книги – не просто составить схему Мира-фильтра и описать его влияние, но и деконструировать его. Сделав это, мы сможем определить пути выхода из него и развеять вездесущую атмосферу тревоги и апатии, которую породили алгоритмические ленты. Мы можем избавиться от их влияния, только поняв их – открыв ящик механического турка и обнаружив внутри оператора.

Глава 1
Взлет алгоритмических рекомендаций

Первые алгоритмы

Алгоритм как термин просто описывает некое уравнение: любую формулу или набор правил, которые выдают желаемый результат. Самые ранние примеры восходят еще к древнему Вавилону, располагавшемуся на территории современного Ирака. На клинописных табличках, датируемых 1800–1600 годами до н. э., записаны алгоритмы для таких целей, как вычисление длины и ширины резервуара, если известны его глубина и объем вынутого грунта. По словам математика Дональда Кнута, вавилоняне “представляли каждую формулу в виде пошагового списка правил, то есть в виде алгоритма вычислений по этой формуле”. У них была специальная система записи вычислений, использующая, как пишет Кнут, “не символический язык, а представление формул на «машинном языке»”. Письменное объяснение каждого вавилонского алгоритма заканчивалось одной и той же фразой: “Таков способ”. Эта фраза подчеркивает неотъемлемое свойство алгоритмов: их можно повторять, они одинаково применимы и эффективны каждый раз, когда возникает определенная ситуация. Современный последователь Кремниевой долины назвал бы их адаптируемыми.

Алгоритмы занимают важное место в истории математики. Около 300 года до н. э. греческий философ Евклид описал в своем труде “Начала” так называемый алгоритм Евклида⁹ – способ нахождения наибольшего общего делителя двух чисел. И его, и “решето Эратосфена” – алгоритм III века до н. э., который находит все простые числа, не превосходящие определенного числа, – используют до сих пор, особенно в области криптографии. Однако само слово “алгоритм” происходит от имени определенного человека – или, по крайней мере, от места его рождения.

Персидский ученый Мухаммад ибн Муса аль-Хорезми родился около 780 года в Хорезме – государстве, располагавшемся на территории современных Туркменистана и Узбекистана. О его жизни мало что известно. Он добрался до Багдада, который стал интеллектуальным центром региона после того, как мусульманский халифат Аббасидов завоевал Персию в VII веке. Там ученый занимался астрологией, географией и математикой в Доме мудрости, известном также как Большая библиотека Багдада. Подобно своей предшественнице – египетской Александрийской библиотеке – Дом мудрости являлся междисциплинарным научным центром, где ценили исследования и переводили на арабский язык тексты, написанные на латыни, санскрите, греческом и персидском языках. Около 820 года аль-Хорезми завершил работу “Книга об индийском счете”, которая в конечном итоге привела к распространению в Европе современной системы записи чисел. Он также сочинил трактат о методах решения уравнений “Китаб аль-джебр ва-ль-мукабала” (“Краткая книга о восполнении и противопоставлении”). От слова “аль-джебр” из названия (которое означает “восстановление, восполнение”, то есть сокращение одинаковых членов в обеих частях уравнения) произошло слово “алгебра”. В труде аль-Хорезми описывались методы решения квадратных уравнений и вычисления площади и объема, указывались приближенные значения числа π.

В середине XII века в Испании пересекались мусульманская, иудейская и христианская культуры – иногда мирно, иногда не очень, и между цивилизациями шел обмен идеями. Живший тогда в испанском городе Сеговия английский востоковед Роберт Честерский в 1145 году перевел “Книгу о восполнении и противопоставлении” на латынь. “Аль-джебр” превратилось в algeber, а “аль-Хорезми” – в Algoritmi. В то время слово algorismus относилось ко всем математическим операциям с использованием индийско-арабских цифр, а тех, кто занимался подобным искусством, называли алгористами. (Этим термином именуют себя визуальные художники, с 1960-х годов использующие алгоритмические процессы, однако он кажется подходящим для всех, кто работает над современной версией алгоритмов.) Такой длинный путь этимологии алгоритма показывает, что вычисления являются не только продуктом воспроизводимых научных законов, но и результатом человеческого искусства и труда.

Изобретение компьютерного программирования

Работа компьютеров основана на многократно выполняемых операциях. Затем с результатами, закодированными нулями и единицами, производятся новые операции, результат которых выдается пользователю. В 1822 году британский изобретатель Чарльз Бэббидж изложил свою концепцию “применения машин для вычисления астрономических и математических таблиц” – метод автоматизации вычисления с помощью системы пронумерованных шестерней и валиков, названной разностной машиной. Это устройство так и не было построено целиком, однако его более поздние реализации выглядят как внутренности фортепиано, только вместо молоточков тянутся длинные ряды колес. Спроектированная Бэббиджем машина должна была иметь высоту восемь футов и весить четыре тонны. Затем изобретателю в голову пришла идея аналитической машины, которая могла (если бы ее удалось построить) получать команды, заданные с помощью перфокарт, и выполнять простые операции программирования (циклы и условные операторы). Она стала основой для гораздо более сложных современных вычислительных машин. Сын Бэббиджа Генри в 1888 году писал: “Это всего лишь вопрос карт и времени”.

Дочь лорда Байрона Ада Лавлейс сегодня считается первым программистом: она написала алгоритмы для машины в том виде, в каком ее спроектировал Бэббидж, включая процесс вычисления чисел Бернулли. Лавлейс также поняла, что повторяющиеся механические процессы, на которые способна машина, можно применять не только в математике. В 1843 году Лавлейс писала, что аналитическая машина “могла бы работать с другими вещами, кроме чисел, если найти объекты, взаимоотношения которых можно выразить с помощью абстрактной науки об операциях и которые также можно приспособить к рабочей нотации и механизму машины”. Иными словами, формально можно манипулировать всем, что удастся превратить в нечто похожее на данные – какой-то ряд чисел. Это может быть текст, музыка, искусство или даже игра – например, шахматы. Лавлейс представила себе одну из форм такой автоматизации: “Если предположить, например, что фундаментальные отношения звуков в науке гармонии и музыкальной композиции поддаются такому выражению и адаптации, то машина могла бы сочинять замысловатые научные музыкальные произведения любой степени сложности и объема”. Она предвосхитила нечто, подобное “генеративной музыке”; композитор Брайан Ино предложил этот термин в 1995 году для описания постоянно меняющихся синтезаторных композиций: программное обеспечение создает разные мелодии при каждом запуске программы. Лавлейс представляла, как новая технология может формировать и увековечивать культуру – как это происходит сегодня при алгоритмическом наполнении лент.

Лавлейс одной из первых обнаружила, что манипулирование такими механическими командами может оказаться формой самовыражения. В 1990-х и 2000-х годах компьютерное программирование заняло место рядом с математикой и естественными науками, превратившись в навык, необходимый для полноценного образования ребенка. Я познакомился с ним примерно в 2002 году в компьютерном классе своей школы: мы играли в обучающие видеоигры, напоминающие языки программирования. Но по-настоящему я учился с помощью громоздких графических калькуляторов TI-83, которые нам приходилось приобретать для уроков математики. Эти калькуляторы можно было программировать на языке под названием TI-BASIC, включавшем простые операторы ветвления и функции. Сначала я составлял скромные программы для формул, которые использовались в моих тестах, но когда лучше разобрался в языке, стал создавать свои собственные версии игр “Крестики-нолики” и “Четыре в ряд”. Машина стала партнером в моем творчестве; это казалось настоящим волшебством.

Спустя столетие после Лавлейс британский математик и информатик Алан Тьюринг во время Второй мировой войны работал на правительство – он помогал взломать код немецкой шифровальной машины “Энигма”. В 1946 году, когда война закончилась, Тьюринг написал для Национальной физической библиотеки доклад, в котором предложил идею проекта “автоматической вычислительной машины”. Это было первое описание искусственного интеллекта как реальной возможности, а не теоретической концепции. Тьюринг писал, что вычислительные и сортировочные машины, предназначенные для выполнения конкретных задач, уже существуют, однако его предложение выходит и за эти рамки: “Вместо того чтобы постоянно использовать человеческий труд для вывода материала из машины и ввода его обратно в нужный момент, обо всем будет заботиться сама машина”.

По мнению Тьюринга, подобное устройство могло бы выполнять любые вычисления в любом масштабе, не нуждаясь в перенастройке. У него имелся бы свой внутренний логический язык, который можно было бы приспосабливать для разных целей, чтобы решать произвольные задачи. “Как можно ожидать, чтобы машина выполняла все эти многочисленные вещи? – писал Тьюринг. – Ответ заключается в следующем: мы должны считать, что машина делает нечто довольно простое, а именно – выполняет команды, отданные ей в стандартной форме, которую она способна понять”. Она будет следовать алгоритмам. Он предвосхитил то, как современные алгоритмы машинного обучения развиваются с течением времени, внося коррективы без участия человека.

Такая система будет выполнять вычисления гораздо быстрее и на более высоком уровне сложности, превосходя возможности человека. Тьюринг писал: “Скорость машины больше не ограничивается скоростью человека-оператора”. Однако он не считал, что такие машины обеспечат утопическое счастье. То, что они будут работать автоматически, не означает, что они всегда будут правы. “Фактор человеческой ошибки устраняется, однако в какой-то степени его, возможно, заменят механические ошибки”, – продолжал Тьюринг. В своей работе он спрогнозировал многие известные сегодня компоненты персональных компьютеров: память с возможностью стирания, механизмы ввода, преобразование двоичного языка и даже контроль температуры во избежание перегревов. Однако для Тьюринга слово “компьютер” относилось не к машине, а к человеку, выполняющему вычисления, что еще раз подчеркивает этот органический элемент.

Еще в 1936 году Тьюринг придумал то, что сейчас называется “машиной Тьюринга”. Он подробно описал это устройство в эссе 1948 года под названием “Интеллектуальная машина”. Машина Тьюринга – это “бесконечная лента, разделенная на ячейки, в каждой из которых можно записать какой-то символ”. Лента проходит через управляющее устройство, которое проверяет одну ячейку за раз и выполняет операцию, которая определяется состоянием машины и наблюдаемым символом: записать в ячейку новый символ, перейти в новое состояние и переместиться к соседней ячейке вправо или влево. Машина Тьюринга может реализовать любой алгоритм в историческом смысле слова – алгоритм произвольной математической процедуры. Любая вычислительная система, которая способна делать все, что может машина Тьюринга, называется “полной по Тьюрингу” или “тьюринг-полной”. Например, все языки программирования являются полными по Тьюрингу, потому что могут смоделировать любой вид уравнений. (Даже программа для работы с электронными таблицамиExcel в 2021 году стала полной по Тьюрингу.) Тьюринг пришел к верному выводу о том, что любая вычислительная машина сумеет выполнить работу любой другой, и даже аналитическая машина Чарльза Бэббиджа XIX века теоретически могла бы выполнять сложные задачи, обрабатываемые нашими ноутбуками, – если бы ей предоставили бесконечные ресурсы и время.

В жизни Тьюринга тоже происходило своеобразное столкновение между механическими правилами и человеческими действиями. В 1952 году математика обвинили в совершении грубой непристойности – в “выражении гомосексуальности” (юридический оборот, означающий секс с другим мужчиной) – в ходе путаного судебного разбирательства, которое он сам инициировал после ограбления собственного дома. Гомосексуальный секс между взрослыми по обоюдному согласию оставался незаконным в Англии вплоть до 1967 года – этот закон является своего рода алгоритмом, выносящим приговор на основе безжалостного набора правил. В итоге Тьюринга признали виновным. Ему предоставили выбор между тюремным заключением и химической кастрацией, и он предпочел второй вариант. В июне 1954 года домработница нашла 41-летнего Тьюринга мертвым. Причиной смерти стало отравление цианидом, а предполагаемым методом самоубийства являлось надкушенное яблоко на прикроватной тумбочке¹⁰.

Когда мы говорим об “алгоритме”, часто возникает ощущение, что эта сила появилась совсем недавно, в эпоху социальных сетей. Однако на самом деле речь идет о технологии, имеющей богатую историю и наследие, которые медленно формировались на протяжении целых веков до появления интернета. Восстановление этой более общей картины может помочь нам лучше понять силу, которой обладают современные алгоритмы. И все же, каким бы сложным ни был алгоритм, по своей сути он остается неким уравнением: методом, позволяющим получить желаемый результат – будь то шумерская схема, позволяющая разделить некоторое количество зерна поровну между несколькими мужчинами, или лента Фейсбука, определяющая, какое сообщение показывается первым, когда вы заходите на сайт. Все алгоритмы – это двигатели автоматизации, и, как прогнозировала Ада Лавлейс, автоматизация теперь вошла во многие сферы нашей жизни, не ограничиваясь чистой математикой.

Алгоритмическое принятие решений

В 1971 году в одном из офисных зданий в центре города Сантьяго (Чили) появилась шестиугольная комната, спроектированная как своеобразное диспетчерское помещение для всей страны. На обшитых деревянными панелями стенах висели мониторы и экраны, на которые выводились различные показатели – например, поставки сырья и уровень занятости населения. В центре комнаты по кругу стояли семь белых стеклопластиковых кресел, напоминавших место капитана космического крейсера из научной фантастики. С правой стороны от каждого располагалась панель управления экранами; имелись также пепельница и держатель для стакана – возможно, для виски. Этот диспетчерский центр – часть масштабного проекта “Киберсин”¹¹ – был спроектирован при социалистическом президенте Чили Сальвадоре Альенде под руководством Стаффорда Бира – британского специалиста по исследованию операций, который у себя в стране применял методы “кибернетики” для управления бизнесом. Бир описывал кибернетику как “науку управления”. Она включает в себя анализ сложных систем, будь то корпорации или биология, и изучение их работы для моделирования или создания подобных интеллектуальных самокорректирующихся систем. (В США аналогичную практику анализа систем впервые применила корпорация RAND в 1950-х годах.) Предполагалось, что проект “Киберсин” станет идеальной моделью, помогающей чилийскому правительству принимать решения в режиме реального времени, пока они сидят в помещении, курят сигареты и пьют виски – очередная встреча холодного технологического и хаотичного человеческого. Из этого центра люди наблюдали за алгоритмами, которые управляли государством.

Физический дизайн проекта “Киберсин”, разработанный под руководством немецкого консультанта Ги Бонсипе, создавал образ утопии в духе модерна середины века. Провода, соединявшие мониторы на стенах и сиденья, были скрыты от глаз. Сами гладкие одинаковые кресла отличались искривленной плавностью и отсутствием видимых швов. Комната символически сводила управление страной к манипулированию данными – словно к победе в какой-то видеоигре. Проект “Киберсин” обещал заменить человеческое руководство технологическим надзором, а скромный ряд экранов предоставлял любую требуемую информацию. Можно было просто усесться в одно из кресел и наблюдать за всем, что происходит в стране.

Однако технология проекта “Киберсин” являлась лишь фасадом, своеобразным фантастическим дизайн-концептом – интерактивной иллюзией возможного. Компьютерные сети того времени не позволяли реализовать его потенциал. Вывод данных осуществлялся вручную, а не автоматически. Центр использовал единственный компьютер, получавший информацию от чилийских заводов с помощью телексных аппаратов через телефонные линии. И, наконец, хотя центр и закончили, его так и не запустили¹². Одиннадцатого сентября 1973 года правительство Альенде было свергнуто при поддержке ЦРУ, и к власти пришел Аугусто Пиночет.

Фотографии проекта “Киберсин” по-прежнему обладают неоспоримой притягательностью. Они снова и снова мелькают на дизайнерских досках настроения, демонстрируя эстетику, которая даже спустя много десятилетий все еще выглядит футуристично. Возможно, эти изображения впечатляют по той причине, что мы сохраняем мечту обработки реальных исходных данных и переработки их в цифровые схемы, после оценивания которых определяется правильный путь действий. Проект “Киберсин” излучал ощущение непогрешимости, хотя изобретатели уровня Тьюринга понимали, что компьютеры не могут работать настолько идеально. Как утверждал пионер кибернетики Стаффорд Бир, мы стремимся использовать машины для автоматизации уже существующих структур и процессов, которые изначально являлись творениями человека. Указывая на этот парадокс, Бир писал в своей книге 1968 года “Наука управления”: “Мы закрепляем в стали, стекле и полупроводниках те самые ограничения руки, глаза и мозга, для преодоления которых и был изобретен компьютер”. Как и в случае с механическим турком, внутри машины остается человек.

Сегодня мы уже располагаем вариантами алгоритмического правительства и алгоритмической жизни: банки прибегают к машинам, чтобы определить, кто получит кредит;Spotify использует данные о ваших прошлых действиях, чтобы рекомендовать те песни, которые лучше всего подходят вашей душевной организации. Однако технология, которая все это обеспечивает, не похожа на проект “Киберсин”. У нее нет шестиугольных комнат и кресел с подлокотниками. Алгоритмы стали одновременно невидимыми и вездесущими, они содержатся в приложениях, которые мы носим с собой на телефонах, хотя их данные физически хранятся где-то далеко, на огромных серверных фермах с градирнями, расположенных в малозаметных местах на природе. Если в проекте “Киберсин” предполагалось, что мир, управляемый данными, может быть последовательным и понятным и его можно заключить в рамки помещения диспетчерского центра, то теперь мы знаем, что он абстрактный и диффузный, он везде и нигде одновременно. Нас побуждают забыть о наличии алгоритмов.

Новые технологии неизбежно порождают новые формы поведения, но это поведение редко совпадает с тем, которого ожидают изобретатели. Технология обладает собственным смыслом, который в конечном итоге выходит на первый план. Маршалл Маклюэн написал знаменитый афоризм “Средство коммуникации есть сообщение”¹³ в своей книге 1964 года “Понимание медиа: внешние расширения человека”. Он имел в виду, что структура нового средства передачи информации – электрического света, телефона, телевидения – важнее содержания, которое через него передается. Сама способность телефона соединять людей превосходит любой конкретный разговор. Маклюэн писал: “Ибо «сообщением» любого средства коммуникации, или технологии, является то изменение масштаба, скорости или формы, которое привносится им в человеческие дела”. В нашем случае средством передачи является алгоритмическая лента; она масштабирует и ускоряет взаимосвязь людей по всему миру до невообразимой степени. Смысл ее функции заключается в том, что на каком-то уровне наши коллективные потребительские привычки, переведенные в данные, приводят к одинаковости.

Как работают рекомендательные алгоритмы

Алгоритмы – это цифровые машины, которые, подобно конвейеру на фабрике, превращают серию входных данных в определенный результат на выходе. Отличие одного алгоритма от другого заключается не столько в структуре, сколько в компонентах, из которых они строятся. Все рекомендательные алгоритмы работают, собирая набор исходных данных. Общий термин для этого набора данных – “сигнал”, собранные входные данные, которые поступают в машину. Этот сигнал может включать в себя сведения о прошлых покупках пользователя на Amazon или о том, сколько других пользователей отдали предпочтение определенной песне на Spotify. Подобные сведения имеют не качественную, а количественную форму, поскольку их должна обрабатывать машина. Поэтому даже если эти данные относятся к такой субъективной теме, как музыкальные предпочтения, они выражаются цифрами: х пользователей поставили группе y среднюю оценку z, или х пользователей прослушали треки группы y z раз. Основным сигналом для многих рекомендаций в социальных сетях является проявление интереса, или вовлеченность, которая описывает, каким образом пользователи взаимодействуют с контентом. Это может выражаться в лайках, ретвитах или просмотрах – всевозможные кнопки, расположенные рядом с постом. Высокая вовлеченность означает, что количество лайков, просмотров или перепостов у данного сообщения выше, чем у других.

Этот сигнал проходит черезпреобразователь данных, который превращает его в пакеты, предназначенные для обработки различными алгоритмами. Данные о вовлеченности можно отделить от данных о рейтингах или от данных о тематике самого контента. Чтобы добавить информацию об отношениях пользователей друг к другу в рамках одной платформы, можно использовать социальный калькулятор – например, я часто просматриваю в Инстаграме посты моего друга Эндрю, и это заставляет систему рекомендаций с большей вероятностью ставить его посты на первое место в моей персональной ленте.

Далее идет конкретное уравнение индивидуального алгоритма. В современных платформах очень редко работает лишь один алгоритм – обычно их много. Мы имеем дело с целым набором различных уравнений, которые учитывают переменные и обрабатывают их несколькими способами. Одно уравнение рассчитывает результат, основываясь только на вовлеченности (например, находит контент с самой высокой средней вовлеченностью), в то время как другое отдает приоритет социальному контексту контента для конкретного пользователя. Эти алгоритмы также получают тот или иной показатель приоритета относительно друг друга.Комбинированная фильтрация – технология, в рамках которой используется несколько методов. Наконец, на выходе получается сама рекомендация – следующая песня в автоматическом плейлисте или упорядоченный список постов. Алгоритм определяет, например, что сообщение из жизни друга появится в вашей ленте Фейсбука выше политических новостей.

Один из руководителей сервисаPandora, который каталогизирует и рекомендует музыку, однажды описал мне систему этой компании как целый “оркестр” алгоритмов с “дирижирующим” алгоритмом. Каждый алгоритм применяет собственные стратегии для выработки рекомендаций, а затем алгоритм-дирижер определяет, какие варианты выдать в тот или иной момент. (При этом единственный результат работы сервиса – следующая песня в плейлисте.) В разные моменты требуются разные алгоритмические методы рекомендаций.

Единого монолитного “алгоритма” не существует, поскольку каждая платформа работает по-своему, используя индивидуальные переменные и наборы уравнений. Важно помнить, что работа ленты Фейсбука – это коммерческое решение, аналогичное тому, как производитель продуктов питания решает, какие ингредиенты использовать. Алгоритмы также меняются со временем, совершенствуясь с помощью машинного обучения. Данные, которые они получают, используются для постепенного самосовершенствования, чем стимулируется еще большее вовлечение; машина адаптируется к пользователям, а пользователи – к машине. Различия между платформами стали более заметными и актуальными в середине 2010-х годов, когда социальные сети и стриминговые сервисы усилили алгоритмическую подачу информации и та стала основой пользовательского опыта.

Мы, пользователи, в принципе не понимаем, как обычно работают алгоритмические рекомендации. Их уравнения, переменные и весовые коэффициенты не являются общедоступной информацией, потому что технологические компании не заинтересованы в их обнародовании. Они являются коммерческой тайной и важны для бизнеса почти так же, как коды запуска ядерных ракет – для государства. Их редко раскрывают; редко встречаются даже намеки на них. Одна из причин заключается в том, что в условиях общедоступности алгоритма пользователи получат возможность обманывать систему, чтобы продвигать свой собственный контент. Еще одна причина – страх перед конкуренцией: другие цифровые платформы могут украсть “секретный ингредиент” и состряпать более качественный продукт. И все же эти инструменты, как и многие другие цифровые технологии, зародились в некоммерческой среде.

Алгоритмы рекомендаций как способ автоматической обработки и сортировки информации начали применяться в 1990-х годах. Одним из первых примеров стала система сортировки электронной почты – муторное занятие и по сей день. Уже в 1992 году инженеры научно-исследовательского центра компанииXerox в Пало-Альто (более известного как PARC) начали утопать в почте. Они пытались решить проблему “растущего использования электронной почты, в результате которого пользователей захлестывает колоссальный поток входящих документов”, как написали Дэвид Голдберг, Дэвид Николс, Брайан Оки и Дуглас Терри в статье 1992 года. (Они даже не подозревали, с каким объемом цифровой коммуникации мы столкнемся в XXI веке.) Их система фильтрации электронной почты под названием Tapestry использовала два вида алгоритмов, работавших совместно: “фильтрация на основе содержания” и “совместная фильтрация”. Первый, который уже применялся в нескольких системах электронной почты, оценивал текст писем – например, если вы хотели установить приоритет по слову “алгоритм”. Второй, более инновационный метод, основывался на действиях других пользователей. При определении приоритета конкретного письма учитывалось, кто его открыл и как на него отреагировал. В статье говорилось:

Люди помогают друг другу осуществлять фильтрацию, записывая свои реакции на прочитанные документы. Например, такая реакция может уведомлять, что документ показался особенно интересным (или особенно неинтересным). Подобные реакции, называемые в общем случае аннотациями, могут быть доступными фильтрам других людей.

ВTapestry использовались “фильтратор”, запускавший повторяющиеся запросы по набору документов, “ящичек”, собиравший материалы, которые могли заинтересовать пользователя, и “оценщик”, который устанавливал приоритеты и категоризировал документы. Концептуально это очень похоже на современные алгоритмические ленты: цель Tapestry заключалась в том, чтобы выводить на первый план контент, который с наибольшей вероятностью окажется важен для пользователя. Однако подобная система требовала гораздо больше предварительных действий со стороны пользователей: им приходилось писать запросы, по которым система определяла, что они желают увидеть, основываясь либо на контенте, либо на действиях других пользователей. Остальным пользователям в системе также приходилось выполнять весьма целенаправленные действия, помечая материал как важный или нерелевантный. Для подобной схемы требуется небольшая группа людей, которые уже знают друг друга и понимают, как их сообщество взаимодействует с электронной почтой – например, вы уже осведомлены, что Джефф отвечает только на особо важные письма, и поэтому вы хотите, чтобы ваш фильтр выводил наверх все письма, на которые отвечает Джефф. Tapestry лучше всего функционировала в весьма небольшой системе.

В 1995 году Упендра Шардананд и Пэтти Маес из MITMedia Lab (медиалаборатории Массачусетского технологического института) описали в своей статье “социальную фильтрацию информации” – “технику создания персонализированных рекомендаций из любой базы данных для пользователя на основе сходства профилей интересов”. Эта работа опиралась на идеи Tapestry и стала ответом на перегруженность онлайн-информацией: “Объем значительно больше, нежели человек может отфильтровать, чтобы найти то, что ему понравится”. Авторы пришли к выводу о необходимости автоматизированных фильтров: “Нам нужна технология, которая поможет продраться через всю информацию, чтобы найти то, что нам действительно нужно, и избавит нас от того, с чем мы не хотим заморачиваться”. (Естественно, эта проблема актуальна до сих пор.) Шардананд и Маес утверждали, что у фильтрации на основе содержания есть существенные недостатки. Она требует перевода материала в данные, понятные машине, например в текст; ей не хватает интуитивной прозорливости, поскольку она может фильтровать только по терминам, которые вводит пользователь; и она не измеряет внутреннее качество. Она не способна “отличить хорошо написанную статью от плохо написанной, если в этих двух работах используются одинаковые термины”. Невозможность оценить качество наводит на мысли об искусственном интеллекте: новые инструменты вроде ChatGPT, казалось бы, способны понимать и генерировать осмысленный язык, однако на самом деле они лишь повторяют схемы, присущие уже существующим данным, на которых они обучались. Качество субъективно; сами по себе данные – без человеческой оценки – не могут его определить.

Социальная фильтрация информации позволяет обойти эти проблемы, поскольку основана на действиях людей-пользователей, которые самостоятельно оценивают содержание, используя как количественные, так и качественные суждения. Это больше похоже на сарафанное радио, когда мы получаем советы, что послушать или посмотреть, от друзей, чьи предпочтения схожи с нашими собственными: “Объекты рекомендуются пользователю на основе величин, присвоенных другими людьми со сходным вкусом”, – говорилось в статье. Сходство вкусов одного пользователя с другим определялось с помощью статистической корреляции. Чтобы давать музыкальные рекомендации, исследователи разработали систему под названиемRingo, использующую электронную почту. Пользователю предлагали первоначальную группу из 125 исполнителей, он выставлял оценки по шкале от 1 до 7, после чего строилась диаграмма его предпочтений. Затем программа сравнивала эту диаграмму с диаграммами других пользователей и подбирала музыку, которая человеку предположительно понравится (или совсем не понравится – такой вариант тоже был). Рекомендации Ringo также сопровождались указателем уровня уверенности, который выдавал вероятность того, что предложение окажется удачным, и позволял пользователю дополнительно подумать над предложенным алгоритмическим выбором. К сентябрю 1994 года у Ringo были двадцать одна сотня пользователей и пятьсот электронных писем в день с оценками музыки.

Ringo тестировала различные алгоритмы для принятия решений на основе музыкальных рейтингов. Первый алгоритм измерял несходство между вкусами пользователей и основывал рекомендации на максимальном сходстве. Второй измерял сходство, а затем использовал для принятия решений положительные и отрицательные корреляции с другими пользователями. Третий определял корреляцию между различными исполнителями и рекомендовал музыкантов, которые сильно коррелировали с теми, что уже нравились данному человеку. Четвертый алгоритм (по мнению исследователей, самый эффективный) подбирал пользователей на основе того, положительно или отрицательно они оценивали одни и те же вещи – иными словами, на основе совпадения вкусов. Сходство оказалось наилучшей переменной. Чем больше пользователей включалось в систему и чем больше сведений они предоставляли, тем лучше работала Ringo – некоторые пользователи даже назвали систему “пугающе точной”. Инновация Ringo заключалась в том, что она подтверждала: наилучшим источником точных рекомендаций или лучших индикаторов релевантности, скорее всего, являются другие люди, а не анализ самого содержания. Концепция отражала повышение важности человеческого вкуса.

Первые алгоритмы интернета разработали для того, чтобы просеивать огромное количество материала в поисках вещей, важных для пользователя, и затем представлять их в связном виде. Целью были рекомендации: рекомендовать ту или иную информацию, песню, картинку или новость в социальных сетях. Алгоритмическую подачу информации иногда более формально и буквально называют “рекомендательными системами” за простой акт выбора того или иного контента.

Первым полностью общедоступным интернет-алгоритмом, с которым сталкивался практически каждый пользователь интернета, стал алгоритм поискаGoogle. В 1996 году, учась в Стэнфордском университете, соучредители Google Сергей Брин и Ларри Пейдж начали работу над тем, что впоследствии превратилось в PageRank – систему ранжирования страниц интернета (который на тот момент насчитывал около ста миллионов документов); она просматривала веб-страницы и определяла, какие из них окажутся полезнее или информативнее. Алгоритм PageRank подсчитывал, сколько раз на данный сайт ссылались другие, подобно тому, как авторы научных работ ссылаются на результаты предыдущих серьезных исследований. Чем больше ссылок, тем более важной считалась страница. Показатель цитирования “согласуется с субъективным представлением людей о важности”, – писали Брин и Пейдж в 1998 году в работе “Анатомия системы крупномасштабного гипертекстового интернет-поиска”. Алгоритм PageRank объединил форму совместной фильтрации с фильтрацией на основе содержания. Связывая различные страницы, люди-пользователи формировали субъективную карту рекомендаций, которую учитывал алгоритм. Он также измерял такие факторы, как количество ссылок на странице, относительное качество этих ссылок и даже размер текста – чем он длиннее, тем более релевантным может оказаться текст для конкретного поискового запроса. Страницы с высоким значением PageRank с большей вероятностью появлялись в верхней части списка результатов, которые выдавала поисковая система Google.

Прогноз Пейджа и Брина относительно того, что их система останется функциональной и масштабируемой по мере развития интернета, оказался верным. Спустя десятилетияPageRank стал почти тиранической системой, которая управляет тем, как и когда видны сайты. Для любого бизнеса или ресурса жизненно важно приспособиться к алгоритму ранжирования и попасть на первую страницу результатов поиска Google. В начале 2000-х годов мне приходилось просматривать множество выдаваемых страниц, чтобы найти то, что мне требовалось. В последнее время я почти никогда не добираюсь даже до второй страницы – в частности, благодаря тому, что поисковая система Google теперь еще и сама показывает текст, который сочла релевантным: она берет его с сайта и демонстрирует пользователю в верхней части страницы – выше фактических результатов поиска. Таким образом, пользователь, спросивший: “Можно ли кормить собаку морковью?” (я без устали искал ответ на этот вопрос, когда у меня впервые появился щенок), сразу получает ответ, и у него отпадает необходимость заходить на другой сайт, что еще сильнее укрепляет авторитет Google. “Знание – сила”, – писал Фрэнсис Бэкон в XVI веке, однако в эпоху интернета, возможно, еще больше преимуществ дает сортировка знаний. Информацию сегодня найти легко; гораздо сложнее разобраться в ней и понять, какие сведения полезны.

Пейдж и Брин хотели, чтобы их система была относительно нейтральной и оценивала каждый сайт исключительно с точки зрения его релевантности. Задача алгоритма заключалась в предоставлении пользователю наилучшей информации. Ориентирование поиска на определенный сайт или бизнес испортило бы результаты. “Мы полагаем, что поисковые системы, финансируемые за счет рекламы, будут по своей сути отдавать предпочтение рекламодателям и не учитывать нужды потребителей”, – писали предприниматели в 1998 году. И тем не менее в 2000 году они запустилиGoogle AdWords – пилотный продукт компании для рекламодателей (сейчас он называется Google Ads). Забавно читать их критику сегодня, когда именно реклама обеспечивает подавляющую часть доходов компании – более 80 % в 2020 году. Поскольку алгоритм PageRank привел в поисковую систему Google миллиарды людей, компания также получила возможность отслеживать, что ищут пользователи, и таким образом продавать рекламодателям позиции в выдаче при определенных поисковых запросах. Как и результаты поиска, рекламные объявления, показываемые пользователю, тоже определяются алгоритмом. И эта реклама, построенная на поисковом алгоритме, сделала Google настоящим левиафаном.

К началу 2000-х годов наш цифровой опыт уже определялся алгоритмической фильтрацией. СайтAmazon еще в 1998 году начал использовать совместную фильтрацию при рекомендациях товаров клиентам. Однако система компании не пыталась обнаруживать сходные профили пользователей, чтобы приблизительно оценивать вкусы, как это делала Ringo; она определяла товары, которые часто покупают вместе, – например, погремушка и детская бутылочка. Статья 2017 года, созданная одним из сотрудников Amazon, описывает подобные предложения на сайте:

На главной странице выделялись рекомендации, основанные на ваших прошлых покупках и просмотренных товарах… Корзина рекомендовала добавить другие товары – возможно, спонтанные покупки, которые делаются в последнюю минуту, а возможно, дополнения к тому, что вы уже рассматривали. По окончании заказа появлялись дополнительные рекомендации, предлагающие заказать товары позже.

Такие алгоритмические рекомендации напоминают полки, расположенные непосредственно перед кассой в супермаркетах, – последний стимул купить товары, которые могут вам пригодиться. Но в данном случае рекомендации подбирались индивидуально для каждого пользователя сайта, и в результате, как утверждала статья, получался “магазин для каждого покупателя”.Amazon обнаружила, что персонализированные рекомендации товаров гораздо эффективнее с точки зрения количества кликов и продаж, чем неперсонализированные методы маркетинга – например, реклама на баннерах и списки наиболее популярных товаров, которые нельзя нацелить столь же точно. Алгоритм рекомендаций продвигал бизнес и оказался удобен для покупателя, который получил возможность находить вещи, о необходимости которых даже не подозревал. (Прямо сейчас главная страница Amazon рекомендует мне мойку с аккумуляторным питанием и японскую сковороду для омлета.)

Первые подобные алгоритмы сортировали отдельные электронные письма, музыкантов (в отличие от конкретных песен), веб-страницы и коммерческие товары. По мере развития цифровых платформ рекомендательные системы переместились в более сложные области культуры и стали оперировать гораздо большими скоростями и объемами, обрабатывая миллионы твитов, фильмов, загруженных пользователями видеороликов и даже потенциальных партнеров на свиданиях. Фильтрация стала стандартным способом работы в интернете.

Эта история напоминает также о том, что рекомендательные системы – это не всезнающие сущности, а инструменты, созданные группами технических специалистов. Они могут ошибаться. Ник Сивер – социолог и профессор Университета Тафтса, изучающий рекомендательные системы. Его исследования посвящены человеческой стороне алгоритмов – тому, что думают об алгоритмических рекомендациях создающие их инженеры. В наших беседах Сивер всегда старался прояснить двусмысленную суть алгоритма, отделяя индивидуальное уравнение от корпоративных мотивов, лежащих в основе его разработки, и конечного воздействия на пользователя. “Алгоритм – это метонимическое обозначение для компаний в целом, – говорил он мне. – Алгоритма Фейсбука не существует; существует Фейсбук. Алгоритм – это способ рассказать о решениях Фейсбука”.

Речь здесь не о технологии – нельзя обвинять сам алгоритм в плохих рекомендациях, как нельзя обвинять мост в его инженерных недостатках. Чтобы огромные хранилища контента на цифровых платформах стали доступными, необходима определенная степень упорядочивания. Негативные аспекты Мира-фильтра, возможно, возникли потому, что технология применяется слишком широко, учитывая скорее интересы рекламодателей, нежели опыт пользователей. Рекомендации в том виде, в котором они сейчас существуют, больше не работают для нас; они вызывают у нас все большее отчуждение.

Первые социальные сети

Мои первые значимые воспоминания о социальных сетях связаны с Фейсбуком, в котором я зарегистрировался после того, как поступил в колледж при Университете Тафтса. Дело было летом 2006 года, и в то время потенциальным пользователям требовался официальный адрес электронной почты в домене. edu, чтобы получить доступ к части платформы, которая относилась к колледжам. Тот первый вариант Фейсбука почти неузнаваем по сравнению с сегодняшней структурой. Аудитория строго ограничивалась; я использовал сеть в основном как средство связи с другими студентами университета. Если сегодня Фейсбук можно сравнить с лихорадочной трассой с выездами и заездами через каждые несколько секунд, то в нулевые годы он больше напоминал школьную комнату отдыха, где одновременно могли общаться лишь несколько человек. Вы создавали профиль, обновляли свой статус в нем, вступали в группы по общим интересам – но не более того.

Фейсбук стал едва ли не первым способом социального общения в интернете. Его предшественниками былиFriendster и MySpace. Сервисы обмена сообщениями – Instant Messenger компании AOL и gChat компании Google – обеспечивали увлекательные способы общения с друзьями в режиме реального времени. К 2006 году я уже провел сотни часов на более старых форумах, где обсуждались видеоигры и музыка. Однако именно Фейсбук Цукерберга первым грамотно и последовательно связал онлайн-идентичность с офлайновым миром. Платформа поощряла пользователей использовать свои настоящие имена, а не таинственные псевдонимы, и влияла на реальные планы в маленьком мире колледжа: организацию вечеринок, планирование учебной деятельности и завязывание отношений. Тем самым она проложила путь к распространению социальной жизни в интернете для миллионов, а затем и миллиардов пользователей.

В сентябре 2006 года, вскоре после моего появления в Фейсбуке, там появилось одно из крупнейших нововведений – функция, которая определила его будущее в качестве онлайн-гипермаркета, торгующего всем подряд. Главным атрибутом платформы стала лента новостей, бегущий список обновлений, постов и оповещений. Ею нельзя было пренебречь – как только что построенным шоссе, прорезавшим тихую деревню. “Теперь всякий раз, когда вы входите в систему, вы получаете последние новости, связанные с активностью ваших друзей и социальных групп”, – сообщалось в официальном обновлении Фейсбука.

Патент на ленту новостей, поданный в том же году, но полученный только в 2012-м, описывал ее назначение: “Система и метод предоставляют динамически выбранный медиаконтент человеку, использующему электронное устройство в среде социальной сети”. Иными словами, лента новостей представляла собой поток информации, продиктованный алгоритмом, который определял, что именно показывать пользователю. В другом патенте была заявлена возможность “генерировать динамический контент, основанный на взаимоотношениях и персонализированный для участников социальной сети на веб-основе”. Сначала эта лента новостей представляла собой просто поток уведомлений об изменении статуса отношений и новых фотографий в профиле. Это не вызывало особых подозрений.

Более полное описание патентной заявки на ленту новостей говорит о системе совместной фильтрации, действующей в гораздо больших масштабах, нежели системы электронной почты 1990-х годов. Его стоит процитировать полностью, потому что оно предсказывает, во что превратится в следующем десятилетии большая часть онлайн-жизни (от социальных сетей до потоковой передачи данных и электронной торговли): множество автоматизированных лент, диктуемых в большей степени корпорациями, а не пользователями, которые постепенно формируют более пассивные отношения между пользователями и подачей контента.

Элементы медиаконтента выбираются для пользователя на основе его отношений с одним или несколькими другими пользователями. Эти отношения пользователя с другими пользователями отражаются в выбранном медиаконтенте и его формате. Элементам медиаконтента присваивается некоторый порядок (например, на основе их предполагаемой важности для пользователя), и именно в этом порядке их представляют пользователю. Пользователь может изменить порядок элементов медиаконтента. Взаимодействие пользователя с медиаконтентом, доступным в среде социальной сети, отслеживается, и это взаимодействие используется для выбора дополнительных элементов медиаконтента для пользователя.

Этот фрагмент содержит все элементы алгоритмической ленты – системы, которая прогнозирует относительную важность информации для конкретного пользователя, определяемую на основе наблюдения за контентом, который он просматривал в прошлом; затем система продвигает в начало списка тот контент, который, на ее взгляд, с максимальной вероятностью будет столь же интересен. Цель – отфильтровать контент, чтобы выбрать наиболее вовлекающий. Это побуждает пользователя потреблять больше информации и подписываться на большее количество аккаунтов в целом. Социальные сети обрели жизнеспособность, поскольку пользователи могли чаще пользоваться ими и дольше оставаться на сайтах. Если наши друзья не активны в Фейсбуке (у меня, например, как раз такой случай), то и мы, скорее всего, снизим свою активность.

Сначала ленту новостей упорядочивали исключительно в хронологическом порядке, и на первом месте находились самые свежие обновления; однако постепенно она стала подчиняться более алгоритмической логике. По мере развития Фейсбука и увеличения активности пользователей, которые добавляли все больше связей, переходя от личных отношений к публикациям и брендам, объем отдельных обновлений увеличивался. Со временем обычные заметки от друзей дополнились сообщениями от групп, ссылками на новости и объявлениями о распродажах. Обычные пользователи уже не могли рассчитывать, что им удастся следить за хронологической лентой при таком объеме и разнообразии сообщений, но даже если бы попытались, то их либо завалило бы информацией, либо они пропустили бы важное сообщение – что могло вызвать недовольство платформой. В конце концов масштаб и скорость потребления в Фейсбуке привели к тому, что агрессивная алгоритмическая фильтрация стала необходимой.

В 2009 году в Фейсбуке появилась кнопкаLike в виде поднятого большого пальца; она стала показывать, насколько пользователю интересен тот или иной контент. Порядок в ленте определяла вовлеченность пользователей, измеряемая лайками, комментариями и предыдущими взаимодействиями аккаунтов между собой. Эта алгоритмическая система получила название EdgeRank, и Фейсбук определил ее основные параметры: совместимость, вес действий и время. Под действием понималось любая деятельность людей в Фейсбуке, которая затем отправляется в ленту новостей в виде фиксируемого обновления. Совместимость отражала степень связи пользователя с автором поста и силу этой связи (например, постоянное комментирование постов друзей). Комментарий оценивался выше, чем лайк, а недавние взаимодействия – выше, чем старые. Показатель веса оценивал различные категории взаимодействий: обновление у друга, разместившего новую фотографию, могло иметь больший вес для алгоритма, нежели размещение ссылки на новость или вступление в новую группу. Время отражало возраст действий: при прочих равных условиях недавние действия с большей вероятностью оказывались в верхней части ленты новостей, нежели старые. Показатель EdgeRank не оставался вечным, как результат баскетбольного матча в турнире; он постоянно менялся. И эти три категории – не просто отдельные, нейтральные единицы данных; это совокупность данных, упакованных и интерпретированных Фейсбуком особым образом.

Отследить эволюцию алгоритмической ленты Фейсбука сложно, поскольку она постоянно обновляется, а компания раскрывает подробности лишь время от времени. Все, что мы знаем о ней помимо официальных заявлений, сводится к журналистским расследованиям и опыту пользователей, которые ощущают эффекты обновленных алгоритмов задолго до того, как те становятся достоянием общественности. Когда меняется механизм подачи информации, знакомые веб-сайты могут начать восприниматься иначе. Например, вы обнаруживаете, что реже видите в Фейсбуке сообщения своих друзей и чаще – посты групп или компаний или что Инстаграм никогда не показывает в вашей ленте посты определенного друга, и вам приходится искать их с помощью поиска.

Сама алгоритмическая лента не развивается последовательно и не двигается линейно к какому-то конечному идеалу. Она меняется в зависимости от приоритетов компании. В 2011 году Фейсбук назвал ленту новостей “вашей персональной газетой”, намекая на то, что ее цель – объединить новости от ваших знакомых с известиями из внешнего мира. В 2013 году компания заявила, что ее алгоритм работает над “выявлением высококачественного контента”. Однако погоня за тем, что компания считала “высоким качеством”, в 2010-е годы превратилась в какую-то абсурдную игру. Если вы хотели привлечь внимание к своим постам в Фейсбуке – а это серьезная проблема для журналистских изданий и писателей-фрилансеров, – вам приходилось угадывать, какой материал получает приоритет. Ситуация оказалась почти противоположной: вас слышали, только если вы “обманули” алгоритм. Вы больше не могли рассчитывать на то, что пользователи, которые подписались на вас или добавились в друзья, увидят ваши посты.

В какой-то момент своей карьеры журналиста-фрилансера я вспомнил про слухи о том, что ссылки на статьи уже не имеют большого веса в этом алгоритме. Поэтому вместо вставки в пост прямой ссылки на свои работы я, как и многие другие журналисты, принялся добавлять ссылку только в комментарий к посту. Предполагалось, что этот трюк способствует алгоритмическому продвижению, хотя он и создавал неудобства для читателя. Потом мне стало ясно, что текст, напоминающий брачное объявление, и комментарии со словами “поздравляю” проталкивают посты в верхнюю часть ленты. Поэтому я стал делиться своими статьями с фальшивыми свадьбами или другими жизненными событиями. Следующие явления демонстрируют, как алгоритмы могут искажать сам язык, когда пользователи пытаются либо обмануть их, либо избежать обнаружения. Совсем недавно в ТикТоке появились эвфемизмы для терминов, которые заставляют алгоритм блокировать или замедлять видеоролик; журналист Тейлор Лоренц изWashington Post приводит примеры: unalive (“разоживить”) вместо убийства, SA вместо сексуального насилия, spicy eggplant (“пикантный баклажан”) вместо вибратора. Такую лексику прозвали algospeak (“алгояз”): язык, вылепленный по образу алгоритма.

Я не знал, сработают ли трюки, использованные мною в Фейсбуке, но был готов пробовать все, чтобы привлечь потенциальных читателей. Это походило на создание сайта для оптимизации работы поисковой машиныGoogle: журналисты оптимизировали контент под параметры алгоритма или, по крайней мере, под то, что мы ими считали. Этот процесс казался манипулятивным, а порой и кафкианским; мы сражались с невидимым, непонятным, постоянно меняющимся противником.

Примерно в 2015 году Фейсбук решил отдавать предпочтение видеоконтенту, поэтому алгоритм рекомендаций занялся активным продвижением видеороликов. В погоне за аудиторией медиакомпании переориентировались на создание таких роликов – иногда обращаясь за финансированием к самому Фейсбуку. Подобная политика продлилась всего несколько лет, после чего Фейсбук снова лишил видеоконтент приоритета, что привело к волнам увольнений в этих медиакомпаниях, включаяBuzzFeed, Mashable и MTV. (После завершения программы выяснилось, что Фейсбук также лгал о трафике видеороликов, завышая показатели в девять раз, если верить судебному разбирательству.) Алгоритмическая лента продолжала меняться. В 2016 году Фейсбук добавил к постам “реакции”, чтобы зрители могли поставить не только лайк, но и различные смайлики. Посты с большим количеством смайликов продвигались выше. Однако это нововведение привело к обратному эффекту: высоко поднимались посты, получившие много сердитых смайликов (например, политические истории, вызывавшие у людей злость), а это портило эмоциональный фон всего сайта. То, что подобные посты привлекали больше пользователей, не обязательно означало, что они были более ценными.

От хронологической ленты к увеличению алгоритмических рекомендаций перешел не только Фейсбук: этим путем в 2010-е годы проследовали почти все крупные социальные сети. В середине десятилетия, когда алгоритмизация усилилась, начал формироваться Мир-фильтр.

Фейсбук приобрел Инстаграм в 2012 году, когда там работало всего тринадцать человек. За прошедшие годы это приложение для обмена фотографиями стало больше походить на сам Фейсбук, перейдя от линейной ленты фотографий, загруженных друзьями, к потоку видео, рекламы и рекомендуемых постов. Лента Инстаграма начала переходить от хронологического к алгоритмическому расположению в марте 2016 года. Сначала нововведение тестировалось на небольших группах пользователей, а затем распространялось на все большее количество, пока не коснулось всех. Все более хаотичная лента вызывала чувство растерянности и тревоги – сродни ощущению, когда кто-то без вашего ведома переставляет мебель в вашем доме. Раньше, прокручивая ленту, вы постепенно перемещались в прошлое. Теперь же в верхней части вашей ленты могло внезапно появиться сообщение двухдневной давности.

В начале 2016 года менее хронологическим стал и Твиттер, на короткое время сделав алгоритмическую ленту выбором по умолчанию при входе пользователей в приложение – явная проблема для сайта, который многие использовали в качестве ленты новостей в реальном времени. (Хронологический вариант называлсяTwitter Classic, словно любимый вкус какой-то вредной пищи.) Позже приложение начало автоматически через некоторое время переключать пользователей на алгоритмическую ленту, вынуждая их отказаться от хронологии. Хотя рекомендации контента Netflix уже давно были алгоритмическими, в 2016 году этот стриминговый сервис начал менять интерфейс главной страницы, определяя приоритет рекомендаций и индивидуализируя их для каждого пользователя.

За этим сдвигом последовали более масштабные последствия для культуры, неожиданные для пользователей и, возможно, для самих компаний – примерно как запруда на реке меняет всю экосистему. Алгоритмизированные ленты начинают выглядеть по-разному для разных людей: невозможно узнать, что видит другой человек в данный момент, а значит, сложнее ощутить онлайн чувство общности с другими людьми – то чувство единения, которое вы, возможно, испытываете, когда смотрите фильм в кинотеатре или собираетесь с друзьями перед телевизором. Появление Мира-фильтра привело к уходу в монокультуру. У нее есть определенные преимущества (теперь мы можем потреблять более широкий спектр медиа), однако имеются и минусы. Культура должна быть коллективной; она требует определенной степени согласованности между аудиториями; без такой общности она теряет часть своего существенного влияния.

Проблема фрагментации усугубляется тем, что обновления рекомендательной системы не распространяются одновременно на всех пользователей приложения. В течение года или двух после 2016 года моя личная лента Инстаграма сохраняла строгую хронологичность, в то время как все вокруг жаловались, что не видят того, что хотят. В конце концов моя лента тоже переключилась, и я понял, на что жаловались мои знакомые. Мы привыкли, что наши ленты работают определенным образом, и когда они изменились, изменилось и наше поведение как потребителей. Мы застряли в алгоритмическом потоке, движимые теми переменными, на поиск которых его запрограммировали.

Развитие алгоритмической ленты, как и самого интернета, продвигалось медленно, но затем произошел всплеск. В начале 2020-х годов, когда я пишу эти строки, системы рекомендаций представляются неизбежными посредниками при нашем потреблении всех видов цифровых медиа. Зачастую кажется, что какая-то технология является чем-то из разряда далекого будущего, но внезапно щелкает выключатель, и скачок вперед становится совершенно обыденным фактом повседневной жизни.

В своей эпопее начала XX века “В поисках утраченного времени” Марсель Пруст исследует такие тонкие изменения в личных ощущениях на фоне развивающихся технологий. В одном из отрывков рассказчик Пруста называет телефон “сверхъестественным инструментом, чудесам которого некогда так дивились и которым теперь пользуются почти бессознательно для вызова портного или заказа мороженого”¹⁴. Телефон изобрели только в конце XIX века, когда происходит действие романа Пруста. К 1899 году в Париже насчитывалось семь тысяч телефонных абонентов. И тем не менее телефоны уже превратились в обыденность. Даже во время одного из первых телефонных разговоров рассказчика устройство не восхищает его, а раздражает. Пруст писал: “И все же привычка требует так мало времени для совлечения тайны со священных форм, с которыми мы соприкасаемся, что, не получив соединения немедленно, я подумал только о том, как это все долго, неудобно, и уже готов был обратиться с жалобой”¹⁵.

В 1933 году японский писатель Дзюнъитиро Танидзаки запечатлел другой момент технологических перемен, написав книгу “Похвала тени” – огромное эссе о появлении электрического освещения в Токио. Метафорический выключатель щелкнул; за время жизни Танидзаки (он родился в 1886 году) электрический свет, прежде неизвестный в его стране, распространился повсеместно – благодаря контактам с Западом, на волне растущей глобализации и последующих столкновений культур. Танидзаки писал о европейцах: “Не прекращают они своего движения в поисках света, стремясь рассеять последние остатки тени”¹⁶. В эссе писатель оплакивает уникальные формы японской культуры, которые вдохновлялись старой тусклостью света свечей, – от блеска позолоты на раздвижной бумажной двери дома до супа мисо “цвета красной глины” в полутемных домах: “Наши национальные блюда неразрывно связаны с темнотой и основным тоном своим имеют «тень»”.

И все же Танидзаки не мог игнорировать привлекательность электричества и других новых устройств: фарфоровых унитазов, обогревателей и неоновых вывесок. “Мы ничего не имеем против принятия всех современных достижений цивилизации”, – писал он. В своих художественных произведениях романист сообщал, что любит кинотеатры и современную архитектуру так же сильно, как он ценит традиции. В книге “Похвала тени” прослеживается, как менялись технологии, адаптировалась культура и трансформировались личные вкусы – та же схема, которую мы видим сегодня в Мире-фильтре.

С появлением новых технологий чудесное быстро становится обыденным, любой сбой в их работе воспринимается как неприятность, и в конце концов на них просто перестают обращать внимание – чудо исчезает. Мы забываем, что жизнь не всегда была такой: мы не могли напрямую разговаривать с людьми на больших расстояниях, комнаты не освещались потолочными светильниками, а машины не фильтровали информацию автоматически. Так и с присутствием алгоритмической подачи информации в нашей жизни; алгоритм часто остается незамеченным – предметом мебели, на который обращают внимание только тогда, когда он не работает так, как положено, как в случае со светофором или водопроводом.

Алгоритмическая тревожность

Если несколько веков назад играющий в шахматы механический турок оказался (ложной) встречей с чудесной технологией, принимающей решения независимо от человека, то теперь мы сталкиваемся с подобным десятки раз в день – в цифровых пространствах, на которые привыкли полагаться. Повсеместное влияние машин трудно переоценить. Если судить по общедоступным показателям, у Фейсбука сегодня почти три миллиарда пользователей. Инстаграм – около двух миллиардов. ТикТок – более одного миллиарда.Spotify – свыше пятисот миллионов. Твиттер – четыреста миллионов. Netflix – более двухсот миллионов. Каждое взаимодействие людей на этих платформах, каждый момент пассивного потребления определяется алгоритмическими рекомендациями. Даже если некоторые пользователи отказались от алгоритмической ленты, их участие вносит вклад в данные, которые служат основой для рекомендаций другим пользователям. Захват неизбежен. Для значительной части населения планеты социальные сети и стриминговые сервисы стали основным способом поглощения информации – будь то музыка, развлечения или искусство. Мы живем в эпоху алгоритмической культуры.

Технологические компании уже давно стремятся достичь таких масштабов. Монопольный рост для них важнее, чем качество пользовательского опыта, и уж точно важнее, чем справедливое распределение культуры по лентам сервисов. (Цифровая платформа не несет такой кураторской ответственности, как, скажем, художественный музей.) Согласно идеологии Кремниевой долины, стремление к масштабу перевешивает любые возможные негативные последствия. Это демонстрирует служебная записка, составленная в 2016 году Эндрю Босуортом из Фейсбука.

Таким образом мы подключим больше людей. Возможно, они будут использовать наши инструменты для чего-нибудь плохого. Может быть, это стоит кому-то жизни, если на человека нападут бандиты. Может быть, кто-нибудь погибнет в результате террористической атаки, скоординированной с помощью наших инструментов. И все равно мы соединяем людей. Уродливая правда заключается в том, что мы верим в связь между людьми настолько глубоко, что все, что позволяет нам чаще общаться с большим количеством людей, является *де-факто* хорошим.

Это заявление – яркая иллюстрация того, что если люди активно вовлечены в пользование платформой, то она считается успешной – независимо от того, чем они занимаются. Эта постоянная вовлеченность поддерживается автоматическими рекомендациями, предлагающими очередной привлекающий внимание заголовок или гипнотический развлекательный материал. Сегодня трудно представить себе создание произведения культуры, отделенного от алгоритмических лент, потому что именно эти ленты контролируют, как это произведение дойдет до миллиардов потребителей международной цифровой аудитории. Без лент нет и аудитории – творение существовало бы только для его автора и людей, непосредственно с ним связанных. Еще сложнее представить себе потребление чего-либо вне алгоритмических лент, потому что их рекомендации неизбежно влияют на то, что показывают по телевидению, играют по радио и публикуют в книгах, даже если самого этого контента в лентах нет. Мир-фильтр разливается повсюду.

Специалист по театру Тревор Боффон, который стал работать учителем в школе, дал удачное описание того, к чему приводит алгоритмическая культура. Он сказал мне: “Фильмы, которые успешны, – это фильмы, у которых есть подписчики в ТикТоке; хит-парадBillboard Hot100 диктуется ТикТоком; вы идете в книжный магазин сети Barnes and Noble и видите там прилавок BookTok”. (BookTok – термин, обозначающий сообщество литературных инфлюэнсеров¹⁷ ТикТока.) Иными словами, для коммерческого успеха какого-либо произведения культуры оно должно быть представлено на цифровых платформах. Карьера Боффона тоже формировалась под влиянием алгоритмов. Когда он начал разучивать танцевальные движения со своими учениками и выкладывать видеоролики в Сеть, он быстро обзавелся сотнями тысяч подписчиков в Инстаграме и на других платформах. Он появился на национальном телевидении, ненадолго став вирусным персонажем – танцующим учителем. После этого он опубликовал научную монографию о танцах – предмете, который вместе с ростом популярности в ТикТоке быстро наращивал привлекательность для университетов и редакторов. “За один месяц этого года моя работа привлекла больше внимания, чем за предыдущие десять лет, вместе взятых”, – заявил мне Боффон.

Опыт Боффона соответствует фундаментальному правилу Мира-фильтра: в условиях алгоритмической подачи популярное становится еще популярнее, а малозаметное – еще менее заметным. Успех или неудача ускоряются. “Жизнь обычного поста в Инстаграме определяется первыми тремя-пятью минутами”, – отмечает Боффон. Если пост сразу же получает отклики, то эта вовлеченность, скорее всего, будет усиливаться, и наоборот. Подобная динамика может оказаться жестокой. Когда я публикую нестандартную картинку в Инстаграме или пишу невразумительный твит и они не вызывают активных действий, это не мешает мне несколько раз проверять свой пост в надежде на новые лайки, даже если я знаю, что не сорвал алгоритмический джекпот.

Отсутствие внимания неизбежно поднимает вопрос о том, чтобудет продвигать лента: негласно поощряется более безопасный выбор и конформизм. Проблема и в том, кого продвигают. Зачастую славу, внимание и, соответственно, финансовую выгоду от популярности в алгоритмической ленте получают не создатели мемов или трендов. Примером может служить как раз хореография ТикТока. Тиктокер Чарли Грейс Д’Амелио прославилась в 2019 году благодаря своим танцевальным видеороликам на этой платформе. При этом хореографию одного из популярных танцев Д’Амелио – Renegade, – которую часто ей приписывают, на самом деле создала Джалайя Хармон, темнокожая девушка-подросток из Джорджии. Танец Renegade – это ряд размашистых движений руками перед корпусом и покачиваний бедрами; он идеально подходит для экрана ТикТока – движения не слишком сложны для исполнения, но их последовательность трудно запомнить, а поэтому зрители вынуждены запускать ролик снова и снова.

Сначала Хармон продемонстрировала танец в приложенииFunimate, затем в Инстаграме. Однако именно гипералгоритмическая лента ТикТока довела его до мейнстримной славы, которую обеспечили подписчики Д’Амелио – хотя при этом исчезло авторство Хармон, поскольку Д’Амелио на нее не сослалась. Создателям контента из социально обособленных групп, у которых нет такого же доступа к СМИ и вниманию, какой есть, скажем, у профессионально подготовленной белой танцовщицы, получившей образование в частной школе (например, Д’Амелио), труднее воспользоваться приливами Мира-фильтра. (После того, как авторство Хармон все же установили, на нее подписалось три миллиона пользователей ТикТока.)

Если учесть, что эти своевольные системы контролируют такое множество аспектов нашей жизни – от общения с друзьями до формирования аудитории для наших творческих проектов, – то стоит ли удивляться тому, что пользователи социальных сетей чувствуют себя параноиками? Нас призывают не обращать внимания на алгоритмические процессы, но их сбои напоминают нам об их незаслуженной власти. Неоднозначность влияния алгоритмов порождает чувство, которое получило название “алгоритмическая тревожность”. Алгоритмическая тревожность описывает растущее осознание того, что мы вынуждены постоянно бороться с автоматизированными технологическими процессами, находящимися за пределами нашего понимания и контроля, будь то наши ленты в Фейсбуке, указания для водителей отGoogle Maps или раскрутка товаров в Amazon. Мы постоянно пытаемся предугадать последствия решений, которые принимают алгоритмы, и сомневаемся в них. Алгоритмическая тревожность – это не гипотеза и не абстракция: она уже распространилась. Технологические компании знают об этом и уже много лет манипулируют таким ощущением своих пользователей.

В 2018 году Шагун Джавер, на тот момент аспирант Технологического института Джорджии, совместно с двумя сотрудникамиAirbnb провел социологическое исследование пользователей этой компании. Они проанализировали, как хозяева, сдающие свое жилье с помощью этого сервиса, взаимодействовали на платформе с алгоритмическими системами рекомендаций, поиска и рейтингов Airbnb, которые помогали арендаторам находить нужные объявления, и как они относились к этим системам. В своих выводах Джавер и другие исследователи использовали термин “алгоритмическая тревожность” для обозначения “неуверенности владельцев жилья в том, как работают алгоритмы Airbnb, и ощущаемого отсутствия контроля”. Арендодатели беспокоились, что поисковый алгоритм игнорирует их или отдает предпочтение другой недвижимости. Джавер заметил, что эта тревожность связана с технологией, а не с качеством жилья, которое хозяева сдавали в аренду: “Это было связано скорее с самим алгоритмом, нежели с улучшением их объявлений и недвижимости другими способами”, – сообщил он мне.

Airbnb заставляет владельцев жилья вести “двойные переговоры”, пишут исследователи, поскольку они должны определить, что ищут в объявлениях гости и какие переменные учитываются в первую очередь алгоритмами при продвижении их жилья. Однако хозяева не могли сказать, какие переменные на самом деле повышают рейтинг их объявлений. Они полагали, что шансы на продвижение повышаются под воздействием таких факторов, как количество накопленных отзывов, качество отзывов и количество доступных фотографий, но не были уверены, что алгоритм проанализирует их цены, удобства в доме или опыт сдачи жилья. Им не хватало информации о том, как работают эти системы. Все это было вопросом восприятия. Один из участников исследования жаловался: “Грустно наблюдать за поиском: многие объявления, которые уступают моим, находятся на более высоких позициях”.

Качество – понятие, конечно, субъективное, но настроение этого человека отражает ощущение пользователей, что алгоритмы неправильно понимают и неправильно оценивают ситуацию. “Это как экзамен, только вы не знаете, что будет на этом экзамене и как его успешно сдать”, – поясняет Джавер. И не только пользователи не знают, что происходит. Джавер продолжает: “В итоге даже люди, создающие алгоритмы, не могут объяснить вам, какой фактор отвечает за то или иное решение; сложность алгоритма настолько высока, что разделить факторы просто невозможно”.

Неудачное общение с алгоритмом может привести к немедленному падению доходов хозяев, в то время как они, как и все мы, рассчитывают на стабильный доход. (Непоследовательность алгоритмического продвижения заставляет нас заниматься им и нервничать по этому поводу еще сильнее – подобно тому, как мы многократно дергаем рычаг игрового автомата ради джекпота.) Платформы гиг-экономики¹⁸, такие как Airbnb, давно обещали гибкий график работы и альтернативные способы заработка или дополнительного дохода, но они также создали новую форму труда, связанную с необходимостью отслеживать изменения алгоритмических приоритетов. Владельцы недвижимости беспокоятся о поисковом алгоритме Airbnb, художники – об алгоритме Инстаграма, а музыканты – об алгоритме Spotify. Исследователи обнаружили, что владельцы жилья отреагировали на подобную алгоритмическую тревожность созданием “народных поверий” – суеверных трюков, которые должны были способствовать более эффективному алгоритмическому продвижению и улучшению результатов поиска – так же, как я раньше размещал ссылки на свои статьи с фальшивыми свадебными объявлениями. Некоторые из этих стратегий включали в себя постоянное обновление календаря объявлений, изменение данных в профиле и даже более частое открытие сайта Airbnb в течение дня. Такие трюки напоминают уловку ребенка, который кладет ложку под подушку, чтобы вызвать снегопад, из-за которого отменят школу¹⁹, и, надо думать, эффективны в той же степени. Как выяснили исследователи, хозяева “обычно сомневались в пригодности подобных теорий, но, несмотря на неуверенность, все равно совершали эти действия в попытке повлиять на алгоритм”.

Алгоритмическая тревожность – нечто вроде современной чумы. У многих пользователей она вызывает склонность (похожую на обсессивно-компульсивное расстройство) к повторению одних и тех же ритуалов, потому что, когда такие ритуалы “срабатывают”, эффект оказывается весьма убедительным, выраженным как в психологическом приливе дофамина от направленного внимания, так и в потенциальном экономическом вознаграждении, если ваше присутствие в Сети каким-то образом монетизируется. Это лежит в основе многих наших онлайн-действий: выбора правильной фотографии в профиле, создания привлекательной сетки снимков в аккаунте Инстаграма, подбора правильных ключевых слов в рыночном объявлении. Мы беспокоимся, что наши посты либо не увидят нужные люди, либо увидят слишком многие (если они завирусятся и выставят нас на обозрение чужакам). В этих поисках внимания мы испытываем эмоциональное потрясение: в итоге мы одновременно и перевозбуждаемся, и цепенеем, подобно игроку у автомата, с остекленевшим взглядом ожидающему выпадения одинаковых символов.

Алгоритмическая тревожность возникает из-за резко асимметричных отношений между пользователем и алгоритмом. Для отдельного пользователя пытаться предсказать или продиктовать результат работы алгоритма – все равно что пытаться управлять приливом. Продолжая эту метафору, можно сказать, что все, что может сделать пользователь, – оседлать уже образовавшуюся волну. У компаний нет особого стимула снижать эту тревожность, потому что замешательство пользователя может стать полезным для бизнеса. Когда продукт компании оказывается неэффективным или пользователь сталкивается с трудностями, в этом можно обвинить непрозрачную сущность “алгоритма”, который воспринимается как внешний объект относительно как пользователей, так и самой компании, поскольку уподобляется непрозрачным “черным ящикам”. Эксплуатация выдается за случайный сбой, а не за намеренную корпоративную политику. В действительности же такая компания, как Фейсбук, полностью контролирует свои алгоритмические системы и может менять их по своему усмотрению – или отключать.

Алгоритмическое беспокойство возлагает бремя действий на человека, а не на бизнес – именно пользователь должен изменить свое поведение, либо он рискует исчезнуть. Пользователи иногда жалуются на “теневую блокировку”, когда их посты или контент на платформе внезапно теряют прежний уровень интереса. Пользователи часто опасаются, что их аккаунт оказался заблокирован без предупреждения или обращения к какому-то лицу, принимающему решения; однако, возможно, просто без предупреждения изменились какие-то алгоритмические приоритеты, и нужный трафик больше не идет. Эффект возвращает нас к механическому турку: мы не всегда можем отличить работу технологии отиллюзии работы технологии, при этом восприятие может быть столь же убедительным, как и реальность.

В своей диссертации 2019 года под названием “Алгоритмическая тревожность в современном искусстве” Патрисия де Врис определила алгоритмическую тревожность как состояние, при котором “возможное «я» воспринимается ограниченным и управляемым алгоритмическими режимами”. Ее слова представляются потрясающе точными. Возможности, которые мы усматриваем для себя, – наши способы самовыражения и творчества – теперь существуют в рамках структур цифровых платформ. Последствия такого беспокойства – “алгоритмический детерминизм, фатализм, цинизм и нигилизм”, как пишет де Врис. Это приводит к ощущению того, что, поскольку мы, пользователи, не можем контролировать технологию, мы равным образом можем уступить ограничениям алгоритмической культуры и относиться к ней как к неизбежности. Многие пользователи, недовольные и неспособные представить себе альтернативу, уже впали в такое состояние отчаяния.

Де Врис стала наблюдать за этим культурным сдвигом еще в 2013 году, когда увидела несколько музейных выставок, где выставлялись работы художников, критически относящихся к автоматизированному надзору и сбору данных. Хотя алгоритмическая подача информации тогда только начала распространяться, алгоритмы попадали в заголовки новостей из-за таких событий, как резкий обвал индекса Доу Джонса 6 мая 2010 года, вызванный алгоритмической торговлей акциями, и из-за появления технологий наподобие распознавания лиц. Де Врис сказала мне, что к середине десятилетия, когда она приступала к своему исследованию, алгоритм стал “своего рода объектом нашего очарования”. Алгоритм оказался призраком, преследовавшим каждого, кто сталкивался с цифровыми платформами и их все более навязчивым присутствием в нашей жизни. Это не значит, что мы понимали, что именно делают алгоритмы: как заметила де Врис, “при страхе высоты дело не в высоте, и в алгоритмической тревожности дело не просто в алгоритмах”.

Чтобы двигаться дальше, мы должны отделить влияние алгоритмических рекомендаций как технологии от того, что мы привыкли принимать их в качестве основных контролеров нашего онлайн-общения. В конце концов, алгоритмы неотделимы от используемых ими данных, которые порождаются и постоянно обновляются людьми. Фактическое влияние сосуществует со страхом влияния, который в равной степени является манипулятивным. Алгоритмы вошли в нашу жизнь, обещая принимать за нас решения, предугадывать наши мысли и желания. Мир-фильтр представляет собой становление психического мира алгоритмов – не только то, как они работают, но и то, как мы, пользователи, полагаемся на них, позволив им вытеснить нашу собственную способность действовать – пусть даже мы начинаем возмущаться этой угрозой.

Глава 2
Разрушение личного вкуса

Книжный магазин Amazon

Однажды днем, находясь в Вашингтоне, округ Колумбия, я отправился в Джорджтаун – один из основных районов шопинга в городе. Его вымощенные улицы и главная магистраль вдоль реки образуют нечто вроде торгового центра под открытым небом, где милые ресторанчики и пекарни разбросаны среди магазинов международных модных брендов –Nike, Lululemon, Zara, Club Monaco. Покупатели тяготеют к тем брендам, которые подходят им больше всего, – возможно, исходя из определенной эстетики или подразумеваемого образа жизни. Бренд, который выбирает покупатель, говорит о нем не меньше, чем о самом бренде, – это взаимные отношения между создателем и покупателем, причем покупатель верит (или надеется), что дух бренда отражает его собственную идентичность. Покупатель идет в бутик Nike не только потому, что ему нужны хорошие кроссовки; Nike придает ауру молодости и энергии всему, что выпускает, будь то кроссовки или яркие футболки с трафаретной печатью. Zara, производящая платья и многие другие предметы одежды, создает с их помощью ощущение современного стиля без затрат на традиционные люксовые бренды. Купить платье Zara – значит стать участником ее образа эффективного очарования – ночной вечеринки. К этому восприятию отсылает каждая вещь в магазине компании. Иными словами, каждый магазин обслуживает определенное восприятие, а покупатели выбирают среди них, исходя из своих индивидуальных вкусов.

Однако один магазин Джорджтауна выделялся на фоне других: книжныйAmazon Books, управляемый огромной интернет-корпорацией. Amazon начала строить физические книжные магазины в 2015 году, и первый из них появился в Сиэтле. В 2018 году такая точка открылась в Вашингтоне, и мне было странно видеть в реальном мире логотип компании со шрифтом без засечек (это было до появления вездесущих грузовиков корпорации на всех городских улицах и автострадах). Интерьер тоже был непривычным. Когда я впервые вошел внутрь, меня поразил визуальный хаос – отсутствовала привычная для книжных магазинов атмосфера медитативного спокойствия. Это место больше напоминало гастроном. Книги на полках стояли обложками наружу, словно множество цифровых икон. Под каждой висела цифровая этикетка с указанием рейтинга книги на сайте Amazon по отзывам пользователей, объему продаж и даже количеству прочитанных покупателями страниц (этот показатель измеряли электронные читалки Kindle, продаваемые компанией).

Структура физического магазина повторяла дизайн сайта, где на первом плане находились “самые популярные” издания. Книги упорядочивались не по авторам, не по национальности и даже не по жанрам, а по тому, насколько успешными они оказались в интернете – таков был алгоритм, по которомуAmazon Books определял качество и ценность литературы. Снова всем управляла вовлеченность. Таблички объясняли, почему выставлены те или иные книги: они были “лидерами продаж” или получили рейтинг “4,5 звезды и выше”, а то и “4,8 звезды и выше”. Действительно ли дополнительные 0,3 звезды в среднем так много говорят о достоинствах книги? Некоторые книги именовались “самыми популярными на Amazon.com”, подчеркивалось даже количество предзаказов в интернете. Несколько стеллажей выглядели как аналоговые системы рекомендаций. В левой части полки стояла книга с подписью “Если вам нравится ←”, а в правой – подборка книг с надписью “Вам понравится →”. Например, книга Ноя Харари “Sapiens: Краткая история человечества” служила рекомендацией для других научно-популярных бестселлеров, таких как “Ружья, микробы и сталь” Джареда Даймонда и “Шелковый путь” Питера Франкопана²⁰. Однако примечательнее всего было то, что цены на каждую книгу определялись в соответствии с алгоритмом сайта Amazon, корректирующим их в режиме реального времени в зависимости от спроса и предложения.

Это противоположно подходу независимых книжных магазинов, которые люди любят за очарование и причудливость. Этикетки на их полках уникальны или неординарны, они отражают тематику: нью-эйдж, монографии по искусству, краеведение. Их владельцы знают свою местную клиентуру и формируют ассортимент в соответствии с ней. Возможно, некоторые книги продаются не очень хорошо, однако владельцы продолжают выставлять их в витрине, чтобы продемонстрировать идеалы магазина и свой личный вкус.

В магазинеAmazon Books было трудно уловить чувство вкуса; там отсутствовал дух, с которым я мог бы себя отождествить. Общий нарратив определялся исключительно рынком и тем, что привлекает внимание. Эстетика демонстрации диктовалась потребностью в быстрой поверхностной вовлеченности, что, возможно, отчасти объясняет моду конца 2010-х годов на обложки романов, составленные из ярких, полуабстрактных пятен (они привлекали внимание, но не имели никакого отношения к содержанию). Хотя на полках стояло много тех же книг, что и в других магазинах, где я часто бывал, обстановка казалась неузнаваемой и чуждой. Я не мог представить себя здесь в роли покупателя не только из-за деструктивных методов Amazon как работодателя и монополистической корпорации, но и потому, что у компании отсутствовало целостное представление о воображаемом покупателе.

Как и многие другие вещи, работающие в масштабах интернета, этот книжный магазин был “нечеловечным”. Он давал рекомендации, основанные на массе данных, стекавшихся от всех клиентовAmazon, – словно вы могли покупать только те книги, которые попали в список бестселлеров New York Times, причем этот список составляла компания, не заслуживающая доверия, стремящаяся рассматривать книги только как товар, который нужно как можно быстрее сплавить. Amazon оценивала книги по продажам, как Фейсбук оценивает контент по лайкам. Такой подход противоречил моему романтическому представлению о книжном магазине как о месте, куда можно сбежать от реальности и открыть для себя что-то новое и удивительное.

Одна из причин того, что магазинAmazon казался столь странным, заключалась в том, что он отражал циничное вторжение алгоритмической логики интернета в то, что мы называем “реальной жизнью”. В интернете нас заваливают предложениями песен, картинок и телепередач; подобные рекомендации и автоматическое посредничество алгоритмов легко принимать, когда дело происходит на экране, потому что такие предложения органичны, быстры и неизбежны. Но когда все происходит в физическом мире, где наш выбор редко предопределяется машинами в явном виде, они кажутся гораздо более бесцеремонными. Возможно, жутковатость магазина Amazon объясняется тем, что он физически поставил меня перед отсутствием свободы, продемонстрировав, насколько сильно алгоритмы заставляют нас не думать.

Ассортимент магазина на основе усредненных данныхAmazon оказался примечательно однородным и в конечном итоге скучным. Его тщательно отфильтровали, чтобы он понравился мне – по крайней мере, мне как типовому потребителю, – добавив многочисленные заверения, что представленные книги пришлись по вкусу другим людям. Но меня это не заинтересовало: я не ощущал стремления полистать их. Скорее я был ошеломлен, и, возможно, это стандартное состояние потребителей в мире фильтров: они окружены огромным количеством контента, который их не вдохновляет.

Эту проблему хорошо описывает шутка, которую в 2017 году написал в Твиттере инженерGoogle Чет Хаазе: “Алгоритм машинного обучения заходит в бар. Бармен спрашивает: «Что будете?» Алгоритм отвечает: «А что заказали все остальные?»” Суть в том, что в алгоритмической культуре правильным выбором всегда является то, что уже выбрало большинство. Но, возможно, вы просто не в настроении пить виски сауэр²¹, даже если ему отдали предпочтение другие люди.

Моим любимым книжным долгое время былMcNally Jackson; это небольшая сеть магазинов в Нью-Йорке, впервые появившаяся в Сохо (в 2023 году флагманский магазин переехал в новое здание в шести кварталах). Несмотря на то, что ассортимент McNally ни в коей мере не являлся персонализированным, у меня всегда возникало ощущение, что магазин работает лично для меня, словно понимает, что я ищу, потому что подборка книг была одновременно и широкой, и весьма специфической. Я прожил в Бруклине десять лет и все это время часто ездил на метро по маршруту L в Манхэттен, а затем по маршруту 6 в центр, шагал по зеленым улицам до витрины магазина McNally, проходил через стеклянную дверь в вестибюль, а затем в просторное помещение магазина. Ядро помещения составляли два стола одинакового размера у входа: справа – стойка для художественной литературы, слева – для нехудожественной; за ними располагались соответствующие полки. Многие из книг, выставленных на витринах, вышли недавно, однако предлагались и издания, которые, по мнению персонала, заслуживали более пристального внимания – коллективный акт курирования. Научная работа по философии от небольшого издательства соседствовала с научно-популярной книгой; на стойке с художественной литературой лежали не только романы, но и поэзия, зины²², беллетризованные мемуары и книги гибридных жанров. Такая структура всегда словно говорила: “Просто доверьтесь нам”.

Содержимое стоекMcNally менялось еженедельно. За каждой перестановкой я ощущал руку, которая выбирала книгу, – разум индивида, а не единую формулу. Просмотр ассортимента открывал новое; можно утверждать, что амазоновская формула “если вам нравится это, то понравится и то” функционирует аналогичным образом, однако McNally давал не такие прямые и буквальные связи. Они расширяли представление покупателя о том, что может содержать та или иная категория.

Если книжный магазинAmazon – триумф алгоритмической логики, то McNally представлял вершину деятельности живых законодателей вкусов – этим термином мы часто называем людей, сортирующих и отбирающих ту культуру, которую мы потребляем. Книготорговцы – это законодатели вкусов, однако ими являются и библиотекари, которые рекомендуют книги своим постоянным посетителям, и профессиональные закупщики для бутиков, ориентированных на тот или иной стиль жизни, и диджеи на радиостанциях, и агенты по заказу фильмов, которые предлагают их в кинотеатрах по всей стране, и составители концертных программ, которые приглашают музыкальные группы для выступлений. Все эти законодатели вкусов обеспечивают связь между создателями культуры и ее потребителями. Они постоянно собирают и оценивают новый материал, чтобы определить, как и почему он может найти отклик у аудитории, – процесс, который сегодня принято называть словом “курирование”.

Легко упустить тот факт, что при потреблении контента посредством цифровых платформ то, что мы видим в тот или иной момент, определяется уравнениями, а не подобными законодателями вкусов. На главной страницеNetflix, в ленте Фейсбука и в автоматизированном радио Spotify нет прямого влияния редактора, диджея или писателя, а есть лишь математическая обработка массовых данных, собранных от всех пользователей сайта. Курирование – как таковое – автоматизировано, а его масштаб уже выходит за рамки понимания отдельного человека. Наши алгоритмические ленты предлагают нам лишь опыт торговли Amazon, но не кураторский взгляд McNally.

Хороший вкус

Под “вкусом” законодатели вкусов понимают личные предпочтения, ту разборчивость, которую все мы используем, чтобы понять, что нам нравится, будь то музыка, мода, еда или литература. Мы постоянно решаем, что будем слушать или читать, будем носить ту вещь или эту. Подобный выбор носит внутренний характер, он отражает наши переменчивые настроения и постепенно формирует нашу индивидуальную организацию – чувство себя.

У каждого из нас есть друзья, которые, по нашему мнению, обладают “хорошим вкусом”. Например, мой друг Марк работает театральным декоратором, но при этом на зависть всем разбирается в музыке – для него это не работа, а увлечение. Многие люди бросают слушать новое еще в подростковом возрасте и просто раз за разом запускают своих любимых исполнителей, однако Марк слушает все прошумевшие новые группы и решает, стоит ли предлагать их друзьям. Раз в несколько месяцев я спрашиваю у него пару рекомендаций. Мне не всегда нравится вся его подборка альбомов, но я знаю, что послушать эту музыку стоит. Я доверяю его суждению, а он знает достаточно о моих личных вкусах, чтобы предположить, какая музыка может подойти мне лучше всего.

В иных случаях найдется друг, который всегда в курсе, какое вино лучше к ужину, друг, который следит за самыми актуальными модными брендами, или друг, который порекомендует стоящие телепередачи. “Вкус” – это слово, с помощью которого мы оцениваем культуру и судим о своем отношении к ней. Если что-то соответствует нашему вкусу, мы ощущаем близость к этому и идентифицируем себя с этим, а также формируем на соответствующей основе отношения с другими людьми – примерно так покупатели сходятся на почве этикеток на одежде (любя или ненавидя определенный бренд). Намеренно плохой вкус может быть столь же интересным, как и хороший; писательница Рэкс Кинг в своей книге “Безвкусица” сформулировала это так: “Отсутствие вкуса – это радость”. Однако в своих истоках вкус – гораздо более глубокое философское понятие. Он граничит с моралью, представляя собой врожденное понимание того, что в мире является благом.

В 1750-х годах проблему вкуса рассматривали французские энциклопедисты: философы Вольтер и Монтескьё совместно предложили хорошую основу для его западной концепции. Вольтер писал: “Вкусу мало видеть и понимать красоту произведения, ему необходимо эту красоту почувствовать, растрогаться. И ему мало смутного ощущения, смутной растроганности, ему нужно разобраться во всех оттенках”²³. Вкус выходит за рамки поверхностного наблюдения, за рамки простого определения “круто”. Вкус требует пережить произведение во всей его полноте и оценить собственную подлинную эмоциональную реакцию на него, проанализировав его воздействие. (Вкус не пассивен, он требует усилий.) Монтескьё, который был не только мыслителем, но также еще судьей и бароном, написал “Опыт о вкусе в произведениях природы и искусства” – литературный этюд, оставшийся незавершенным после смерти автора в 1755 году. Это прекрасное, перескакивающее с темы на тему произведение о том, что радует душу. Вкус, по мнению Монтескьё, “есть не что иное, как способность чутко и быстро определять меру удовольствия, доставляемого людям тем или иным предметом”²⁴.

“Но естественный вкус – это не теоретическое знание, – продолжал Монтескьё, – а быстрое и замечательное применение неизвестных нам правил”. Меня поражает последняя часть этого утверждения: вкус – это абстрактная, невыразимая, нестабильная вещь. Слушатель музыки или читатель книги не может точно сказать, понравится ли ему что-то, до того, как он это испытает; удовольствие от произведения искусства никогда не гарантировано. Поэтому, столкнувшись с произведением искусства, мы сразу же оцениваем его по какому-то набору ментальных принципов и (хотелось бы надеяться) находим в нем красоту, испытываем уверенность, даже если не можем точно описать, в чем тут красота и как именно мы ее определили. Предполагается, что вкус неоднозначен. Как сформулировал итальянский философ Джорджо Агамбен в своей монографии о вкусе 1979 года, “вкус наслаждается красотой, будучи не в состоянии ее объяснить”.

Вкус – это фундаментальная часть человеческого я; развивать его или потакать ему означает строить более прочное чувство собственного “я”. Он становится основой нашей идентичности. В 1906 году японский писатель Окакура Какудзо написал “Книгу чая”²⁵ – способ сохранить японские вкусы и рассказать о них на английском языке друзьям и покровителям в США, среди которых была коллекционер и меценат Изабелла Стюарт Гарднер. Обсуждая помещения для чайной церемонии, Окакура утверждал, что искусство само по себе не должно обладать универсальностью или рассчитываться на широкую аудиторию: “То, что помещение для чайной церемонии должно быть выстроено с учетом определенного индивидуального вкуса, шло вразрез с принципом жизненности в искусстве”. Окакура пересказывает историю из жизни художника XVII века Кобори Энсю. Ученики художника похвалили его коллекцию: “Каждый предмет у вас такой, что им невозможно не восхищаться. Это говорит о том, что ваш вкус превосходит вкус Рикю, потому что его коллекцию может воспринимать только один человек из тысячи”. Однако Энсю печально ответил: “Великий Рикю любил лишь то, что привлекало его лично, в то время как я невольно подстраиваюсь под вкусы большинства”. Энсю счел, что его собственный вкус слишком зауряден, чтобы оказаться по-настоящему великим. Тем не менее единственная цель алгоритмических лент – по сути именно удовлетворение “вкусов большинства” – большинства, основанного на данных.

Вкус не обязательно должен быть только положительным или рациональным. В 1930 году японский философ Куки Сюдзо написал эссе, в котором попытался дать определение японской культурной ценности под названиемики, которая представляла собой своего рода изношенность городского мира, выраженную амбивалентность во всех аспектах жизни. (Мой друг У. Дэвид Маркс, писатель, давно живущий в Токио, сравнивал ее с аспектами образа жизни васпов²⁶ в Новой Англии.) Любовь, деньги и красоту можно утратить так же легко, как и приобрести, а приобретение не всегда лучше, чем потеря. Отсутствие должно цениться так же, как и присутствие. “Ики понимается как высшая форма вкуса”, – писал Куки.

Монтескьё утверждал, что основополагающим элементом вкуса является неожиданность, которая может быть отталкивающей или вызывающей, как, например, особенно уродливый японский чайный сосуд в эстетике ваби-саби²⁷. “Предмет может нас поразить своей необычайностью, а также новизной и неожиданностью”, – писал он; такой предмет существует вне царства вещей, про которые мы знаем, что они нам нравятся. “Нередко случается, что мы испытываем удовольствие, когда не можем разобраться в своем чувстве и видим предмет совершенно отличным от того, каким мы его себе представляли”. Чтобы понять это ощущение удивления, может потребоваться время. Вкус не обязательно возникает мгновенно, и он меняется по мере того, как вы обдумываете и перевариваете впечатления от произведения искусства: “Понятие о великой красоте появляется тогда, когда какой-нибудь предмет вызывает сначала незначительное удивление, а затем это удивление не исчезает, а, наоборот, нарастает и обращается в восхищение”.

Упоминая картины итальянского художника эпохи Возрождения Рафаэля, Монтескьё описывал медленное горение какого-нибудь мощного произведения искусства, изящество которого может неожиданно проявиться из первоначальной неуловимости. Мне это напоминает вышедший в 2016 году альбомBlonde американского певца Фрэнка Оушена, выпущенный через четыре года после его дебютного альбома Channel Orange. Сначала я не обратил на него внимания: треки, похожие не на отдельные песни, а на волну синтезированного звука, тексты, размытые до непостижимости, завуалированные настраиваемые эмоции. Но какое-то неопределимое качество музыки влекло меня, и по ходу прослушивания я пришел к выводу, что суть заключается как раз в абстрактности альбома, а его призрачность – это портрет современного отчуждения и необходимости продолжать жить, несмотря на это. Разумеется, Blonde оказался популярным шедевром начала XXI века и прекрасно продавался. Однако ни альбом, ни музыкант не играли по правилам алгоритмических лент.

Коль скоро вкус действительно необходимо глубоко прочувствовать, коль скоро он требует времени для взаимодействия и ему идет на пользу удивление, которое возникает при встрече с незнакомым, то, похоже, технологии не смогут его воспроизвести – ведь алгоритмические рекомендации противоречат этим фундаментальным качествам. Если алгоритмы рекомендаций опираются только на сведения о том, что уже нравится вам и другим пользователям платформы, то, следовательно, эти алгоритмы хуже обеспечивают тот описанный Монтескьё вид неожиданности, который может не сразу понравиться. Структура ленты также не позволяет пользователям уделять слишком много времени какому-то одному материалу. Если что-то кажется вам скучным или, возможно, слишком тонким, вы просто продолжаете прокручивать ленту, и у вас не остается времени на то, чтобы развить чувство восхищения – вас все чаще подталкивают к нетерпению и поверхностности во всем. Как утверждает корейский философ Хан Бён-Чхоль в своей книге “В рое” (Im Schwarm), вышедшей в свет в 2013 году, огромное количество людей, общающихся друг с другом онлайн без барьеров – “демедиатизация” (устранение посредничества) интернета – заставляют “язык и культуру уплощаться и становиться вульгарными”.

Формирование вашего собственного чувства вкуса – набора подсознательных принципов, по которым вы определяете, что вам нравится, – это нелегкая битва по сравнению с пассивным потреблением контента, которым вас потчуют. Однако в сложившейся ситуации нельзя винить одни лишь алгоритмы. Сегодня нам предлагается больше культурных возможностей, чем когда-либо, и они доступны по запросу. Мы вольны выбирать что угодно. Однако часто мы делаем выбор в пользу отсутствия выбора, и тогда наш кругозор формируется автоматическими каналами, которые, возможно, и основаны на совокупныхдействиях людей, но сами по себе не являются человеческими.

В каком-то смысле этот переход к алгоритмам удобен. Утомительное дело – постоянно сверять свои предпочтения: изучать, какие новые культурные продукты появились, читать журналы или просить друзей порекомендовать книги, принимать решения о том, чем и где питаться. Возможно, у французских философов XVIII века и хватало времени на подобную роскошную форму труда, однако в современном мире, где темп жизни намного выше, большинство из нас не могут себе этого позволить. (У Монтескьё не было Инстаграма, отвлекавшего от созерцания полотен Рафаэля.) Доверившись, например, рекомендациям главной страницыNetflix, можно сэкономить усилия.

Вкус также может восприниматься скорее как повод для беспокойства, нежели источник личного удовлетворения. Выбор на основе вашего личного вкуса может оказаться неудачным, когда он нечаянно вступает в противоречие с нормами конкретной ситуации – например, если вы наденете спортивную одежду, отправляясь в офис, или яркие цвета на похороны. Я чувствовал себя ужасно, когда выбирал для приятелей неизвестный новый бар или ресторан, который, как мне казалось, должен всем понравиться, а в нем оказывалась совершенно неприемлемая атмосфера. (В одном из таких баров в Вашингтоне было некомфортно из-за множества чучел голов животных на стенах.) В такой ситуации автоматическая рекомендация отYelp или Google Maps, возможно, подошла бы мне лучше: доказательство демократического усредненного одобрения снимает с конкретного человека давление при выборе, который может оказаться слишком причудливым. Но в то же время я бы не хотел, чтобы подобные правила наименьшего общего знаменателя определяли, какие книги я читаю или какие телепрограммы смотрю. Культура – это не тостер, который можно оценить на пять звезд, хотя сайт Goodreads, который теперь принадлежит Amazon, и пытается применять такие оценки к книгам. Есть множество произведений, которые я люблю, – например, бессюжетный роман Рейчел Каск “Контур”²⁸, – которым другие люди, несомненно, поставили бы плохую оценку. Однако таковы правила, которые Мир-фильтр устанавливает для всего.

Поскольку вкус требует неожиданности, он также стремится к вызову и риску, часто заходя слишком далеко в каком-то определенном направлении. Безопасность позволяет избежать неловкости, но при этом она скучна. В XX веке вкус стал не столько философской концепцией, касающейся качества искусства, сколько параллелью с консьюмеризмом (потребительством) индустриальной эпохи, способом решать, что покупать самому, и осуждать других за то, что, в свою очередь, покупают они. Этот феномен – слишком сильное соответствие популярному вкусу и изолирование себя от более вдохновляющей, личной встречи с культурой – запечатлен в небольшом романе Жоржа Перека “Вещи” 1965 года²⁹. Он рассказывает о супружеской паре – Жероме и Сильвии; им нет тридцати, они, словно маркетологи, задают потребителям такие вопросы, как “Почему пылесосы на полозьях так плохо раскупаются? Что думают люди с умеренным заработком о цикории?”. Эта пара – собиратели данных о людях. Их личные желания также напоминают результаты маркетингового исследования: им нравится то, что должно нравиться. Перек описывает их вымышленную квартиру, наполненную вожделенными вещами: нефритовые пепельницы, стулья с тростниковыми сиденьями, обои с печатным рисунком, шведские лампы и рисунки Пауля Клее. Признаюсь, мне и сегодня это кажется милым.

Однако этот образ совершенства влечет за собой определенную пустоту. Слишком стандартизированный вкус деградирует. “Неустойчивый вкус, мелочная придирчивость, неопытность, подобострастное преклонение перед всем, что, как им казалось, свидетельствует о хорошем вкусе, часто приводили их к унизительным промахам”, – пишет Перек. Например, Жером пытается следовать моде дня, одеваясь как английский джентльмен, однако добивается лишь континентальной карикатуры, выглядя как “подражающий ему эмигрант с ограниченными средствами”. Он также изнашивает элегантные английские ботинки, надевая их слишком часто. Жером и Сильвия имеют представление о том, что им должно нравиться, но не совсем понимают, почему и как. Потребление без вкуса – это просто неразведенный ускоренный капитализм.

Наши вкусы формируются двумя силами. Как я уже упоминал ранее, первая – это независимое стремление к тому, что радует нас самих, а вторая – наша осведомленность о том, что нравится большинству других людей, то есть доминирующего мейнстрима. Эти две тенденции могут иметь противоположные направления, но второй из них зачастую следовать проще – особенно когда интернет делает достоянием общественности потребление других людей. (Если вы не написали пост об этом, то действительно ли вы смотрели эту телепрограмму?) Алгоритмические каналы еще больше усиливают присутствие этого мейнстрима, по которому оценивается наш личный выбор. Вкус неизбежен, он связан с “самыми повседневными выборами в повседневной жизни, например, в приготовлении пищи, одежде или декоре”, как писал французский социолог Пьер Бурдьё в своей книге 1979 года “Различение: Социальная критика суждения”³⁰. Этот выбор может символизировать массу вещей, выходящих за рамки наших эстетических предпочтений, – таких как экономический класс, политическая идеология и социальная идентичность. “Вкус классифицирует, и он классифицирует классификатора”, – писал Бурдьё. Неудивительно, что мы беспокоимся о том, что нам должно нравиться, и иногда считаем, что проще переложить эту ответственность на машины.

КомпанияAmazon создала устройство, которое предназначалось для аппроксимации вкуса. Оно называлось Amazon Echo Look и могло принимать за вас решения в вопросах моды. Я опробовал эту систему после запуска в 2017 году. Устройство Echo Look было маленьким белым пластиковым цилиндром на невысокой подставке; в центре, как одинокий глаз циклопа, находилась камера. В рекламе эту систему называли удобным средством сделать селфи вашего наряда со всех ракурсов: достаточно поставить устройство на полку, а затем принимать элегантные позы и голосом приказывать ему делать фото. Полученные снимки отправлялись на телефон и сохранялись в приложении, которое создавало энциклопедию вашего гардероба – вы могли просматривать свои вещи, словно в личном аккаунте в Инстаграме (совсем как героиня комедии “Бестолковые” Шер Хоровитц). Однако камера при этом также оценивала вашу одежду с помощью функции Style Check (“Проверка стиля”), используя комбинацию алгоритмического анализа и живых сотрудников (вспомните сервис ложной автоматизации Mechanical Turk, предложенный компанией Amazon), чтобы сообщить вам, сочетаются ли ваши предметы одежды и является ли это сочетание модным.

Чтобы узнать, какEcho оценивает стиль, я примерил две пары футболок и джинсов (один наряд был полностью черным, а другой – полностью серым), вставая перед Echo Look, словно перед мамой в день фотосъемки в начальной школе. Когда я сравнил эти два комплекта с помощью функции “Проверка стиля”, черная одежда получила оценку выше – 73 % стильности из 100 возможных, в то время как комплект из серых джинсов и футболки получил оставшиеся 27 %. Пояснения системы толком ничего не объясняли: “То, как вы скомбинировали эти вещи, смотрится лучше”. Может быть, одноцветный черный – это устоявшийся модный образ, а одноцветный серый не так приятен и, следовательно, более радикален? Не могу сказать.

Среди других содержательных суждений были “Такое сочетание цветов лучше” и “Форма наряда подходит больше”. “Проверка стиля” также сообщила мне, что при ношении оксфордской рубашки³¹ закатанные рукава лучше, чем застегивающиеся на запястьях, а поднятый воротник – хорошая идея (вопреки моему собственному вкусу, сформировавшемуся в средней школе, когда я бунтовал против моды на Abercrombie³²).Согласно алгоритму Echo Look, наилучший выбор для джинсов – синий деним. Система выдавала оценку, но не предлагала ни целостного понимания, ни эмоционального обоснования. “Проверка стиля” просто сравнивала ваш выбор со средним значением данных в своих архивах. Ваш вкус в моде представлялся наилучшим, когда соответствовал вкусу других людей. Более того, устройство Echo Look также рекомендовало немедленно купить одежду, соответствующую идеальному дресс-коду, и компания Amazon, продававшая ее, разумеется, извлекала прибыль из своего видения алгоритмической усредненности.

Такова модель культурных предпочтений “снизу вверх”, противоречащая как личному определению вкуса, так и существовавшей до интернета системе законодателей вкуса – людей, которые вручную выбирали, что является классным и крутым, и навязывали это всем остальным. Такая иерархия лучше всего показана в ставшей мемом сцене из фильма “Дьявол носитPrada” 2006 года. Мерил Стрип играет в нем копию главного редактора Vogue Анны Винтур, а Энн Хатауэй – ее наивную ассистентку, которая только постигает основы работы в модных журналах. В одном из эпизодов на героине Хатауэй толстый голубой свитер, который она по наитию купила на распродаже – похоже, не столько из-за его стильности, сколько из-за удобства. Но Стрип объясняет, что такое решение было продиктовано ей заранее, такими же редакторами моды, как она. Монолог Стрип звучит высокомерно: “Ради появления этого оттенка были затрачены миллионы долларов и огромный труд, и хотя вы уверены, что сделанный вами выбор подчеркивает вашу независимость от моды, на самом деле вы носите свитер, который был выбран для вас людьми в этой самой комнате из горы «тряпок»”. Его выбрали люди – законодатели вкуса.

В конечном итоге вкус – это своего рода алгоритм, который классифицирует вещи как хорошие или плохие. Уравнение, на котором он основан, учитывает личные предпочтения, предубеждения, почерпнутые из маркетинга, социальный символизм, а также непосредственное восприятие предмета культуры и в итоге выдает персональный ответ на вопрос, нравится ли вам данная вещь или отталкивает. Поэтому бывает трудно отличить этот органический социальный код от программного кода рекомендательных алгоритмов, но делать это крайне важно.

Кто должен говорить вам то, что вам нравится, – живой редактор моды или алгоритмическая машина, принявшая форму книжного магазинаAmazon, ленты Spotify или домашней страницы Netflix? Это центральная дилемма культуры в Мире-фильтре. Первый вариант непредсказуем; в нем всем заправляют элитные хранители – могущественная группа, сформировавшаяся за столетие существования современной культурной индустрии и испещренная собственными слепыми пятнами и предубеждениями, включая гендерные и расовые. (В эту группу входят не только преимущественно белые редакторы модных журналов в Нью-Йорке, но и голливудские продюсеры, руководители звукозаписывающих компаний и музейные кураторы.) Однако человеческие недостатки могут оказаться еще более значимыми в алгоритмической экосистеме, когда действия массовой аудитории диктуют то, что нельзя не заметить. Де-факто частью этого уравнения являются расизм, сексизм и другие формы предвзятости.

Пользователи Сети часто изолированы от взглядов и культур, которые не соответствуют их собственным. Общую цифровую среду диктуют технологические компании с безжалостными капиталистическими экспансионистскими мотивами, которые создают не самую благодатную почву для культуры. Если редактор модного журнала может периодически использовать свои возможности, чтобы выбрать и продвинуть ранее неслыханную идею, то алгоритмическая лента никогда этого не сделает; она может лишь повторять уже сложившиеся взаимодействия. Таким образом, у нас, пользователей, оказывается меньше шансов столкнуться с чем-то шокирующе новым и решить для себя, нравится ли нам это. К примеру, мода часто становится сильнейшей формой искусства, если она не следует правилам и не гонится за усредненными показателями. Отчасти ее привлекательность заключается в нарушении социального кода: надеть что-то неожиданное или странное, даже иногда бросить вызов собственному вкусу. Это то, к чему не могут приблизиться никакие автоматические рекомендации. Алгоритмические ленты – это обоюдоострый меч: возможно, модельер из какой-нибудь социально отчужденной группы найдет способ обхитрить алгоритм Инстаграма и добиться популярности, не дожидаясь, пока его заметит белый редактор, который может быть предвзято настроенным к нему. Но в этом случае он подчиняется принципам технологической компании, еще более могущественной и еще более незрячей, нежели этот редактор.

Возможно,Amazon Echo Look стал слишком сложным алгоритмическим мостом. Критики скорее восприняли устройство как инновационную камеру, а не как приспособление для создания стиля. Оно так и не обрело популярность. В 2020 году компания объявила, что устройство снимается с производства и камеры с сопутствующим приложением полностью прекращают работу. В соответствующем заявлении компании говорилось, что она намерена “применить в моде искусственный интеллект и машинное обучение”. Функцию “Проверка стиля” встроили в приложение Amazon, предназначенное для покупок. Возможно, компания все же достигла своей конечной цели – собрать данные о наших вкусах, чтобы в будущем использовать их в каком-нибудь приложении с усовершенствованным алгоритмом рекомендаций.

Нормализация вкуса

Сила алгоритмического давления – не теория. Это не какое-то мрачное антиутопическое будущее, а всепроникающая сила, которая уже сейчас оказывает влияние на потребителей и создателей культуры. У потребителей бомбардировка рекомендациями может вызвать своего рода гипноз, который практически неизбежно приводит к прослушиванию, просмотру или покупке продукта – независимо от того, соответствует ли он вашему вкусу или нет. Подтверждение этому я обнаружил в колонке советов, опубликованной модным критиком Рейчел Ташджиан в ее электронной рассылкеOpulent Tips. Валери Питер, женщина двадцати с небольшим лет, написала Ташджиан в 2022 году, пожаловавшись на то, что алгоритмические ленты усложнили осознание ее собственных стилевых предпочтений. “Я просидела в интернете последние десять лет и не понимаю, что мне нравится – то, что нравится мне, или то, что мне должно нравиться по желанию алгоритма”, – писала Питер, демонстрируя острый случай алгоритмической тревожности. Инстаграм, ТикТок и Пинтерест казались тупиком. “Мне нужно то, что мне действительно нравится, а не то, что мне пытаются продать”, – заканчивала она свое письмо. Я связался с Питер, чтобы выяснить, что именно вызвало этот кризис вкуса, и в итоге мы обсудили, как развитие социальных сетей коренным образом изменило наше отношение к культуре.

В то время Питер заканчивала аспирантуру, изучая электротехнику, и жила там же, где училась, – в Манчестере (Англия). В детстве, путешествуя между Нигерией в Британией, она весьма интересовалась модой и следила за всеми подиумными показами. Друзья говорили, что ей следует стать модным писателем, однако она решила выбрать более надежную с финансовой точки зрения карьеру, оставив свои увлечения в качестве хобби. Она рано получила доступ к интернету и еще подростком в 2011 году зарегистрировалась в Фейсбуке. Постепенно стало казаться, что из социальных сетей не выбраться: Питер начала в значительной степени полагаться на них как на средство связи с внешним миром – особенно во время пандемии. “Они как бы просочились и в реальную жизнь”, – говорит Питер. В последнее время тренды превратились в “микротренды”, появляющиеся и исчезающие за несколько недель; когда друзья цитируют мемы или видео, которые она еще не видела, у нее возникает ощущение, что она что-то упускает. (Беспокойство от того, что не успеваешь за алгоритмом.)

В конце 2021 года Питер попала под влияние одного такого микротренда. Все ее ленты – страницу “Интересное” в Инстаграме, ленту “Для вас” в ТикТоке и рекомендации в Пинтересте – заполонили теплые гетры – трубки из пушистой ткани, доходящие до колена. Это не было платной рекламой, но предложения лезли отовсюду. Питер сказала мне: “Я никогда бы не подумала о теплых гетрах. Я считала их уродливыми, отвратительными, смешными”, – пока не столкнулась с ними в Сети. Вскоре она обнаружила, что купила их одним нажатием кнопки по какой-то почти бессознательной прихоти – “волшебным образом”, как она выразилась. Эта покупка в конечном итоге не изменила ее мнения: Питер надела злополучные гетры всего несколько раз, а потом засунула их в дальний угол шкафа. Она говорит, что “не уверена, что этот выбор сделала она”.

Это алгоритмическое влияние в значительной степени естественным образом проникало в социальные сети, как явный продакт-плейсмент может затесаться в захватывающий фильм. Тем не менее, как и в случае с типовыми кафе, которые я встречал по всему миру, никто не заставлял инфлюэнсеров и платформы поддерживать этот тренд; участие в “гетромании” означало раскрутку и, следовательно, рост внимания и числа подписчиков. Стоило Питер проявить интерес всего лишь к одному посту о теплых гетрах, как на нее повалились рекомендации, и контент ленты с неизбежностью изменился – в соответствии с алгоритмической логикой “если вам нравится эта вещь, то вамопределенно понравится еще вот это и вон то”.

У Питер был похожий опыт с ювелирными изделиями фирмыVan Cleef & Arpels, которые обрели популярность в ТикТоке после появления на каком-то реалити-шоу, и с астрологией, за которой Питер недолго следила в Твиттере, но потом потеряла интерес. Однако Твиттер продолжал подсовывать ей рекомендации по астрологии, зачастую с негативными предупреждениями – сколько она ни просила сеть прекратить присылать ей такие твиты. “Я начала опасаться за свою жизнь каждый раз, когда Меркурий становился ретроградным, – говорит она. – Я не хочу этого видеть, но мне продолжают это показывать. Это разрушает мою жизнь”. Мало того, что лента пытается угадать, что вам нравится, она, похоже, не понимает, когда ваши предпочтения меняются или эволюционируют.

Алгоритмическую тревожность отчасти подпитывает бич таргетированной онлайн-рекламы, которая использует те же алгоритмы, что и ленты. Цифровые технологии отслеживают ваши действия, после чего вам предлагают рекламу товаров, соответствующих вашей вовлеченности, – от брендов, которые платят за ваше внимание. Поскольку реклама – это основной способ заработка для многих цифровых платформ и онлайн-изданий, она появляется повсюду: вклинивается в тексты статей и выпрыгивает в виде роликов с автовоспроизведением. В отличие от телевизионной рекламы или рекламы в бумажном журнале, эти объявления персонализированы и повторяют темы, которые вы, возможно, предпочли бы проигнорировать – поскольку многие веб-издатели продают места рекламодателям через одно и то же программное обеспечение, например,Google AdSense, одни и те же объявления могут появляться на всех сайтах. Подобный случай произошел у меня с одним предметом мебели – шкафчиком от немецкого производителя USM. Модернистская конструкция из ярко окрашенных металлических полок появляется повсюду, привлекая мое внимание еще до того, как я это осознаю. Однако реклама не заставляет меня все сильнее хотеть этот шкафчик; я устал от него и начал сомневаться в собственных предпочтениях.

“Сейчас большая часть культуры формируется в социальных сетях; существует масса микротрендов. Не успеешь моргнуть или решить, нравится тебе это или нет, как лента уже переходит к следующей вещи”, – объясняла мне Питер. Она подытожила проблему так: “Я просто хочу знать, что то, что мне нравится, действительно нравится именно мне”. Иными словами, она стремилась обрести уверенность и стабильность в собственном чувстве вкуса. Хотя она понимала, что частично сама несет ответственность за свои рекомендации, алгоритмическое ускорение контента опережало ее повседневный опыт до абсурдной степени. “Не каждое взаимодействие в реальной жизни влияет на мой выбор. С чего бы это делать краткому контакту с инфлюэнсером, носящим теплые гетры? Мне это скормили”, – говорит она. В физической прогулке по манчестерским тротуарам заключалось больше разнообразия и оригинальности, чем в ее похожих одна на другую цифровых лентах.

Я чувствую то же самое в отношении своей личной эстетики дизайна, которая тяготеет к середине века и минимализму – в конце концов, это универсальные стили Инстаграма. Я интересовался этим стилем еще до появления в социальных сетях, однако медленная струйка рекомендованных аккаунтов, за которыми я следил, в последнее время превратилась в бурный поток. Мне предлагают все новые и новые ненужные аккаунты, публикующие элегантные интерьеры помещений: увешанные растениями дома с чистыми бежевыми стенами из Мексики, Швеции, Японии. Как и в случае с проблемой гетр, с которой столкнулась Питер, даже если мне понравился какой-то контент, это не значит, что я хочу видеть его постоянно. Подобные рекомендации не стремятся поддержать мое внимание, а вынуждают меня столкнуться с отсутствием эстетики в контексте и смысле. Возможно, алгоритмическая лента убедит меня в том, что мне не нравится то, что – как я думал – мне нравится, или как минимум настроит мой вкус против этого гораздо быстрее – из-за перенасыщения, как бывает в случае с едой, которая кажется не такой аппетитной, когда вы едите ее слишком часто.

В случае с Питер алгоритмический вкус оказался одновременно и скучным, и отчуждающим. Напротив, если смотреть со стороны создателя, то вездесущность может быть выгодной. Для такого коммерческого бренда, какVan Cleef & Arpels, повышенное внимание к определенному продукту почти неизменно оказывается положительным. Чем шире аудитория, тем больше единиц товара продается. Чем больше мемов, тем лучше. Однако алгоритмические рекомендации также способны исказить намерения создателей культурных ценностей, которые они выкладывают в ленту, и изменить их отношение к собственным работам. Во многих случаях обе стороны оказываются не рады тому, какой контент получает продвижение.

В начале 2018 года пятидесятичетырехлетний музыкант Дэймон Круковски, барабанщик инди-группы 1980-х годовGalaxie500, заметил, что с музыкой его бывшей группы на Spotify происходит нечто странное. Поскольку группа выкупила права на свою музыку и перевела ее под собственный лейбл, Круковски точно знал, сколько раз воспроизводятся те или иные треки. Трек Strange из альбома 1989 года On Fire слушали гораздо чаще, чем любой другой из дискографии группы – на сотни тысяч раз. (Это также означало, что песня приносила Круковски и его бывшим коллегам больше денег.) На графике числа воспроизведений линия для Strange отделялась от остальных песен, поднимаясь под углом в сорок пять градусов. А ведь этот трек не был синглом, не имел при выходе какого-то приоритета и не подпитывался маркетинговыми усилиями. “Для меня это выглядело полной случайностью”, – сказал мне Круковски. Странности добавлял и тот факт, что всплеск популярности композиции Strange наблюдался только на Spotify; на других стриминговых сервисах этого не происходило.

Для КруковскиStrange был своего рода шуткой: вольным подражанием более популярной музыке. Во время работы группы над треком он называл композицию Heavy Metal Ballad. Она выпадает из остальных средненьких неуклюжих песен альбома. Galaxie500 гордится интровертностью своей музыки. Дэвид, басистка Наоми Янг и гитарист Дин Уорхэм начали играть вместе, будучи студентами Гарварда; их трио относилось к числу интеллектуальных групп, чурающихся внимания, одновременно панковских и скучных.

Galaxie500 распалась в 1991 году, выпустив всего три альбома, однако Круковски продолжил карьеру музыканта и автора и в конце концов поселился вместе с партнершей Янг в Кембридже (штат Массачусетс). В 2010-х годах, занимаясь коммерческими правами на произведения своей группы, он стал критиком в индустрии потокового вещания. Единственное изменение, которое могло вызвать феномен Strange, – тот факт, что в 2017 году Spotify сделал автовоспроизведение опцией по умолчанию. Иными словами, как только заканчивалась выбранная пользователем музыка – будь то трек, альбом или плейлист, – начинала звучать песня, рекомендованная алгоритмом.

“В тот день, когда они изменили эту настройку, и начался отрыв одной песни от остального нашего каталога”, – говорит Круковски. КомпозициюStrange система рекомендовала чаще, чем остальные песни Galaxie500. Круковски опубликовал свои наблюдения в новостной рассылке, которая привлекла внимание Глена Макдональда, работавшего в то время “алхимиком данных” в Spotify. Макдональд занялся внутренним расследованием и пришел к выводу, что композиция Strange сорвала алгоритмический джекпот не из-за уникального музыкального стиля Galaxie500, а потому, что сильнее походила на песни других коллективов, нежели прочие треки группы. Когда звучала Strange, слушатель с меньшей вероятностью нажимал кнопки “Пропустить” или “Остановить”, и поэтому система рекомендаций считала ее эффективным выбором и предлагала все большему числу слушателей.

Когда я спросил Круковски, почему, на его взгляд, песня выстрелила, он упомянул признаки ее сходства с балладами в стиле хеви-метал, популярными в восьмидесятые годы: регулярный ритм ударных, резкий тон гитары, нехарактерный дляGalaxie500, отсутствие длинных соло и краткость – три минуты и девятнадцать секунд. Другими словами, Strange звучит как обычная песня. “Ее было весело играть, потому что мы позволяли себе лупить чуть больше, чем обычно, – говорит Круковски. – Именно это и услышал алгоритм в песне”. Кроме того, существовала алгоритмическая обратная связь: популярное становится еще популярнее. “Как только песню начинают рекомендовать, ее начинают рекомендовать все активнее”, – добавил он. Учитывая приоритеты рекомендательной системы Spotify того времени, преуспевал наиболее типовой стандартный контент.

Так происходит алгоритмическая нормализация. “Нормальный” – это слово для обозначения чего-то неназойливого, неприметного, среднего, чего-то, что не вызовет негативной реакции. Контент, который вписывается в эту зону усредненности, получает ускоренную раскрутку и продвижение, как это произошло со Strange, а все остальное оказывается на обочине. Поскольку контент, который не продвигается, увидят меньшее количество людей, то, соответственно, снижается его известность, а вместе с этим и стимул производить его – в частности, из-за отсутствия финансовой надежности. (Правило культуры в Мире-фильтре гласит: “Завирусись или умри”.) Границы эстетической приемлемости сужаются все сильнее, пока не остается только столбик посередине. Хотя популярные стили меняются, как движущиеся мишени, централизация и нормализация сохраняются. Вот почему, когда какая-нибудь модель твита начинает пользоваться бешеным успехом, кажется, что все в Твиттере ее копируют: например, публикуют открытый запрос рекомендаций или выдают какую-нибудь абсурдную шутку за слова своего ребенка (настоящего или выдуманного). Сам язык становится нормализованным. “Существует своеобразное давление: будь нормальным. Такое давление просто говорит: будь средним, чем-то таким, что тебе кажется безопасным и надежным, что каким-то образом позволяет тебе чувствовать себя частью группы, – говорит Круковски. – Здесь находится ужасная точка исчезновения, и это фашизм”. Он описал состояние Мира-фильтра как “черную дыру нормальности”.

Фашизм означает принуждение к соблюдению догматов единого идеологического взгляда на мир, который может полностью исключать определенную идентичность или демографическую группу. Это мандат на однородность. Мир-фильтр может быть фашистским в том смысле, что алгоритмические ленты склонны создавать шаблоны, которым все должно подчиняться, всегда исходя из присущей им предвзятости – замыкание реальности в скобки, которые затем заполняются пользователями, создающими контент, который соответствует этой форме. Это ограничение включает в себя формы как культуры, так и идентичности. Мир-фильтр вполне можно назвать диктаторским или феодальным: мы все живем в Сети в пространстве, над которым не имеем власти, следуя своенравным правилам, которые не одобряем.

Круковски нравится композицияStrange, с запозданием ставшая хитом, однако он отмечает: “Я никогда не считал ее выдающейся песней. Если зажмуриться – а именно это делает алгоритм – и слушать, отвернув голову, то вполне можно принять ее за работу другой группы”. Эта песня не отражала представления барабанщика о том, чего Galaxie500 пытались достичь в своем творчестве; вещь, которая была в некотором роде музыкальной шуткой, невольно стала олицетворением работы группы в целом. На самом деле в качестве главной песни альбома группа выбрала более медленную и спокойную композицию Blue Thunder – и с этим не согласились некоторые руководители их лейбла.

Современные алгоритмические рекомендации оставляют артистам гораздо меньше выбора в том, что становится популярным, и еще меньше контроля над контекстом, в котором появляется их работа. ИнтерфейсSpotify, который выделяет самые прослушиваемые песни группы в верхней части страницы, затрудняет поиск и воспроизведение полного альбома с оригинальным порядком песен. Galaxie500 не могут целенаправленно противостоять алгоритмическим решениям, как они могли пойти против своего лейбла. Круковски продолжает: “Странная штука с алгоритмами заключается в том, что мы все находимся под этим давлением, хотим мы того или нет. Даже если мы не желаем иметь с этим процессом ничего общего, алгоритм все равно налетит, выберет вашу самую «нормальную» песню, и вас станут идентифицировать с нею, а не с по-настоящему «вашим» треком”. То же относится к художникам, писателям и всем, кто чувствует онлайн-давление, заставляющее придерживаться какого-то “личного бренда”.

А поскольку сервисSpotify неумолимо контролирует взаимодействие слушателей с музыкой, ему не требуется стимулировать музыкантов так, как это делали крупные лейблы – серьезными контрактами или другими бонусами. “У нас есть давление со стороны алгоритма и нет ничего взамен”, – говорит Круковски. Нет даже стабильного заработка. У Strange набралось четырнадцать миллионов прослушиваний за все время существования Spotify, у второй по популярности песни Galaxie500, Tug Boat, – девять миллионов. И тем не менее Strange заработала на Spotify всего пятнадцать тысяч долларов. Обмен охвата аудитории на доходы – особенно в ущерб восприятию группы как самобытной – кажется музыканту несправедливым: “Словно добыча сырья”. И все же многие авторы вынуждены идти на подобную сделку, чтобы вписаться в Мир-фильтр.

Категоризация на Netflix

Большую часть взрослой жизни у меня не было телевизора. В колледже я обычно “пиратил” передачи, которые хотел посмотреть, например, сериал “Безумцы”, а в 2010-х годах эта моя нехорошая привычка распространилась на “Игру престолов”. Большую часть программ и фильмов я смотрел по классической схеме: ноутбук стоял на подставке рядом в кровати, а подушки, подпирающие голову, обеспечивали идеальный угол обзора. Первую версию своего стримингового сервиса компанияNetflix запустила в 2007 году, но у меня долгое время не было собственного аккаунта, а даже когда он у меня появился, это был профиль в подписке родителей моей девушки. Такой способ просмотра контента отличался нерегулярностью и бессистемностью. Сначала я должен был понять, что хочу посмотреть; это означало следование советам друзей или рекомендациям, найденным в социальных сетях или блогах. Затем мне требовалось найти нужную передачу и настроить компьютер, щурясь от холодного света близко расположенного экрана в затемненной комнате. Это совсем не походило на то, как в моем детстве в 1990-е годы мы включали в гостиной телевизор и смотрели все, что показывали по кабельному.

Однако во время пандемии ковида в 2020 году мои привычки изменились. Когда в новостях стали поговаривать о карантине, а мировые цепочки поставок начали испытывать проблемы, я приобрел себе в квартиру только одну вещь – огромный телевизор из черной блестящей пластмассы (первый телевизор, который я купил для себя), и его 60-дюймовый плоский экран нависал над моей гостиной, как инопланетянин. Он заменил кресло в углу. Некоторое время мы с моей девушкой Джесс не могли привыкнуть к его присутствию в квартире, но потом у нас не осталось выбора: во время локдауна оставалось только смотреть ассортимент хороших телепередач. Так что я наконец завел собственный аккаунт вNetflix.

Главная страницаNetflix с ее прокручивающейся сеткой значков-миниатюр для отдельных сериалов или фильмов стала еще одной лентой контента – подобно Spotify, Инстаграму или Твиттеру. В те дни я часто заглядывал на нее и поэтому начал гораздо лучше понимать, как интерфейс подстраивается под то, что считает моими предпочтениями. Постепенно в верхней части этой страницы стали собираться определенные категории передач: документальные фильмы о путешествиях, кулинарные шоу и международные детективные мини-сериалы. Они обещали персонализацию, появляясь под такими заголовками, как “Лучшие подборки для Кайла” и “Категории для вас”. Порядок категорий сверху вниз и отдельных передач слева направо в каждом строке определялся алгоритмически. В своем официальном справочном центре Netflix сообщал: “Наши системы упорядочили названия таким образом, чтобы представить наилучший возможный порядок названий, которые могут вам понравиться”.

КомпанияNetflix была пионером в области фильтрации культуры с помощью рекомендательных систем. Еще до организации потокового сервиса в 2007 году, когда компания занималась просто рассылкой DVD по почте, у нее на сайте имелся модуль Cinematch, который рекомендовал клиентам фильмы, основываясь на оценках других пользователей (по пятизвездочной системе) – подобная форма социальной фильтрации информации недалеко ушла от Ringo – более ранней системы музыкальных рекомендаций, упомянутой в предыдущей главе. Cinematch запустили в 2002 году. За прошедшие годы в 75 процентах случаев прогнозы оказались точными в пределах 0,5 звезды, а половина пользователей Netflix, взявших напрокат тот или иной фильм, рекомендованный Cinematch, поставила ему пять звезд. В 2006 году Netflix объявила конкурс – с призом в миллион долларов – для специалистов по машинному обучению, от которых требовалось создать более совершенный алгоритм и улучшить рекомендации на 10 процентов. В 2008 году один из участников того конкурса рассказал The New York Times, что столкнулся с проблемой для определенного набора фильмов – проблемой, решение которой улучшило бы оценку алгоритма на 15 процентов. Это были такие фильмы, как “Наполеон Динамит”, “На обочине”, “Трудности перевода” и “Убить Билла. Фильм 1” – странноватые истории с противоречивой эстетикой, которые могли зрителю либо по-настоящему нравиться, либо категорически не нравиться. Эти фильмы можно отнести к категории “культовой классики”, но, несмотря на их культурную значимость, их привлекательность не особо сводится к математике. Алгоритмическая нормализация по-прежнему работает против такого качества, и поэтому оно в эпоху Мира-фильтра встречается редко.

В 2009 году конкурсNetflix выиграла команда под названием BellKor in Chaos, возглавляемая инженерами AT&T Research, совместно с другой группой, именовавшейся Pragmatic Theory. Вместе они создали инструмент под названием Pragmatic Chaos, который превзошел оригинальный алгоритм на 10,06 процента. Одним из главных нововведений было встраивание “сингулярного разложения” – алгоритмической стратегии, объединяющей фильмы со сходными признаками, например, романтические или комедийные. Дополнительные уровни сингулярного разложения позволяли сортировать фильмы по более тонким факторам, например, по боевикам, в которых нет крови. Идея вкуса из глубокого целостного чувства собственного достоинства превратилась в серию все более и более детализированных предпочтений, когда нравится A, а не B.

Линия миниатюр “Фильмы, которые вам понравятся”, выводимая модулемCinematch в верхней части сайта Netflix, стала предшественницей гораздо более динамичной домашней страницы стримингового вещания, которую зрители Netflix знают и любят (или ненавидят) сегодня. В то время как рекомендации Spotify реализуются быстро и часто (с окончанием каждой песни), алгоритмы потоковых сервисов для телевидения действуют медленнее. Пользователь выбирает новое шоу гораздо реже, и чаще всего платформе достаточно просто запустить следующий эпизод сериала – рекомендация, не требующая вычислений. Тем не менее Netflix функционирует аналогично Spotify, направляя наш выбор в сторону определенного контента и формируя то, что мы будем считать представителем данного жанра, подобно тому, как песня Strange у Galaxie500 давала искаженное представление о всей музыке группы.

Функция поиска в приложенииNetflix работает медленно и неточно: тут сложно искать по жанрам и нет возможности отфильтровать информацию по актерам или режиссерам. (Этот недостаток породил целый жанр оптимизированных под поисковые машины онлайн-статей, которые содержат список того, что есть и чего нет на Netflix, – словно телефонный справочник для потокового вещания.) На результаты поиска влияют также предыдущие действия других пользователей – это не просто индексирование информации, а еще одна рекомендательная лента, которая с большей вероятностью выдает то, что уже нравится другим людям. Netflix практически не поощряет устремления пользователей. Основным источником информации становится главная страница: она влияет на то, что и когда смотрят зрители. Согласно исследованию, проведенному в 2015 году Карлосом Гомесом-Урибе и Нилом Хантом, рекомендательная система Netflix предопределила контент, за просмотром которого проходит более 80 процентов общего времени пребывания пользователей на платформе. В ролике, выставленном компанией в разделе Netflix Research в 2018 году, менеджер компании по машинному обучению Аиш Фентон заявляет: “Практически все, что мы делаем, – это алгоритм рекомендаций”.

АлгоритмNetflix учитывает историю просмотров и рейтинги пользователя, действия других пользователей с похожими предпочтениями, а также информацию о самом контенте, например, жанр, актеров и дату выхода. Принимается во внимание также время суток, в которое пользователь смотрит фильм, используемое устройство и время, которое он тратит на просмотр в данных условиях. Netflix утверждает, что не берет в расчет конкретные демографические характеристики пользователей – например, возраст, этническую принадлежность и пол, – поскольку можно счесть, что подобные переменные слишком близки к предрассудкам, однако такие характеристики часто можно определить на основе другой информации о пользователе. В конечном итоге Netflix объединяет фильтрацию на основе содержания и совместную фильтрацию. Главная страница становится этаким волшебным зеркалом, которое не требует от пользователя никаких действий, чтобы получить то, что он, возможно, желает потреблять в данный момент. Это снимает с него бремя выбора и целенаправленного процесса отбора, существовавшее в более ранние эпохи цифровой культуры. Как и многие другие аспекты Мира-фильтра, алгоритмический интерфейс позиционирует себя как нейтральный канал, открытое окно или, конкретнее, точное отражение и усиление вашего личного вкуса. Однако он далеко не нейтрален.

В 2021 году специалист по стратегическим коммуникациям Нико Пайкович опубликовал в журналеConvergence, посвященном новым медиатехнологиям, статью о рекомендательной системе Netflix. “Алгоритмы заменяют человеческий – или, по крайней мере, не настолько опосредованный цифровыми технологиями – процесс осмысления культуры и принятия решений”, – писал он. Пайкович решил проверить влияние Netflix на личные вкусы человека и создал для этого несколько фиктивных аккаунтов с различными архетипическими личностями. Личности варьировались от Заядлого Спортивного Фаната до Культурного Сноба и Безнадежного Романтика. Спортивный Фанат смотрел все, что связано с серьезной физической активностью, будь то вымысел или документальные передачи, параллельно наслаждаясь фильмами о супергероях, однако презирал романтические комедии. Культурный Сноб гонялся за малопонятными артхаусными фильмами и зарубежными режиссерами – всем, что могло бросить вызов его душевной организации. При этом он почти не смотрел телевизор и ненавидел реалити-шоу. Безнадежный Романтик любил драму и кипящие страсти, мечась между утонченностью и примитивизмом. Для формирования первоначальных рекомендаций Netflix просит новых пользователей выбрать несколько вещей, соответствующих их вкусам, однако Пайкович не стал выбирать ничего, и вначале главные страницы разных аккаунтов в целом оказались идентичными. Затем ситуация быстро изменилась.

Экспериментатор поочередно заходил в каждый из аккаунтов и смотрел передачи и фильмы, соответствующие вымышленному вкусу персонажа; время суток было случайным, чтобы исключить эту переменную. Уже на второй день просмотра запустилась персонализация, и главные страницы аккаунтов начали расходиться. К пятому дню в аккаунте романтика появилась строка, предлагающая “Фильмы для безнадежных романтиков”, а в аккаунте сноба – строка “Признанное критиками авторское кино”. Более общие категории главной страницы, такие как “Знакомые любимые фильмы” и “Захватывающие фильмы”, также персонализировались, предлагая один и тот же тип контента: романтические комедии для романтиков и документальные фильмы о спортсменах для любителей спорта. Возможно, такая стратегия легкого введения в заблуждение льстит потребителю: вряд ли вы хотите, чтобы текстовые надписи на главной странице постоянно напоминали вам о том, что вы смотрите исключительно романтические комедии.

АлгоритмNetflix распределяет пользователей по определенным “вкусовым сообществам”, которых насчитывается более двух тысяч. Существует также свыше семидесяти семи тысяч “альтжанров”, то есть нестандартных (нишевых) категорий, среди которых “Высокоинтеллектуальные французские артхаусные фильмы”, “Афроамериканские боевики и приключения 1970-х годов” и “Эмоциональные военные драмы, основанные на реальной жизни”. Пользователи часто не знают, каким образом их распределили по категориям, а также не имеют представления обо всем многообразии этих ниш. Человек не выбирает эти категории намеренно; он просто видит результаты алгоритма, когда его страница сужается до тех тем, которые его, скорее всего, заинтересуют.

Еще поразительнее самих рекомендаций тот факт, чтоNetflix также алгоритмически изменяет значки-миниатюры для своего контента, подстраивая их под конкретного пользователя. Этот трюк начал применяться в конце 2017 года под названием “персонализация изображений”. Пайкович наблюдал, как это происходило с его тестовыми аккаунтами. После двух недель просмотра все миниатюры на странице выглядели похожими друг на друга: “Из первых десяти названий, предложенных для Безнадежного Романтика, которые составляли два верхних ряда, пять сопровождались картинками романтических объятий (например, двое целуются или глядят друг другу в глаза)”. Аналогичным образом главную страницу фаната усыпали изображения активных мужчин-одиночек – бьющих кулаком, защищающих футбольные ворота, скачущих на быке. На скриншотах такие страницы выглядят почти тошнотворно, их содержание однородно, как ресторанное меню, состоящее исключительно из гамбургеров.

Иногда эти изображения также вводили в заблуждение. Для сериала “Внешние отмели” производстваNetflix Спортивный Фанат получил миниатюру с двумя персонажами, несущими к берегу доски для серфинга, романтикам же показывали крупный план двух героев, собирающихся поцеловаться. Оба изображения подгоняли под конкретные предпочтения пользователей, о чем свидетельствует история просмотров. Однако ни та, ни другая картинка не отражала сути сериала – приключенческого детектива с исчезновениями и убийствами. Пользователи с обоснованной тревогой замечали, что цвет кожи персонажей на миниатюрах на главной странице Netflix совпадает с их собственным – хотя теоретически программа не должна отслеживать расовую принадлежность. В 2018 году разгорелся конфликт: некоторые люди обратили внимание, что при рекомендации романтического фильма “Реальная любовь” миниатюра изображала чернокожего актера Чиветела Эджиофора, хотя он играет в этой картине лишь второстепенную роль. Изменяя миниатюру фильма таким агрессивным способом, платформа манипулирует пользователями: по сути, она не предлагает то, что им может понравиться, а изменяет представление того же самого контента, чтобы он выглядел ближе к их предпочтениям. Такой алгоритмический подбор изображений подталкивает посмотреть то, что в противном случае вас, возможно, не заинтересовало бы (особенно если это честно обозначить) – авось сработает. Это противоречит идее персонализации интерфейса и идет вразрез с культивированием личного вкуса, поскольку является манипуляцией от начала и до конца.