В плане отношения к технологическому прогрессу мир делится на две партии — технооптимистов и пессимистов. Первые встают в четыре утра, чтобы посмотреть, как «Тесла» летит в сторону Марса, и помечтать, что когда-то это сможет случиться и с ними. Вторые в это же время включают еще одну серию «Черного зеркала» с мыслями о том, что все мы приближаемся к цифровой антиутопии с тотальной слежкой и ужасом. Журналист Юрий Сапрыкин и философ Кирилл Мартынов обсудили, как давно мы стали киборгами и кто сильнее — человек или алгоритм. T&P публикуют самое интересное из их беседы «Сеть или матрица», организованной проектом InLiberty.

Юрий Сапрыкин

журналист, главный редактор проекта «Полка»

Кирилл Мартынов

философ, доцент Высшей школы экономики

Илья Венявкин

историк, директор образовательных программ InLiberty, модератор беседы

Илья Венявкин: Какие страхи или надежды вызывают у вас технологии и на какую интеллектуальную традицию вы опираетесь?

Кирилл Мартынов: Этот вопрос — важнейший для нашей жизни. Мне кажется, мы обсуждаем его недостаточно много, потому что по большому счету нам нечего сказать. Известные нам интеллектуальные традиции и их авторы, которые писали свои труды по социологии или экономике, — все они были продуктами либо доиндустриального, либо индустриального мира. Мы до сих пор опираемся на труды XIX−XX веков, и, попав в череду невероятно быстрых, важных и глубоких технологических изменений, мы просто не успеваем их фиксировать и обсуждать, нам не хватает теоретического и концептуального аппарата. Тот факт, что люди, которые имеют интеллект и образование, которые пишут замечательные работы в самых разных сферах (не только философы, но и представители социальных наук), совершенно игнорируют (почти все, большинство из них) контекст технологических изменений, в котором мы сейчас находимся, меня глубоко изумляет. Так что я призываю чаще говорить на эту тему всерьез, а не на уровне нравится — не нравится. К счастью, количество исследований растет. Про STS (Science, Technology and Society) выходят статьи и книги.

* «Правительства индустриального мира, вы — утомленные гиганты из плоти и стали; моя же родина — киберпространство, новый дом Сознания. От имени будущего я прошу вас, у которых все в прошлом, — оставьте нас в покое. Вы лишние среди нас. Вы не обладаете верховной властью там, где мы собрались».

Последние десять лет (может, больше) мы жили в прекрасном светлом мире, полном надежд. Несколько месяцев назад умер замечательный человек, поэт Джон Перри Барлоу. В 1996 году он написал один из самых важных текстов эпохи — «Декларацию независимости киберпространства». Построенный по образцу Декларации независимости США, он начинался со слов «К вам, правительства старых стран, обращаемся мы, люди сети. Ваше время закончилось, оставьте нас в покое»*. Тогда онлайновый и офлайновый миры воспринимались как две совершенно разные онтологические реальности, и казалось, что доступ к интернету радикально изменит общество, которое станет более творческим, гораздо более свободным и демократическим. Конечно, все эти надежды умерли на наших глазах, мы как раз наблюдаем, как авторитарные государства и вообще структуры авторитарного толка оказываются главными игроками в пространстве свободного интернета. Сейчас интернет — это орудие не только свободы, но и авторитарных режимов.

В «Манифесте Коммунистической партии» Карла Маркса есть замечательная фраза: «Люди бежали из тупости сельской жизни». Поскольку мы принадлежим к поколению, которое помнит, как был устроен мир без интернета, мы знаем, что тот мир не был прекрасен. Для меня 1995 год — это тотальная катастрофа для общения, образования, карьеры, путешествий, чего угодно. Я тогда от безысходности смотрел футбол и помнил наизусть таблицу серии «А» итальянского чемпионата. Но есть надежда, потому что будущее открыто: оно в значительной степени зависит от того, насколько мы готовы его обсуждать и участвовать в его создании.

Юрий Сапрыкин: В мире без интернета ты ехал на дачу к девушке, а потом обнаруживал, что уехать невозможно: некуда позвонить, чтобы вызвать такси, и приходилось оставаться до утра. Так что в каком-то отношении он был неплох, тот мир без интернета.

Соотношение оптимистичного и пессимистичного направлений мысли в общественном сознании об интернете как-то резко изменилось за последние годы. Виной тому не только «Черное зеркало», но и всякие неприятные социополитические вещи, связанные с цифровой реальностью, и эффект от нее, который мы наблюдаем на себе. Понятно, что никто не испытывает детской радости по поводу того, что к тебе за секунду подъезжает «Яндекс.Такси», хотя это действительно чудо. Но когда ты залипаешь в фейсбуке, тебя трясет, но ты не можешь оттуда выйти, а потом с перекошенной головой едешь на работу, ты, конечно, злишься на эту цифровую реальность в целом, а вовсе не на себя.

© InLiberty

© InLiberty

Да, у технопессимизма есть вполне понятные корни, связанные с когнитивными искажениями — с тем, что мы не замечаем хорошее, но замечаем плохое. И тем не менее этот технопессимизм стремительно набирает силу с каждым днем. Если вы следите за англоязычной профильной прессой, то знаете, что в последние месяцы там появился традиционный уже жанр материалов: создатели тех или иных интерфейсов или интернет-сервисов проклинают свои детища, впадают в ужас от того, что они сделали, или каются. Это не преувеличение. Люди, которые придумали кнопку «Like», функцию отматывания пальцем ленты в твиттере или красный кружочек с циферкой над иконкой приложения (это три разных человека), буквально запрещают своим детям заходить в интернет. Кто-то из них выкинул айфон в реку, кто-то отключил Wi-Fi и явно намерен остаток жизни провести, бичуя себя за то, что он сделал с людьми.

В общем, базовое отношение ко всем технологическим достижениям сейчас связано скорее со страхом, нежели с надеждами. И все это не из-за интернета как такового, а из-за конструкции его самых популярных и базовых сервисов — фейсбука, гугла и иже с ними. Ведь на самом деле многое в функционале этих сайтов завязано на эксплуатации почти подсознательных, неконтролируемых человеческих слабостей или импульсов, которые мы не всегда можем взять под собственное управление. Мы инстинктивно чувствуем, что рядом появилась какая-то среда, которая сильнее нас. И это вызывает если не панику, то легкий страх или как минимум тревожность.

Наверное, ближайшим аналогом этому является та часть классического марксизма, в которой автор «Капитала» обнаруживает, что человеческая природа порабощена внешней силой — силой капитала. Эта сила делает с этой природой человека довольно неприятные вещи, и он испытывает отчуждение не только от продуктов своего труда, но и от своей сущности. Сила эта к тому же автономна: она действует сама по себе, и она сильнее, чем ее агенты. В середине XIX века такое направление развития цивилизации выглядело абсолютно безальтернативным. Точно так же сейчас все мы по умолчанию разделяем безальтернативность технодетерминизма. Образ будущего почти всегда рисуется в технологических образах и терминах, а не в социальных или в тех, что связаны с переустройством общества. Будущее — это про то, что что-то куда-то будет летать еще быстрее по каким-то сетям и удобнее доставляться.

И, пожалуй, критика этой безальтернативности, поиск альтернативы не в виде призыва перерезать провода и уйти в леса, а в виде попытки придумать другую конструкцию сети, кажется мне направлением чрезвычайно продуктивным. Впрочем, столь же продуктивным, сколь и редко встречающимся и малоразвитым.

И. Венявкин: Нужно ли нам жалеть об утрате приватности? Как нам относиться к этой проблеме?

К. Мартынов: На этот вопрос мне поможет ответить пример Юрия про дачу. Сама идея, что в 1995 году можно было поехать на вечеринку на дачу и остаться на ней на ночь, потому что у тебя нет «Яндекс.Такси», и это представляет некую ценность, хорошо показывает, что сейчас все в принципе работает не так. Сейчас нет такой ценности — напроситься на вечеринку, надеясь, что нельзя будет уехать и ты сможешь остаться на ночь.

Ю. Сапрыкин: Кирилл, может, это возрастное у нас с вами?

К. Мартынов: Нет-нет.

Ю. Сапрыкин: Мне тоже кажется, что нет, но я знаю людей, для которых такая ценность есть.

К. Мартынов: Помимо возрастного, здесь есть еще и культурная составляющая. Ведь многие жалуются, что романтики нет: в том же Tinder ты заранее договариваешься, кто куда едет, кто остается на ночь. То есть такой проблемы нет в принципе, потому что на старте субъектам, которые участвуют в таких отношениях, не нужно играть в старую консервативную игру «Ай, мне придется тебя выгнать, но как же ты поедешь отсюда, ведь электрички уже не ходят?». И это изменение культуры под давлением технологий в том числе.

Когда мы отвечаем на вопрос, к какой интеллектуальной традиции мы принадлежим, на мой взгляд, честный ответ, по крайней мере с моей стороны, будет заключаться в том, что у нас сейчас нет этой интеллектуальной традиции — так же, как в 1500 году не было никакой интеллектуальной традиции, которая описывала бы Мартина Лютера, религиозные войны и последующие волны мировых изменений. Ни аристотелевская, ни зарождающиеся традиции какой-то экспериментальной науки просто не были готовы к этим социальным изменениям, у них не было для этого языка. Также по состоянию на 1800 год не было интеллектуальной традиции, которая описывала бы индустриальный мир.

«То, что мы имеем в виду под приватностью, — феномен индустриального мира. Нам придется придумывать новые правила игры»

Кого породила промышленная революция в Англии в первую очередь как самую яркую культурную единицу? Луддитов. Они были высококвалифицированными ткачами, которые хорошо зарабатывали и мало работали и которым напрочь испортил карьеру и жизнь ткацкий станок. На их вопросы «Ребят, как же так? Давайте как-то переосмыслим наши отношения!» владельцы станков отвечали: «Нет, ваше время прошло». Когда я это узнал, то понял, чему была посвящена великая социальная, социологическая дискуссия XIX века, почему был нужен Маркс. Потому что он был рефлексией 40-х годов XIX столетия на события 50-летней давности, когда произошла промышленная революция, рассыпался знакомый мир и появились луддиты — массовый труд и наемные рабочие. Только, боюсь, у нас сейчас нет этого 50-летнего зазора.

Мне представляется, что то, что мы имеем в виду под приватностью, — феномен индустриального мира. Приватности в том виде, к которому мы привыкли, скорее всего, не будет. Это не означает, что наша жизнь будет абсолютно прозрачной для всех, от государства до китайских хакеров. Это означает, что ситуация достаточно открыта и нам придется придумывать новые правила игры — как разграничивать приватное и публичное. Один из руководителей Google Эрик Шмидт лет пять назад сказал, что, наверное, в мире будущего люди, достигая 21 года, то есть полного совершеннолетия, будут менять свои ID, включая имена, номера социального страхования и так далее. Просто чтобы все будущие работодатели не знали, какие глупости вы делали, когда были тинейджерами.

Ю. Сапрыкин: Когда мы говорим, что лишились приватности, у этого есть как минимум две очень важные составляющие. Первая — в том, что наши лайки, комменты, действия в сети публичны, они всем видны. К тому же из-за того, что все эти сервисы эксплуатируют наши слабости — импульсивность, гнев, тщеславие, желание везде оставить свое мнение, — мы выдаем о себе гораздо больше информации, чем кажется. Мы охотно расстаемся с приватностью. Вторая сторона — о нас собирается множество данных, которые мы выдаем не сами. То есть мы не всегда осознаем, как распространяется наш цифровой след, что с этими данными происходит, и не понимаем, что кто-то с их помощью принимает решение о нашей судьбе.

Безусловно, у уничтожения приватности есть и хорошая сторона. То, что владелец квартиры на Airbnb ставит нам звездочки и пишет отзыв о том, как мы себя вели, дисциплинирует. Это создает новый уровень ответственности в отношениях. Нам как пользователям, безусловно, приятно, что водитель вместо того, чтобы материться, дымить нам в лицо и слушать Михаила Круга на раздолбанной магнитоле, вынужден улыбаться: «А не подвинуть ли вам кресло? А какое радио вам включить?» Можно увидеть в этом какие-то уродующие человеческую природу дисциплинарные практики, которые могут дойти неизвестно до какой степени. Хорошо, если практики запрещают таксисту слушать Михаила Круга. Но потом окажется, что мы из-за этого боимся что-то говорить, что-то покупать, с кем-то общаться, потому что это кто-то увидит и от этого как-то изменится наша судьба.

То, что эти базы информации собираются, было придумано конкретными людьми на нашей памяти по вполне понятной причине. Какова же она? А просто эти данные позволяют таргетировать рекламу, они нужны, чтобы показывать товары и услуги, которые, по мнению систем рекламной выдачи, мы с большей вероятностью купим. Эти данные нужны для того, чтобы монетизировать эти сервисы максимально эффективно. Это материальный интерес конкретных венчурных инвесторов, которые когда-то заставляли Facebook, Google и остальных показывать много сотен процентов роста в год. Именно это требование максимально быстрого роста загнало их в ситуацию, когда они должны знать о нас все.

© InLiberty

© InLiberty

К. Мартынов: Привнесу немного технооптимизма. Приватность — это история о том, что если я бью свою жену, то об этом никому не надо рассказывать. И жена не должна, потому что не нравится — разведись. И точно так же, как корпорации собирают мои личные данные в интернете, теперь люди, которые раньше были абсолютно безмолвными, слабыми, уязвимыми, жизнь которых была постоянным кошмаром… Может быть, в их жизни не так много поменялось по состоянию на 2018 год…

Ю. Сапрыкин: Вот-вот.

К. Мартынов: …но они, по крайней мере, могут сказать. Это важная ситуация. Речь идет не об уничтожении приватности, а о переопределении понятий публичного и приватного и серьезном сдвиге границ между ними.

Ю. Сапрыкин: Притом что технопопулизм становится популярнее, идея, что государство должно влезать, запрещать и налагать свои законы на то, как все должно быть устроено, не очень популярна. Потому что мы-то понимаем, что это не какое-то светлое рационально устроенное государство, а конкретный Роскомнадзор, который просто лупит из пушки по всем IP-адресам и рушит все сервисы вокруг ради того, чтобы попасть в бесконечно убегающий от него Telegram. Наверное, то же самое относится к любому государству. Понятно, что какими бы пессимистами мы ни были, но без фейсбука нам не прожить и дня. У нас всех начнутся просто чудовищные ломки, поэтому давайте государство туда лезть, пожалуйста, не будет.

Тот же Telegram — это сервис, построенный в каком-то смысле на принципиально других основаниях, нежели Facebook, Twitter и все остальные. Может быть, это какое-то еще более страшное зло, которое до поры до времени таится в дружелюбной шкуре, но он, конечно, гораздо менее залипательный, аддиктивный, им проще управлять, его проще обездвижить и сделать так, чтобы он перестал постоянно о себе напоминать. В нем нет рекламы, и поэтому вроде как (ну, так нам кажется) ему незачем собирать о нас огромный массив данных, в нем гораздо меньше возможностей эти данные оставить.

Конечно, если у тебя есть сервис, активными пользователями которого являются два миллиарда человек, то в какой-то момент даже не государство, не какие-то национальные общности, а просто человечество может спросить: «А почему все так?» Как Цукерберга спрашивали на сенатских слушаниях: «Пожалуйста, назовите нам гостиницу, в которой вы вчера остановились, и имена трех последних людей, с которыми вы переписывались в мессенджере». Цукерберг сказал: «Ха-ха-ха! А зачем вам это знать?» «Ну, вы же про нас это знаете, а мы про вас этого не знаем. Мы в неравных условиях». Так вот общество, вообще-то, вправе тем или иным способом попросить показать алгоритм выдачи постов или спросить, хотим мы делиться своими данными или нет.

И. Венявкин: Мы тут дошли до самого важного вопроса во всей этой дискуссии. Понятно, что я могу уже ничего не запоминать: все можно нагуглить, есть Facebook memories. Я не помню дней рождения своих родственников, потому что у меня есть подсказки. Решение о том, что я ем, когда встаю и сколько калорий я сжигаю в день, я могу принимать не сам. Изменилась ли человеческая природа? Может, мы на самом деле превратились в киборгов, но просто не хотим себе в этом признаться?

К. Мартынов: Две с половиной тысячи лет назад в диалоге «Федон» персонаж Платона Сократ утверждал, что записанные книги разрушают человеческую культуру. Когда у вас есть возможность создавать библиотеки, передавать знания из поколения в поколение и обмениваться идеями на огромном расстоянии, то это уже прообраз сети, какой мы ее сейчас видим. Замечательный автор Том Стандедж в книжке «Writing on the Wall. Первые две тысячи лет социальных медиа» показывает, что до эпохи масс-медиа, до книгопечатания послание апостола Павла или письма Цицерона вращались в культуре точно так же, как сейчас популярные посты в фейсбуке. То есть «like — share» — старый принцип. Но здесь, конечно, важно добавить, что такие важные девайсы, как очки, линзы или зубные пломбы тоже кажутся мне кибернетическими в телесном смысле. Человек уже достаточно давно окружен гаджетами. Жизнь без них краткосрочна, тяжела и уныла. Поэтому, с моей точки зрения, по дефолту киборги — это довольно неплохо. Слава богу, что мы киборги! Было бы хуже, если бы у нас не было этих технических возможностей.

Ю. Сапрыкин: Вы абсолютно правы, каждый этап в технологическом развитии культуры позволяет человеку отдать какую-то свою способность на аутсорс. Когда появляются книги (даже рукописные), отпадает необходимость знать наизусть «Илиаду» или, страшно сказать, молитвы. Все, что угодно, от парового двигателя до телевидения, избавляет человека от необходимости что-то делать или уметь. При этом мне кажутся несколько надуманными стоны по поводу того, что из-за Википедии теряется важность эрудиции, а из-за Яндекс.Такси — привычка ходить пешком. Но опять же нынешняя конструкция интернет-сервисов, которым нужно показывать как можно больше рекламы, действительно что-то делает с человеческим восприятием, памятью, способностью к концентрации и творчеству. Странно было бы отрицать, что уровень прокрастинации за последние десять лет изменился. Десять лет назад мы даже не знали такого слова, а сейчас это универсальная отмазка от дедлайнов и просьб.

Мы получили огромные богатства и возможности, всю мировую культуру в свободном доступе, но все, что мы знаем теперь об этой Вавилонской библиотеке, — это то, что мы не можем дочитать до конца ни одну ее книгу, просто потому что все время хочется кликнуть куда-то еще. Никто достоверно не знает, но есть подозрение, что алгоритм фейсбука буквально-таки поддерживает hate speech (то, что мы называем «срачами»). В какой-то момент аналитики сервиса обнаружили, что гнев, тревога и то, что «меня аж трясет», как писала известная российская актриса, — это мощнейшее залипательное средство. Ты можешь закрыть сайт и в ярости уйти, но через минуту тебе захочется зайти туда снова, чтобы посмотреть, как там твои оппоненты отхлестали друг друга по щекам. Именно в силу того, что эта эмоция увеличивает время пребывания на сайте и количество рекламы, которое за это время можно показать, и заставляет тайным и невидимым для нас образом выводить подобного рода контент в топ, поддерживать в нас этот уровень гнева и раздражения.

© InLiberty

© InLiberty

И. Венявкин: Что вы можете сказать современному человеку, который чувствует себя некомфортно в связи с очень быстрыми технологическими изменениями?

К. Мартынов: Давайте вспомним, что нами довольно давно управляют бездушные алгоритмы — военкомы, депутаты, которые придумывают законы, авторы советской конституции про руководящую роль партии. Это все тоже процедурные вещи, начиная от современной медицинской клиники и заканчивая различного рода бюрократическими и идеологическими аппаратами, которые существуют уже много столетий. Собственно, еще Маркс про это писал, что так проявляется отчуждение: это не отношения людей, это отношения бездушных алгоритмов и людей. И люди — абсолютные заложники этих аппаратов. Давайте смотреть правде в лицо. У нас есть сражение алгоритмов, а не бой человека против алгоритмов, которые его уничтожают.

Мне кажется, что бороться с фейсбуком уже немножко поздно, потому что его модель постепенно умирает. Очень трогательно и даже забавно, что и Google, и Facebook сейчас мечтают провести интернет в самые отсталые уголки планеты, чтобы хоть немного сохранить прирост своей аудитории и побольше продать рекламы. Все эти истории про низкоорбитальный интернет, доступный повсеместно и, возможно, почти бесплатный — это о том, как технокорпорации, созданные 15 лет назад, продолжают бороться за свое существование.

Мы стоим на пороге, когда история про таргетированную рекламу постепенно уйдет в прошлое, а новым будущим — по крайней мере, сейчас на это делается большая ставка — станут криптовалюты. Когда вы соберете миллиард пользователей, следующее, что вы сделаете при помощи Telegram или другой подобной системы, — уничтожите национальные валютные системы, введя прямые расчеты между пользователями. Вот тогда будет по-настоящему интересно. Дуров уже собрал миллиард долларов под этот проект, Facebook тоже в очереди.

Ю. Сапрыкин: Что касается бездушных алгоритмов, мы же с вами понимаем, что решения, сколько власти отдать военкому, фейсбуку, алгоритмам, которые очень скоро будут управлять логистикой городов и работодателей, всегда политические. Не случайно вы приводите примеры, с которыми не хочется солидаризироваться. Нам инстинктивно кажется, что военком плохой, а вот автоматизированная система управления — это модно, стильно, молодежно, но на самом деле и то и другое — это военком, просто политики отдали ему слишком много власти, забрав ее у нас.

Извините, это выглядит каким-то абстрактным bullshit-ом, но я абсолютно уверен, например, что нынешнее в мировом масштабе развитие индустрии всякого mindfulness-а, книжек про то, как управлять собой, медитации — все это буквально связано с ощущением, что технологии оказались сильнее нас. Власть над нами надо вернуть — попытаться залезть внутрь себя и понять, какова наша природа, и все-таки стать сильнее этих технологий. То, что мы оказались в такой ситуации, еще пока не тупике, но в таком довольно сомнительном, рискованном и пугающем положении, — это на самом деле шанс наконец понять, кто мы есть и кто сильнее: слон или кит, человек или Цукерберг, человек или алгоритм.