Загрузить себя в компьютер и жить вечно — сегодня сюжет из фантастических книг превратился в реальную мечту нового цифрового мира. Исследователь и теоретик технокультуры Бенджамин Брэттон спешит нас расстроить: ничего подобного не будет. Когда наступит эпоха облачного феодализма, где программное обеспечение оставит архитекторов без работы, как дополненная реальность повлияет на мир и почему сингулярность не оправдает надежд технооптимистов, — T&P поговорили c профессором, прочитавшим лекцию в Институте медиа, архитектуры и дизайна «Стрелка».

Бенджамин Брэттон

Профессор визуальных искусств Калифорнийского университета в Сан-Диего, директор аналитического центра дизайна и геополитики в Calit2

— Вы говорите, что технологии представляют собой политику и что планетарная компьютеризация станет главной силой, которая будет определять мир будущего. Как он будет выглядеть?

— Мы привыкли думать об истории будущего в галилеевской парадигме, линейной идее о человеческой истории. Я думаю, что одно из главных открытий последних 200 лет — это понимание геологического времени, которое произошло только в XIX веке, когда были найдены ископаемые и кости динозавров. Геология объясняет нам, что Земле не тысячи лет и не десятки тысяч лет, а миллионы. И это прорыв для нашего вида. То же самое должно случиться и со временем. Мы привыкли думать, что все начиналось с земледелия, бронзового века и так вплоть до компьютеров. Но это очень маленький момент в большой картине.

При этом геология демонстрирует, что мы как вид в значительной степени повлияли на эту планету. С конца прошлого ледникового периода и вплоть до конца индустриальной революции был Голоцен — Земля была относительно стабильна. И это была целая геологическая эра. Но с конца индустриальной революции, то есть за последние 200 лет, люди постоянно и очень сильно меняли Землю: климат, атмосферу, животный мир, океаны. Наша планета сегодня стала совсем другой, и она входит в другую геологическую эру. В первую очередь меня интересует продукция человека как действующего лица геологии, и только потом — социального, политического, экономического и так далее. Я думаю, что рассуждать о будущем нужно, связывая все это вместе.

— Какое будущее ждет человека как геологического агента?

— Когда мы думаем о будущем, то всегда должны задавать себе вопрос: будущее для кого? Для чего? О каком будущем мы говорим? Для меня вопрос становится интересным, когда мы думаем о нем в терминах, близких к геологическому времени, эволюционному времени. За последние 100 000 лет мы практически не изменились. Мы можем думать о будущем в рамках эволюции нашего вида на протяжении времени, о планетарном будущем. Может быть, мы станем мультипланетарным видом, а может, будем тотально привязаны к Земле. Может быть то, как функционирует наше тело, требует определенной силы тяжести, плюс внутри нас есть определенные микроорганизмы, и когда мы будем путешествовать, мы повезем с собой всю планету — все виды, которые живут внутри нашего тела. Мы не знаем. Идея постантропоцена является для меня более полезным дискурсом, чем разговор о посткапитализме. Мне интересно, что это будет за геологическая эра, в которой человек больше не будет доминирующим геологическим агентом. Кто это будет — мы не знаем. Возможно, мы превратимся во что-то другое. Может ли углеродная жизнь принимать другие формы, сможем ли мы понять это на молекулярном уровне?

Я не считаю, что мы нанесли непоправимый вред нашей планете и поэтому должны отмотать время назад, прекратить заниматься тем, чем мы занимаемся. Для меня это худший из возможных сценариев. Мы — биологический вид, который переделывает планету, и нам нужно продолжать это делать. Для меня геоинженерия — это обязательно. Я думаю, что у антропоцена есть хорошие итоги и плохие. За 200 лет мы сломали всю систему, которая формировалась миллионы лет. Как геоинженеры мы сделали ужасную вещь, но, с другой стороны, мы показали, что возможно заниматься геоинженерией целой планеты. И теперь вопрос состоит в том, как нам делать это правильно, даже если это может закончиться исчезновением нашего вида. Для меня это и есть рамки вопроса о будущем — не пятилетней перспективы, когда у нас будут очки c дополненной реальностью или голограммы. Все это тоже интересно, но для меня это очень короткая перспектива.

— Но об этом с вами тоже хотелось бы поговорить.

— Я не против, хотя и не думаю об этих вопросах как о будущем — я думаю о них в контексте сегодняшнего дня. Это настоящее — пусть оно еще и не случилось.

— Как геополитическая карта изменится в будущем? Она больше не будет двухмерной, а станет многоуровневой, когда на одной и той же территории будут определять власть совершенно разные субъекты — как, например, произошло в случае Google и Китая?

— Я думаю, это уже случилось — и, возможно, это всегда было так. Идея о карте как о горизонтальном плане с четко очерченными границами никогда не была реальностью: ей всегда управляли собственные исключения. Большинство из этих исключений никогда не были отражены в реальной карте. Геополитическая система всегда была многоуровневой, но что меня интересует сейчас, так это то, как современные технологии нормализировали эти отношения. Больше нет исключений, теперь это норма. И это и есть главное изменение. Сегодня у нас есть очень много геополитических карт, и ни одна из них не может считаться универсальной, главной картой.

— Получается, что в геополитике наступила такая постструктуралисткая эра?

— Если вам удобно думать об этом в таких терминах, то да. Но лично я думаю, что карты отражают прежде всего техническое изображение пространства. Что касается геополитических вопросов — о различных видах космополитизма, изменении количества государств с жесткими национальными границами, политики гражданства — все это возможно. Но возможно только в некотором роде. Идея Канта о космополитизме была основана за западной традиции изображения карт, она требовала универсальных условий, универсальных планов. Но без этих универсальных планов и универсальных карт не очень понятно, чем космополитизм может быть. Наверное, будет несколько точек зрения на использование этого термина.

«Все права, которые есть у людей, есть и у компаний. Странно, что у них нет той же ответственности — если человек делает что-то не так, он отправляется в тюрьму. А можно ли отправить в тюрьму корпорацию?»

Еще один определенный ответ на этот вопрос — я не думаю, что государства исчезнут. Один из неправильных взглядов на эту проблему — что государства сменят облачные технологии. Я думаю, что произойдет противоположная ситуация. Благодаря планетарной компьютеризации мы сможем увидеть, как государства укрепляют свою власть. Планетарная компьютеризация будет продолжать развивать новые инновационные формы реальной суверенности, и государство должно будет развивать с ними отношения. В одних условиях «облако» будет обладать гораздо большей властью, чем государство, а в других — намного меньшей, и в большинстве участков Земли мы сможем совместить эти вещи вместе. Для меня вопрос об «облаке», вопрос о государстве не стоит как «или — или» — обе эти вещи будут существовать, будут развивать отношения друг с другом, и это интересная тема для размышления.

— В лекции на TED вы говорили о том, что вне зависимости от политического строя, будь то коммунизм или капитализм, мы получаем тотальный контроль и плохой транспорт. Как функции государства будут эволюционировать в будущем?

— Если бы я мог продолжить тот TED-разговор, то обсудил бы постоянный спор между частным и государственным сектором в США. Я думаю, что сегодня между ними появилась третья институция — платформы. Они являются такими же сложными и сильными, как государство и рынок, но имеют другую логику и создают суверенность другими способами. Что такое платформа? Это общий механизм, который является фиксированным, но предполагает пользователю принимать в нем участие. У платформы есть аспекты и рынка, и государства, и технической системы, и институциональной системы. У нее можно покупать протоколы и интерфейсы, менять управление и окружение в зависимости от своих желаний. И если мы хотим понять, что произойдет, когда государства превратятся в «облака» — нам нужно понять, что произойдет с платформами. В чем достоинство и недостаток платформизации систем образования и транспорта? Сегодня это можно увидеть на примере Uber. Для меня вопрос о функциях государства конкретизируется в том, что должно предоставлять государство в отличие от рынка и в отличие от платформ — и как.

Что касается функций государства в будущем, то у меня есть очевидные соображения об образовании и социальных программах, но в то же самое время сейчас непонятно, какие отношения между государством как платформой, рынком как платформой и самой платформой должны быть приняты в конституции общества. На этот вопрос необходимо найти ответ, но сначала нужно понять, что из себя представляют платформы.

— Вы говорите, что государства сегодня превращаются в такие же бренды как Google и Apple. Когда это произошло, как вы полагаете?

— Я думаю, что это случилось на чемпионате мира по футболу (смеется). Существует логика брендов, которые всегда были у государств — флаги, национальная айдентика, униформы и так далее. С их помощью создается патриотизм. Значительный сдвиг в этом направлении произошел в 80-х или немного раньше, когда государства стали специально организовывать свои компании, возникла идея брендинга президентов.

В будущем государство может стать брендом, не привязанным к определенной территории. Калифорния как штат предоставляет определенные услуги и сервисы — водительские права, правила дорожного движения и так далее — они сейчас привязаны к определенному участку земли. В каких условиях Калифорния сможет предложить эти услуги любому человеку на Земле? Можно стать потребителем и участником сервисных программ, которые представляет собой государство, вне зависимости от того, на каком участке Земли вы находитесь. Я не обещаю, что это случится в ближайшие два года, но я думаю, что после миграции государства в «облако» эти территориальные ограничения будут сняты. Это будет очень интересный сдвиг: мы перемещаемся от гражданина к потребителю и пользователю.

— Как в будущем государства и корпорации будут делить власть между собой? Сегодня все говорят о том, что корпорации становятся своеобразными государствами, но при этом можно вспомнить про Ост- и Вест-Индскую компании, которые когда-то были сильны, а теперь исчезли. Не считаете ли вы, что мы сегодня переоцениваем роль больших компаний в геополитике?

— Популярная мысль о том, что корпорации сегодня неожиданно начали забирать власть у государств — это слишком большое упрощение. Совершенно ясно, что отношения между государствами и частными корпорациями имеют некоторые риски для государства. Таков был принцип функционирования колониальной глобализации, и это не новое явление. Я думаю, что в США сейчас большие корпорации легально, как в случае Вест-Индской компании, выглядят суррогатами государств и являются своеобразными теневыми государствами. Google как теневое государство, IBM и так далее.

Корпорации сейчас имеют сильную защиту государства, такую же, как индивидуальные люди, по крайней мере в США. Все права, которые есть у людей, есть и у компаний. Странно, что у них нет той же ответственности — если человек делает что-то не так, он отправляется в тюрьму. А можно ли отправить в тюрьму корпорацию? Ваш базовый вопрос — я с ним согласен. Не то чтобы сейчас появилось это напряжение между государством и корпорацией — так было всегда. Для меня важно, что сейчас оба этих агента реорганизуются вокруг технических и институциональных платформ, которые меняют логику их пространственной организации. И это приводит к новым поворотам в старых проблемах.

— Как человек, занимающийся геополитикой, что вы думаете о событиях весны-лета 2014, связанных с Украиной и Ираком? Говорят ли они нам о провале геополитических идей западной элиты 90-х и 00-х. Могут ли новые технологии избежать масштабных гуманитарных катастроф или Третьей мировой войны?

— Если вопрос о том, наступил ли конец «конца истории», то после событий 9/11 даже Фукуяма признал, что он был неправ. История полностью изменилась. Я бы хотел подчеркнуть, что мои тезисы о планетарной компьютеризации и реорганизации геополитики не означают, что все закончится вычищением хаоса и трансформацией хаоса в опрятный кибернетический дом. Возможно, все будет выглядеть совершенно иначе. В социальных науках есть аксиома о том, что глобализация ведет к культурному фундаментализму. Но это не причина останавливать глобализацию. Нужно понимать, что эти процессы — части одного и того же цикла, они суперпредсказуемы.

С развитием искусственного интеллекта, роботехники обилие информации начнет влиять на ежедневные проблемы. Мы увидим все возможные фундаменталистские реакции и огромные шаги назад. Они будут происходить не только в религиозных сообществах, не только на глобальном юге — мы сможем увидеть огромные шаги назад со стороны всего человечества.

Вы спрашивали про 00-е и 90-е, но это применимо к любому времени. Если человечество разрабатывает информационные технологии, оно также разрабатывает и политические технологии. Между ними есть прямая связь, но оказывается, что очень легко можно получить одно без другого. Я писал статью о событиях в Бомбее в 2008 году, когда джихадисты использовали карты Google для террористических атак, чтобы смоделировать город как поле для битвы. Космополитическая технология и политическая теология объединились вместе, и разве мы увидели столкновение цивилизаций? Нет, они очень хорошо работают вместе. Можно иметь совершенно средневековые политические и экономические формы жизни и одновременно продвинутые облачные технологии. И не только на Востоке, но и на Западе. Термин, который я использовал для этого, — облачный феодализм. Я думаю, что именно это можно увидеть в Бомбее, где много облачного средневековья. Это можно увидеть и в том, как Amazon поменял розничный рынок, который теперь представляет собой фабричный склад, где люди заменены роботами.

Этот облачный феодализм — латентное будущее, и оно сосуществует с изобилием информации, в котором мы пребываем сейчас. Но не обязательно, что будет именно так. Есть исследование одного экономиста, который предполагает, что почти 75% работников в США могут быть заменены роботами через 15 лет. Но как будет выглядеть общество с 75% безработных? С одной стороны, получается идея общества с автоматизированной экономикой, где люди не должны работать, но это утопия; с другой стороны, есть реальные примеры общества с подобной безработицей: Детройт, Нигерия и так далее — это не утопия. Это другой сценарий, с которым нужно работать.

— То есть потенциал технологий в целом и интернета в частности как инструмента демократизации переоценен?

— Нет, я так не думаю. Но я думаю, что демократия, которую они предлагают, это не та демократия, о которой говорили Фукуяма и Клинтон. Она не так проста и не похожа на демократию XX века, где один человек может иметь один голос, и новая демократия не ведет к такому стабильному обществу. Возможно, это хорошие новости, и устройство общества не будет таким разорванным.

«Можно иметь совершенно средневековые политические и экономические формы жизни и одновременно продвинутые облачные технологии»

Эрик Шмидт и Джаред Коэн написали книгу «Новый цифровой мир» о том, что начинается эра Google в политике. Это очень интересная книга для чтения, потому что она иллюстрирует, как этот новый мир можно вообразить. Компания Google делает намного больше вещей, нарушающих геополитическую карту, чем сама понимает, по крайней мере, говорит об этом публично. Они больше говорят о том, что каждый будет подключен к интернету и как все будет чудесно, и я уверен, мы увидим достойные примеры их работы. Но изменения могут быть гораздо более глубокими и странными, более непонятными — и это реальная проблема.

Каждый раз, когда происходили фундаментальные скачки в технологиях, изменения в обществе и культуре были радикальными, странными и иногда невероятно жестокими. Зачастую это было к лучшему. Я не стою на позиции против прогресса, но я думаю, что нас ждет очень странное десятилетие, в течение которого модели для понимания политики, стран, глобализации будут становиться все менее полезными в качестве механизма для интерпретации. Нам нужно будет развивать новый язык путем описания того, что будет происходить, и этот новый язык поможет нам заняться проектированием этого процесса.

— Какое место дополненная реальность будет занимать в мире будущего, что вы ждете от нее? Будет ли это новой утопией или окажется просто новым витком развития медиа?

— Я недавно использовал Oculus Rift — и он просто фантастический. Шлем действительно работает очень здорово, и это первая система, работающая с AR. Пока еще рано говорить о создании дополненной реальности, но как медиа-средство оно идет в этом направлении и работает очень хорошо. Есть разные сценарии, в направлении которых можно думать о дополненной реальности: что произойдет с кино или как в долгосрочной перспективе дополненная реальность может поменять наше представление об интерфейсах. Влияние дополненной реальности может оказаться очень странным.

Когда элементы интерфейсов добавляются поверх объектов реального мира, они как будто добавляют субтитры к фильму. Это, я думаю, может привести к сдвигу и даже коллапсу в аллегорическом и метафорическом пространстве, где мы совершаем действия и принимаем решения. И это сильный момент для фундаментализма. Неважно, геологического, политического, философского или религиозного. Мы можем попасть в ситуацию, когда вещи воспринимаются со своеобразной печатью, на которой указана их ценность. К этому обратится весь фундаментализм — от политического до религиозного. И я думаю, что когда государства будут переходить в «облака», а «облака» — в государства, то все эти перемены могут все больше и больше политизировать потребителя, так как одна из институций будет задавать интерпретации всему этому окружающему миру.

— Хотелось бы обсудить с вами недавнее событие — бот за аватаром 13-летнего мальчика якобы прошел тест Тьюринга. Этот тест был сильно раскритикован, но, тем не менее, что означают его результаты? Какие вопросы он ставит перед нами?

— Если бы я был 13-летним украинским школьником, не знаю, как бы мне понравилась идея, что я самый вероятный человек, которого могут спутать с машиной. Я очень критично настроен в отношении этого эксперимента и не думаю, что сам сценарий этой задачи можно принимать в расчет. Этот тест устарел уже много лет назад. Устарела сама идея, что синтетический интеллект должен существовать как симуляция думающего человека. Со временем на эту идею будут смотреть как на странную и нерелевантную. По сути это своеобразный расизм.

«Что мы увидим в будущем? Города будут развиваться в том направлении, в котором будет развиваться программное обеспечение. Мы просим программное обеспечение решать те задачи, о котором раньше просили архитекторов»

Я думаю, что в ближайшие годы мы увидим более сложные виды синтетического интеллекта, которые будут компьютерными, биологическими, системными, со все возрастающей сложностью. Некоторые из них будут более похожими на нас, некоторые — нет, но по мере того как они будут нас окружать, их будет появляться все больше и больше. И это поменяет наше представление о мышлении. Потому что мы будем окружены вещами, которые думают так отлично от нас, а нам надо будет общаться с ними. Специфичность нашего мышления станет очень заметной для нас. Некоторые машины будут совсем автономными, некоторые будут управляться людьми, а большинство будут в серой зоне между ними. И тест Тьюринга будет той процедурой, которую мы будем проводить в своей голове по тысяче раз в день. И ответ всегда будет «и да, и нет», и это будет самый корректный ответ.

— Как дополненная реальность, гиперландшафты и информационные слои будут определять реальное проектирование городов? Как будут выглядеть города будущего, на ваш взгляд?

— Когда эра цифрового проектирования только начиналась, одна группа дизайнеров лучше справлялась с тем, чтобы разрабатывать дизайн самих программ и программного обеспечения, а другая — занималась архитектурой. В случае проектирования программ всегда существуют рамки, и об этом можно думать как о своеобразной общей коннотации — есть архитектурные программы и есть программное обеспечение. И они должны уживаться вместе. Для первого дизайнера невозможно контролировать второго, хотя для городского пространства это естественное состояние вещей — совмещение первого и второго плюс, наверное, определенная политическая программа. Ни один из дизайнеров не способен делать одновременно и первое, и второе, или способен только в очень специфических условиях.

Что мы увидим в будущем? Города будут развиваться в том направлении, в котором будет развиваться программное обеспечение. Мы просим программное обеспечение решать те задачи, о которых раньше просили архитекторов — и это обязательно продолжится. Необходимость городов будет определяться тем, что сможет быть перемещено в «облако». Если бы я сейчас учился в дизайнерской школе, то хотел бы разобраться с тем, как можно решать оба вопроса одновременно — развить портфолио решений или систему типологий того, как архитектурные программы и программное обеспечение работают и могут взаимодействовать между собой. Я думаю, что для дизайнеров это будет все более важным. Сisco и IBM строят умные города c умными решениями, но дизайн, который они предлагают, решает проблему очень инстинктивно. Эти технологии нельзя масштабировать, они очень жесткие, и поэтому над ними нужно работать. Как разработать дизайнерскую логику, которая вместила бы в себя и внутреннее, и внешнее — в общем дизайне? Чтобы это решение не было фиксированным и жестким, и система могла бы работать при изменении условий — вот, как я думаю, чем все будут заниматься в ближайшее время.

— Какие еще этические вопросы связаны с развитием технологий? В своей знаменитой речи на TED вы критикуете плацебо-науку и говорите, что нам нужна демистификация технологий?

— Люди смотрят на инновации точно так же, как они смотрят ситком. TED сформировал особый жанр контента с эмоциональным нарративом, который создает эмоциональную мистификацию. Проблема в том, что эта инновация должна к чему-то обращаться. Мы узнаем гораздо меньше о предмете инновации, чем нам это необходимо, как будто просто видим рекламу. В результате этого вопрос, на который дизайн должен отвечать, становится вспомогательным к жанру инноваций.

«Все ждут, что когда нейронные процессы смогут быть синтетически симулированы, произойдет связь искусственного интеллекта с личностью. Но этого не произойдет — ваши процессы могут быть кодифицированы, но вы как личность не выживите за счет этого»

То, что делает TED — мистификация этих проблем. Так работает любая реклама — и так работает TED. Нам нужна понятная, демократическая публичная дискуссия будущего технологий, экономики и дизайна. Я не выступаю против популярных дискуссий в целом, но я думаю, что они должны выполняться в другом жанре. Меня беспокоит, что конференция TED и ей подобные влияют на общество, на то, как дизайн-мышление понимается сегодня в школах, правительством, организациями. Этот нарратив упрощает всю культуру в целом. Если бы это была просто конференция, я бы не беспокоился, но меня беспокоит, что она влияет на язык, который позволяет нам концептуализировать сложные темы.

— И самый последний вопрос: какая главная проблема сейчас, на ваш взгляд, стоит перед наукой?

— Я не могу говорить от имени всей науки, но для меня все самое важное происходит в поле AR (дополненной реальности), робототехники, на пересечении нейронаук и компьютерных систем. Здесь происходит все онтологически и эпистемологически новое. Но я не думаю, что все будет выглядеть так, как этого ожидают люди, когда думают о сингулярности. Это идеальный пример того, что все изменится, но одновременно останется тем же. Я не загружу себя онлайн, нет. Все ждут, что когда нейронные процессы смогут быть синтетически симулированы, произойдет связь искусственного интеллекта с личностью. Но этого не произойдет — ваши процессы могут быть кодифицированы, но вы как личность не выживите за счет этого. Вот только один из примеров распространенного взгляда на связь сингулярности и витализма, индивидуализма. Результат сингулярности будет намного более разрушительным, трудным для узнавания, неприятным, рискованным. Но это то направление, в котором мы должны развиваться. И не только ученые. Это общие вопросы о мысли, теле, веществе, репрезентации в языке. Все самое интересное происходит здесь, и чтобы с этим разобраться, нужно участие всех.