Платон сравнивал бессознательную жизнь с наблюдением теней на стенах пещеры. Сегодня пещера сменилась огромным супермаркетом, в котором посетителям по громкой связи твердят, что они не более, чем клубок пристрастий, которому все равно, куда катиться. Насколько верно это утверждение? T&P публикуют перевод статьи Стивена Пула об общественном сознании, когнитивных искажениях и манипуляции.

Успехи человечества и его самовосприятие сегодня зажаты в тиски курьезных противоречий. Можно доставлять автономных роботов на Марс или с помощью генной инженерии сделать стерильными малярийных комаров, однако новости из популярной психологии, неврологии, экономики и других областей твердят, что мы не так рациональны, как привыкли считать. Человечество пало жертвой последовательных ошибок, цепляясь за свое стремление победить и всегда быть правым. В лучшем случае — гласит предание, — наша способность быть разумными находится в непрестанной войне с внутренней иррациональной тьмой. В худшем — стоит и вовсе прекратить попытки быть полностью рациональными.

Чувство недоверия к нашей разумной способности укрепилось благодаря мощному импульсу со стороны поведенческой экономики, в частности, из-за совместных исследований Даниэля Канемана и Амоса Тверски в 1980-х, результаты которых были представлены в бестселлере Канемана «Думай медленно… Решай быстро». В нем Канеман абстрактно разбил сознание на две аллегорические системы — интуитивную «Систему 1», чаще дающую неверные ответы, и рефлексивно судящую «Систему 2». «Внимательная «Система 2» — это то, какими мы мыслим самих себя, однако большую часть времени у руля находится интуитивная, пристрастная, иррациональная «Система 1».

Другие версии того же размышления выражены в более негативной форме. «Ты не столь умен» (2011) — бестселлер Дэвида МакРэйни — посвящен когнитивным искажениям. По данным статьи «Почему люди выносят суждения» (2011), написанной исследователями-когнитивистами Хьюго Мерьсе и Дэном Спербером, наши предположительно рациональные способности развивались не для поиска истины, но лишь для того, чтобы достичь выигрышной аргументации. И в своей книге «Праведный разум» (2012) психолог Джонатан Хайдт формулирует мысль, что наш «наиболее благородный атрибут — лишь заблуждение». Он добавляет: «Культ разума является примером веры в то, что не существует». Мозг, поддерживающий господство здравого смысла, чаще всего оказывается запутанным, сырым и небрежным переплетением когнитивных искажений и страха.

Можно сказать, что это сциентистская трактовка первородного греха. Столь скорое принятие такой позиции со стороны государственных деятелей должно было насторожить. Культура, полагающая, что ее представители не способны мыслить, будет относиться к ним иначе, нежели та, что уважает их рефлексивную автономию. К какой из культур мы хотели бы принадлежать? Выбор есть. Ведь концепция скомпрометированного разума куда более проблематична, чем себе представляют ее последователи.

В большинстве трактатов подразумевается, что рациональность отделяет нас от состояния животного. Платон утверждал, что мизология (ненависть к разуму) берет свое начало там же, где и ненависть к человечеству. Аристотель заявил, что человек — «существо разумное»; это казалось очевидным и Бенедикту Спинозе: «Как собака — существо лающее, так и человек — мыслящее». Конечно, у философов были долгие споры о природе и границах разума. Кант выступал против «рационалистов», таких как Лейбниц, которые утверждали, что чистый разум способен раскрыть природу реальности. Гегель настаивал на том, что отдельно взятые мыслители не могут сбежать от собственного исторического контекста, а Юм отметил, что разум сам по себе не побуждает к действию.

Еще недавно имел место общий взгляд на то, что разум, вне зависимости от характера и границ, — это определяющий аспект человеческого бытия

Еще недавно имел место общий взгляд на то, что разум, вне зависимости от характера и границ, — это определяющий аспект человеческого бытия. На этом основании выросло достигшее апогея отчаяние, которым были проникнуты тексты романтических антирационалистов во второй половине XX века, искренне полагавших, что Просвещение привело к ГУЛАГу и Холокосту. Критика разума была выражением пессимистического взгляда на человечество в целом. Сегодня человечество способно отказаться от мысли, что разумность — его основная черта. Но, несмотря на приводимые доказательства, — должно ли?

Иррационален не человек в целом, а современный homo economicus.

Современный скептический взгляд на рациональность в большинстве базируется на многолетних исследованиях когнитивных искажений. Мы подвержены иррациональным явлениям, таким как «эффект якоря» (например, если нас попросят загадать любое число, выбор окажет влияние на последующие ответы — даже если вопросы будут не связаны между собой) или «ошибку доступности» (мы судим о предмете в соответствии с наиболее очевидными для нас примерами, не беря в расчет весь спектр ситуаций и взглядов). Более фундаментальной является проблема, демонстрирующая, что заявления о человеческой «иррациональности» в первую очередь зависят от того, что подразумевается под «рациональностью».

В ходе разработки теории игр и теории принятия решений в середине XX века под «человеком разумным» стал пониматься индивидуум-одиночка, чьи решения определяются стремлением к максимальной выгоде, а предпочтения (математически или логически) непротиворечиво связаны в течение долгого времени. Относительно образа такого homo economicus человек и правда кажется нерациональным. Изящной демонстрацией этого факта стали исследования Канемена-Тверски последних лет. Выбирая во время сложных ставок, человек предпочитает ту, в которой потери выглядят наименьшими, — ведь меньшие потери представляются яснее, чем равная им потенциальная прибыль.

Представьте, что вы сказали о Линде следующее:

— Линде 31 год. Она незамужняя, раскованная и очень яркая. Ее специальность касается философии. Во время студенчества она занималась вопросами дискриминации и социальной справедливости, а также участвовала в антиядерных демонстрациях.

Тогда какое из этих утверждений будет более вероятным?

Линда работает кассиром в банке.

Линда работает кассиром в банке и участвует в феминистском движении.

Большинство отвечает, что второй вариант является более вероятным. Канеман утверждает, что в статистическом отношении этот вариант не более вероятен, чем первый. «Люди, выбирающие второй пункт, — утверждает Канеман, — полагают, что Линда принадлежит к меньшему сообществу, нежели к большему, включающему в себя первое. Математически это неверно». Пример Канемана призван продемонстрировать, как установки в сознании, порожденные неточной информацией о личности Линды, подвигают нас совершить так называемую конъюнкцию заблуждений, что и приводит к «иррациональному» суждению.

Однако этот подход не включает некоторые важные нюансы. Рассмотрим то, что философ Пол Грайс назвал коммуникативной импликатурой. В соответствии с максимой релевантности Грайса люди предполагают, что информация о личности Линды указана, так как имеет значение. Это приводит их к выведению вероятности, отличной от собственно математической, так как строго математический ответ обессмыслил бы данный образ личности. (В конце концов, мы могли бы разумно задаться вопросом, зачем вообще была дана эта информация?) Может быть, респонденты, дающие «неверный» ответ, интерпретируют вероятность как нечто, сродни повествовательному правдоподобию?

Что характерно, в 1999 году психологи Ральф Гертвиг и Герд Гигеренцер сообщили, что если ту же самую загадку предлагать в терминах относительной частоты, а не «вероятности», люди чаще будут давать математически верный ответ. Стоит добавить, что если мы говорим о правдоподобии, версия «кассир в банке и активистка феминистического движения» звучит куда реалистичнее. Возможно, поэтому данный вывод является определенно рациональным: он приводит к соответствию всю имеющуюся информацию.

Существует множество важных причин для того, чтобы давать «неверные» ответы на вопросы, выявляющие когнитивные искажения. Когнтитивный психолог Джонатан Эванс был первым, кто сделал предположение о двунаправленной природе суждений — еще в 1980 году. Но он сопротивлялся разговорам в терминах «Системы 1» и «Системы 2» и выступал против предпосланных установок, приписывающих когнитивным искажениям иррациональную природу. В опросе 2005 года он предлагал следующие ситуации. Например, респонденту задают вопрос:

Если она встретит друга, то пойдет в театр.

Она встретила друга.

Что из этого следует?

Как и следовало ожидать, 96% людей делают верный логический вывод: она пойдет в театр. Но взгляните, что происходит, когда вводится дополнительное условное суждение:

Если она встретит друга, то пойдет в театр.

Если у нее достаточно денег, то она пойдет в театр.

Она встретила друга.

Что из этого следует?

Теперь лишь 38% опрошенных дают столь однозначный ответ. В строго логических рамках остальные 62% ошибаются. Эванс объясняет: «В формальной логике аргумент, выводимый из некоторых посылок, с необходимостью должен выводиться, если вы добавите новую информацию». Однако люди, сомневающиеся в том, что девушка все же пойдет в театр, не обязательно поступают иррационально. Эванс рассматривает их мыслительный процесс так: «Дополнительное условное суждение приводит к сомнению в истинности предыдущего суждения. Люди начинают думать, что даже если некто хочет пойти в театр с другом, он может быть не в состоянии позволить себе это. Следовательно, вполне разумно, что люди не могут дать однозначный ответ».

Одно интересное следствие более широкой трактовки рациональности — то, что становится гораздо сложнее опровергнуть оппонентов. В статье, озаглавленной «Доказательное основание науки о климате» (2013), Дэн Кахан, профессор права и психологии, утверждает, что люди, отвергающие принятые факты о глобальном потеплении и принимающие вместо этого факты своих коллег, в определенном смысле являются образцами рациональности.

«Ничто из того, что обычная женщина думает о глобальном потеплении, непосредственно не коснется ее жизни или жизни того, о ком она заботится. Тем не менее, если она займет ложную позицию по отношению к данному феномену с точки зрения тех людей, с которыми тесно связана в социальном отношении, кого она уважает или от кого зависит, она может серьезно пострадать — начиная с того, что ее будут избегать прежние знакомые, и заканчивая увольнением. Дело в том, что для такого индивидуума совершить ошибку относительно науки — ничто, а вот последствия социального остракизма в данном случае будут катастрофическими. Так что в субъективном отношении для нее действительно рациональным будет уклонение от открытой конфронтации, противопоставления своей позиции — мнению культурной группы.»

Конечно, если совокупность индивидуумов — «индивидуальных рациональностей» в терминологии Кахана, — отражает групповое поведение, то можно заключить, что в целом группа поступает иррационально, отвергая обоснованные научные доводы. Пожалуй, это интеллектуальная версия известной трагедии общин: отдельный индивидуум действует «разумно» в соответствии с собственными интересами (стремление получить максимум от общей доли), но общее поведение (чрезмерный выпас скота и, как следствие, разрушение плодородной почвы) окажется иррациональным. Не стоит удивляться тому, что группы, как и их отдельные представители, могут поступать рациональным или иррациональным образом. Толпы не блещут умом.

Не стоит удивляться тому, что группы, как и их отдельные представители, могут поступать рациональным или иррациональным образом. Толпы не блещут умом

Тем не менее существует эмпатическая значимость в намерении обнаружить, что индивид получает, разделяя очевидно ложные представления. Аргумент Кахана о женщине, не верящей в глобальное потепление, является удивительным и убедительным примером общего принципа: если мы хотим понимать других, стоит спросить, что делает их поведение рациональным с их точки зрения. С другой стороны, если предположить, что они целиком иррациональны, диалог в принципе не сможет состояться.

В двух словах, речь идет о проблеме практического применения бихевиористской экономики в современной системе управления посредством «подталкивающей» политики. Кахан выступает против того, что он называет тезисом общественной иррациональности, — представления о том, что в большинстве граждане поступают иррационально. Он стоит на позиции, что данное утверждение необоснованно, однако либерально-патерналистские создатели указанной выше формы политического взаимодействия просто принимают его, как они заявляют, в наших же интересах.

Эта мысль стала массовой благодаря книге «Встряска», написанной профессором права Кассом Санстейном и экономистом Ричардом Талером. В ней они полагают, что официальная политика должна сознательно обходить процессы рефлексии и вынесения суждений в обществе. Как? Во время создания «архитектуры выбора», в которой альтернативные варианты обычно ориентированы на людей c определенными когнитивными слабостями, гарантирующими большинство для принятия желаемого решения. Например, в школьной столовой можно поставить здоровую пищу на уровне глаз (по принципу супермаркета), сместив «мусорные» продукты в труднодоступные места. Этот прием целится в леность непосредственного восприятия и действия.

Манипулятор оказывается благоволящим богом, создавшим лабиринт, ведущий грешников к «верному» выходу.

Стимуляция получила огромный успех в правительствах разных стран. Правительство Великобритании создало в кабинете министров «Бихевиористские группы понимания» (неофициально известные как «подразделения стимуляции»), позже частично приватизированные. Аналогичные подходы были опробованы во Франции, Бразилии, Австралии и Новой Зеландии.

По сравнению с логическими задачками Канемана, за более широким пониманием рациональности сложно разглядеть пораженные манипуляцией мыслительные процессы. В лучшем случае они могут быть гибкими, как правила эмпирической закономерности («правило большого пальца») для быстрого принятия решений, — но это вовсе не значит, что они будут способствовать разумным действиям, — пока управляющий выбором («архитектор») не пустит движение среды в нужном направлении, решив в одностороннем порядке, какое решение в данном контексте будет считаться рациональным. Манипулятор оказывается благоволящим богом, создавшим лабиринт, ведущий грешников к «верному» выходу. Стимулирующая политика может рассматриваться как развитие пугающих тенденций, которые философ Аласдер Макинтайр отметил еще в 1988 году:

«Потребитель, избиратель и индивид в целом имеют право выражать свои предпочтения посредством выбора из предложенных им альтернативных вариантов, однако их диапазон управляется элитой — точно так же, как и способ их презентации. В рамках либерализма члены правящих элит стали теми, кто связал высокие компетенции с убедительно представленными альтернативами, — то есть чисто косметическим, внешним образом. (Чья справедливость? Что за рациональность?)».

Стимуляция — не антиутопический инструмент государственного контроля: формально мы вольны совершить «неправильный» выбор. Тем не менее есть нечто тревожное в том, как можно запросто маргинализировать политическую дискуссию. Всегда ли неразумно есть жирную пищу? Говоря о донорстве: всегда ли мы должны с удовольствием делать это? Это смутные вопросы, порождающие прямо противоположные мнения, но архитектура выбора не преследует цель узнать общественную позицию. Попытка обойти процесс самостоятельного мышления в нас порождает проблему согласия и замыкания демократии. Зачем тратить силы, приводя политические аргументы, если можно ловко направить людей к желаемому решению.

Зачем тратить силы, приводя политические аргументы, если можно ловко направить людей к желаемому решению

Манипулятивные техники все чаще объединяются со средствами контроля через персональные технологии: в качестве примера можно привести смарт-карты, благодаря которым житель, регулярно посещающий спортзал, получает снижение местных налогов. Это позволяет с большей легкостью обвинять индивидов в их плохом здоровье и повышать страховые взносы, если их «плохое поведение» было зафиксировано и доказано. («Чем же еще объяснить плохое здоровье населения, как не его собственными недостатками?», — саркастически вопрошает критик Евгений Морозов. «Конечно, дело не в силе пищевых компаний, классовых противоречий, различных политических и экономических несправедливостей».) Если отказ от манипуляции приводит к финансовым или любым другим штрафам, сколько свободы останется в предложенных вариантах?

Возможно и то, что чрезмерная вера в манипуляцию тоже иррациональна. В 2011 году был опубликован отчет подкомитета науки и технологии при палате лордов Великобритании, в котором говорилось, что «мягких» подходов, в том числе стимулирования, недостаточно для решения социальных проблем — например, проблемы транспортного обеспечения или ожирения. К тому же, поскольку стимулирование и манипуляция основываются на автоматическом потворствовании людей своим пристрастиям, их эффективность будет подорвана, если люди преодолеют свои наклонности.

Многие исследователи полагают, что увеличить уровень разумности своей жизни можно, просто напоминая себе в конкретных ситуациях о тех склонностях, которые в этот момент могут стать мишенью. Канеман считает, что такого вида устранения предвзятости сложно добиться достоверно, однако в его области есть коллеги, настроенные более оптимистично. Один из них — психолог Кит Станович, который в своей книге «Разум и рефлексивное сознание» (2011) придерживается трехчастной структуры ментальной системы: «автономная» (находящаяся во власти предубеждений), «алгоритмическая» и «рефлексивная». Так он демонстрирует разницу между интеллектом в узком понимании (вне зависимости от результатов IQ или ЕГЭ), за который отвечает «алгоритмический» разум, и точным суждением, которое он приписывает разуму «рефлексивному». Хорошая новость состоит в том, что разумному мышлению можно научить.

Сделать так — значит осуществить идею общественного разума. Можно представить, что для манипуляторов это событие стало бы разочарованием. Ведь стимулирование реализуется за счет пригодных для этого человеческих склонностей, а программа развития мышления, подготовленная Становичем, стала бы своеобразным камнем преткновения. В этом смысле политика манипуляции находится в противоречии с общественным разумом: ее жизненность полностью зависит от неспособности человека справиться со своими страстями.

Политика манипуляции находится в противоречии с общественным разумом: ее жизненность полностью зависит от неспособности человека справиться со своими страстями.

Общественный разум — наиболее действенное противоядие от скептического мнения о наших мыслительных способностях. В конце концов есть одна вещь, способная наполнить надеждой пессимистов от поведенческой экономики, та, которую они вместе так хорошо доказывают: огрехи в рассуждениях одного мыслителя можно исправить лишь тогда, когда они станут частью диалога. Дискурс о когнитивных искажениях внутри себя самого строился в соответствии с высочайшими требованиями коллективной рациональности — и если это походит на пустые похвалы светочам данной науки, можно вспомнить, что теоретики прежде всего были людьми, рассуждавшими также в соответствии со стандартами общественной рациональности, благодаря которой началось покорение космоса.

Разумность — это общественный институт, наделяющий легитимностью общественные и политические институты нашей цивилизации.

Действительно, даже в словах Джонатана Хайдта об иллюзорности культа разума можно уловить прославление человеческой способности мыслить сообща. «Если вы направите индивидов в нужную сторону, — пишет он в книге «Справедливый разум», — так, что некоторые из них смогут использовать силу суждений для преодоления возражений со стороны других, а индивиды будут ощущать общую связь и единый жребий, позволяющие цивилизованно взаимодействовать, то сможете создать группу, финалом которой станет производство рациональности в качестве эмерджентного свойства социальной системы»

Каждый из нас может назвать несколько примеров удачного успешного объединения индивидов в государственные органы, поддерживающие высокий уровень рациональности: научные сообщества, университеты и — иногда — даже дискуссионные палаты правительства. Воистину, разумность — это общественный институт, наделяющий легитимностью прочие общественные и политические институты цивилизации.

У скептиков остается все меньше причин сомневаться в человеческой способности быть разумными. Критики теории когнитивных искажений утверждают, что люди не являются настолько индивидуально-иррациональными, как это транслируется в современной культурной среде. Они утверждают, что каждый может развить свою рациональность путем практики. Но, даже если бы каждый из нас поступал иррационально так часто, как это рисуют самые пессимистические картины, это не могло бы стать причиной для превращения демократического размышления во взвешенную инженерию потребительского выбора, — как это пытается делать политика стимуляции. Напротив, общественный разум — наша лучшая надежда на выживание. Даже обоснованное суждение, что рациональность фатально скомпрометирована, само по себе оказывается упражнением в рациональности. Правда, извращенным и, можно предположить, пагубным.