По мере развития искусственного интеллекта растет не только список задач, с которыми роботы справляются лучше людей, но и список тревожных вопросов. Останутся ли люди без работы, и если да, то кто пострадает первым? Станут ли нейросети воплощением всего самого худшего в человеке? Возможен ли мультикультурный ИИ? По просьбе T&P кандидат социологических наук, декан Философско-социологического факультета Института общественных наук РАНХиГС Виктор Вахштайн рассуждает об основных сюжетах нарратива человекозамещения — вынужденной праздности, отношении роботов и государства, а также культурном технооппортунизме.

В публичном пространстве есть темы, обсуждение которых давно идет по накатанной: однополые браки, изменение климата, институциональная дискриминация и т. д. Здесь драматургия суждений устоялась. Правые и левые, прогрессисты и консерваторы, религиозные и атеисты, защитники социальной справедливости и адепты свободного рынка, социологи, экономисты и представители естественных наук уже определили основную линию фронта, поделились на два воинствующих лагеря и методично забрасывают друг друга аргументами многоразового использования.

Куда интереснее дело обстоит с так называемыми новыми повестками — постепенно нагревающимися вопросами, по которым общие позиции еще не сформировались. Тут царит гоббсовская война всех против всех и привычные риторические машины аргументации дают сбой. Одна из таких повесток — «искусственный интеллект и страны третьего мира».

В 2016 году Всемирный экономический форум опубликовал доклад «Будущее трудовой деятельности: занятость, навыки и карьерная стратегия в условиях четвертой промышленной революции». Опросив HR-специалистов из 371 международной корпорации (крупнейшие компании-работодатели в мире), исследователи пришли к выводу: до 2020 года новые технологии позволят сократить около 7 миллионов рабочих мест. За три года до этого в докладе McKinsey прозвучали еще более внушительные цифры: от 110 до 140 миллионов рабочих мест сейчас занимают люди, которых в новом десятилетии точно заменят хорошо обученными алгоритмами. Наконец, в 2017 году Карл Фрей и Майкл Осборн в нашумевшей работе «Будущее занятости» заявили, что 47% занятых в США находятся в зоне высокого риска: искусственный интеллект может выполнить их рабочие задачи лучше и дешевле.

Так рождается один из главных нарративов 2010-х: «Роботы заберут вашу работу. И они уже здесь». Огрубляя, резюмировать эту линию аргументации можно так: «Основное предназначение любой автоматизации — замещение человеческого труда машинным. Вся новая история человечества — это последовательность промышленных революций. Так же, как фабрики убили мануфактурное производство, искусственный интеллект вытеснит с рынка «пролетариев умственного труда». Работу сохранят только самые высокооплачиваемые и самые низкооплачиваемые сотрудники. Первые — потому что их труд пока не подлежит замещению. Вторые — потому что пока такое замещение невыгодно».

© xcopyart / Giphy

© xcopyart / Giphy

Государство [против] роботов

Подобные аргументы (в политическом фрейм-анализе они называются «фреймирующими ходами») порождает два следствия. Во-первых, крестовый поход против грядущей «вынужденной праздности». В прошлом году в Европарламенте состоялись ожесточенные дебаты, посвященные «Нормам гражданского права о робототехнике». Депутат от Прогрессивного альянса Джули Уорд сформулировала позицию своей фракции предельно внятно: «Бороться с автоматизацией бессмысленно. За ней — железная поступь прогресса. Нужно думать, чем мы займем те миллионы людей, которые окажутся в ситуации „принудительного досуга“ (forced leisure)». Так нарратив человекозамещения вернул в повестку уже успевшую остыть тему всеобщего гарантированного дохода.

Во-вторых, там, где такое человекозамещение реально происходит (хотя и идет куда медленнее, чем нам предсказывал Всемирный экономический форум), растут патерналистские настроения и технофобия. Если верить опросу Pew Research Center 2017 года, 72% взрослых американцев выражают опасения в связи с тем, что «в будущем роботы и компьютеры смогут выполнять большую часть работы людей». Еще 67% побаиваются, что «будет разработан алгоритм, который сможет нанимать и оценивать работников». От государства ждут политики «разумного протекционизма»: проклятые корпорации придумывают новые технологии для того, чтобы лишить нас работы, и только сильный государственный аппарат может воспрепятствовать их подлым намерениям. В этом контексте предложение Билла Гейтса обложить труд роботов налогами кажется особенно любопытным. Дополнительный доход от развития новых технологий государство должно вкладывать в обучение и переподготовку тех, кто из-за научно-технического прогресса потерял работу.

Впрочем, в России ситуация прямо противоположная. Здесь недоверие государству и доверие технике идут рука об руку. По данным нашего исследования «Евробарометр в России», с 2016 по 2018 год доверие судам упало на 8% — и примерно на столько же выросло число тех, кто поддерживает идею робота-судьи. В Штатах граждане боятся, что их заменят роботы, и надеются на государство. В России граждане надеются, что роботы заменят государство.

На ком мы будем экономить

А теперь вернемся к нарративу человекозамещения. В линейной схеме промышленных революций пропущено одно важное звено: замещение уже произошло. Причем задолго до победного шествия искусственного интеллекта по миру — в 1970-е годы, когда по развитым странам прокатилась волна сокращений из-за перевода производств в страны развивающиеся. Сложилась новая система глобального разделения труда, которую авторы вроде Алана Блайндера и Джона Урри назвали «незамеченной индустриальной революцией». Есть прямая связь между относительно недавней «офшоризацией», замещением одних людей другими (чей труд дешевле), и грядущим замещением людей не-людьми.

Источник: Frey and Osborne, 2013

Источник: Frey and Osborne, 2013

Нарратив человекозамещения старается представить проблему автоматизации, во-первых, как заботу развитых стран. Отсюда — война с праздностью и вопрос европарламентариев «чем бы нам занять людей, которые потеряют работу?». Во-вторых — как проблему нижнего сегмента среднего класса (lower middle class). Отсюда — приведенная на графике кривая: замещение якобы не коснется самых высокооплачиваемых и самых низкооплачиваемых сотрудников.

Но аргумент «замещать низкооплачиваемых сотрудников невыгодно» ошибочен. Первый удар придется как раз по тем, на ком один раз уже сэкономили.

Приведу пример из индустрии телефонных опросов. Большинство call-центров, специализирующихся на сборе социологических данных, находятся вне Москвы. Удешевление телефонной связи и компьютеризация опросов (система CATI и ей подобные) позволили вывести эту часть «производства» в регионы и в ближнее зарубежье. Если сейчас разработчики новой системы CATI — по сути, робота-интервьюера, проводящего опрос без участия человека — сумеют довести свою задумку до работающего прототипа, крупные исследовательские центры выстроятся в очередь, чтобы заменить своих региональных подрядчиков роботами (которые не только не фальсифицируют данные, но и говорят без выраженных диалектных особенностей). Нет, конечно, если новый робот-социолог сможет не только собирать данные, но и обрабатывать их и даже (скорей бы!) писать стандартизированные аналитические отчеты или — еще лучше! — колонки в «Ведомости», несколько московских аналитиков тоже потеряют работу. Но первыми под нож пойдут именно многочисленные сотрудники call-центров. Сначала заказчики сэкономили на их зарплате (отдав сбор данных на аутсорс в регионы), а теперь сэкономят на налогах.

© xcopyart / Giphy

© xcopyart / Giphy

Культурный технооппортунизм

Здесь намечается раскол между умеренными прогрессистами и условными антиглобалистами. И те и другие воспринимают человекозамещение как угрозу и риск массовой безработицы. Но первые верят в кривую Фрея — Осборна, выносят за скобки «глобальный контекст», фокусируясь на проблемах вынужденного досуга и справедливого перераспределения доходов от новых «бесчеловечных» экономик. Вторые воспринимают ожидаемое человекозамещение в контексте глобального неравенства, офшоризации 1970–80-х и видят в искусственном интеллекте новую опору «неолиберального миропорядка». И, конечно, ключевое расхождение — в том, кто будет главной жертвой новой технологической революции. Именно здесь и выходит на сцену третий нарратив, куда более философски утонченный. Я буду называть эту совокупность позиций и аргументов культурным технооппортунизмом.

Технооппортунист обращается к технофобам из обоих лагерей — прогрессистов и антиглобалистов — с легким чувством превосходства в голосе. Коллеги, говорит он, вы фокусируетесь на следствиях и не видите причин, вы упираетесь в угрозы и не замечаете возможностей.

Для вас новая технология — это что-то внешнее по отношению к обществу, что-то, меняющее его извне, тогда как на самом деле искусственный интеллект — это слепок социальных отношений, культурных стереотипов, экономических логик и западных ценностей.

Наша задача — не сопротивляться победному шествию ИИ, как какие-нибудь морально устаревшие луддиты, и не воспроизводить навязшую в зубах критику неолиберализма в новой технофобской форме. Перефразируя Эммануэля Мунье: «Наша задача — выбить технологию из рук глобальной буржуазии». Мы должны перехватить не только политическую повестку, связанную с распространением искусственного интеллекта, но и сам искусственный интеллект.

Как? На этот вопрос у культурного технооппортуниста есть два ответа. Первый — нам нужно изучить язык противника и начать предлагать решения на его языке. Вот, скажем, венчурный капиталист и технократ Кай-Фу Ли пишет: «Искусственный интеллект работает на данных, и эта зависимость приводит к самовоспроизводящемуся циклу консолидации в (новых) индустриях: чем больше у вас данных, тем лучше у вас продукт; чем лучше у вас продукт, тем больше у вас потребителей; чем больше у вас потребителей, тем больше у вас данных». Так почему бы не привлечь беженцев и иные ущемленные группы из третьего мира — потенциальных жертв технологической революции и актуальных жертв неолиберального миропорядка — к сбору данных? Позволив им тем самым зарабатывать на крупных ИИ-корпорациях? И вот уже компания REFUNITE запускает специальное приложение, которое позволяет беженцам из Южного Судана и Конго зарабатывать, дрессируя нейросети на распознавание образов. Принцип перераспределения в действии.

Второй ответ любопытнее. Вы совершенно правы, говорит технооппортунист, искусственный интеллект в его нынешнем виде — это воплощение сухой западной рациональности, индивидуализма и эгоизма, мужского шовинизма и глобалистского универсализма. Он нечувствителен к проблематике дискриминации женщин, сохранению культурного разнообразия, экологическим угрозам, не-западным этикам постколониального мира. Когда в Германии разрабатывается этический кодекс для беспилотных автомобилей, этим занимаются 14 экспертов — транспортники, программисты, философы и даже теологи. Но это западные программисты и теологи! И даже когда этический кодекс для роботов разрабатывается в Южной Корее, в его основу кладутся не национальные корейские традиции, а три закона роботехники Азимова. Но что мешает включиться в разработку и обучение ИИ?

Что мешает сделать его более культурно чувствительным, политически сознательным, социально ангажированным? Прежде всего — ваша собственная технофобия и нежелание разбираться в технологических тонкостях!

Я не буду здесь высказывать свое отношение к формирующейся у нас на глазах повестке «культурного технооппортунизма». Она вызывает у меня смешанные чувства (что-то среднее между отвращением и восхищением). Я лишь зафиксирую рождение этого нового нарратива для дальнейших исследований. Позволю себе только одну гипотезу. Успех технооппортунизма связан не столько с его решимостью убедить традиционных технофобов из левого лагеря в необходимости перехвата искусственного интеллекта, сколько с его способностью выстроить альянс с разработчиками ИИ. Отдельный вопрос: смогут ли технооппортунисты со своими тезисами культурного релятивизма встроиться в повестку исследований «эмоционального искусственного интеллекта»?

Этот текст появился благодаря работе автора с Марией Ерофеевой и Нильсом Оливером Кловайтом. Без их исследований в сфере социологии техники он никогда не был бы написан.

Где можно учиться по теме #искусственный интеллект