Илла Реза Нурбахш — глава лаборатории CREATE Lab, а в прошлом руководитель исследовательских проектов по робототехнике в NASA. Весной 2013 года он выпустил книгу «Будущее с роботами» и недавно представил ее в Москве в рамках летней образовательной программы института «Стрелка». «Теории и практики» поговорили с профессором о том, как изменится наше представление о роботах, где пройдет граница между человеком и машиной, почему запрограммированные эмоции не отличаются от настоящих и зачем робототехнике нужны философы.

— Как будут выглядеть роботы в будущем? Мы привыкли думать о роботах, созданных по образу и подобию человека, а вы, насколько я понимаю, занимаетесь другим направлением.

— Да, все верно. То, о чем вы говорите, характерно для эволюции робототехники. Она начиналась с биомеметики, мимикрии людей. Но даже тогда в научной фантастике существовали разные взгляды на этот вопрос. В тех же «Звездных войнах» был и C-3P0, который во всем похож на человека, только забавнее, и R2D2, который напоминает цилиндр, издает странные звуки и делает то, что люди не могут. За последние пятнадцать лет в робототехнике произошло следующее: технологии, которые мы разрабатываем для роботов, в том числе и базовые, которые помогают видеть, воспринимать мир и решать, что делать и как действовать в этом мире, и технологии, которые имеют современные роботы, сильно отличаются от технологий, которые были у роботов, созданных по человеческому подобию. При этом то направление, которое развивается в робототехнике сегодня, становится очень популярно, и его достижения вроде сенсоров и моторов могут внедриться во все виды устройств, которыми мы пользуемся.

— Например, телефон?

— Точно! Сейчас вы можете разговаривать со своим телефоном, и по факту, телефон может не только вам отвечать — он может принимать решение, как действовать. Он может напомнить о важной встрече или позвонить вашим партнерам, если вы на эту встречу опаздываете. Телефон может снизить температуру в вашем доме. Он знает, что вы будете через час, и за час начать работу, чтобы успеть к вашему возвращению сделать температуру в доме комфортной. Так что технологии уже понемногу меняют мир.

«Мы не можем прописать все поведение роботов. Мы не можем регулировать его в полном объеме. Потому что роботы будут постоянно попадать в ситуации, которых мы не сможем запрограммировать заранее. И для этих ситуаций у нас не будет заранее готовых ответов»

— Какой будет следующий шаг эволюции?

— Я думаю, что роботы станут своеобразным клеем между цифровым миром, которым мы сегодня активно пользуемся, и физическим миром, в котором мы живем. И это очень интересно, потому что все плохое и хорошее, что есть в цифровом мире, будет перемещаться в мир реальный. Направленная реклама встроится в реальный мир, а вслед за ней и видеонаблюдение. Все, что мы будем делать в интернете, будет записываться. Камеры будут наблюдать за нами, когда мы будем обращать внимание на те или иные предметы, и в зависимости от этого роботы будут показывать нам то, что нас сможет заинтересовать. Так что да, роботы перестанут выглядеть как роботы, и чем дальше, тем труднее будет опознать роботов, да и в принципе технологии в целом. Я думаю, что в мире, к которому мы движемся, роботы в сегодняшнем понимании этого слова станут анахронизмом. Вместо этого у нас будет тесная связь между физическим и реальным миром.

— Каким мир станет к 2020 году?

— К этому моменту все компании смогут следить за людьми и угадывать, что вы за человек, какие ваши политические взгляды, любимые фильмы, считывая это все из информации в социальных сетях и миллионов взаимодействий с другими. Так они начнут предлагать вам именно те вещи, от которых вы просто не сможете отказаться. Они будут полностью соответствовать вашим желаниям. И это приведет к тому, что у человека странным образом исчезнет свободная воля, потому что когда маркетинг становится таким успешным, что можно нажимать на кнопки и получать от покупателя желаемое, покупатель в некотором смысле станет роботом. Маркетинг еще никогда не заходил так далеко — раньше он ограничивался всего лишь рекламой, среднестатистическим покупателем. Но сейчас он адаптируется к отдельным людям, демографии, учится правильно нажимать кнопки. Я думаю, что к 2030-му году этого будет все больше и больше.

Другая вещь, которая появится к этому времени — дополняющие человека роботизированные системы. Мы сможем увидеть, как люди, которые сегодня сидят в инвалидных колясках, гуляют по городу. И это очень вдохновляет. В своем кресле ты чувствуешь себя недостаточно уверенным. Ты не можешь смотреть людям глаза в глаза. Я думаю, это изменится. Изменится и отношение к старости. Когда ты стареешь, ты постоянно в опасности — можешь упасть, сломать ногу. Я думаю, скоро появится экзоскелет, который будет тебя предохранять от падения. Я думаю что к 2030-му году все чаще можно будет увидеть эти странные создания: человеко-роботы. Все технологии станут лучше. Слуховые аппараты превратятся в фактически искусственные уши. Они смогут угадывать, что я смотрю именно на тебя, и концентрироваться на твоей речи и глушить фоновый звук. Роботы изменят способ, которым мы воспринимаем мир, которым мы взаимодействуем с миром, и все это произойдет за ближайшие 20 лет.

— Как роботы изменят наше общество?

— Если мы посмотрим на историю технологий, то увидим, что они стратифицируют общество. Технологии проводят границу между богатыми и бедными по одной простой причине: на них надо тратить деньги. Много говорят о том, что роботы сделают противоположное, и превратят всех людей в средний класс, но я в это не верю. На первых порах эта технология будет доступна только богатым. Роботы будут связаны с информацией, а информацией будут владеть богатые компании, и это создаст еще больший разрыв между богатыми и бедными — информационный. Другая проблема заключается в том, что роботы и техника в принципе могут делать практически любую работу лучше, чем люди, и делать то, что нам неподвластно.

Профессор Илла Реза Нурбахш неделю назад запустил кампанию на «Кикстартере» по созданию первого в мире [говорящего плюшевого мишки-робота](http://www.kickstarter.com/projects/2117525416/supertoy-worlds-first-natural-talking-teddy-bear
). Supertoy Teddy создан на базе искусственного разума и использует интернет-сервер как автономный мозг.

Еще одна опасность связана с тем, что по мере того как роботы будут совершенствоваться, мы будем давать им больше полномочий в принятии решений. Если вы захотите провести вечер со мной, вы будете звонить моему роботу, чтобы он связался со мной. И он уже будет принимать решение, насколько вы важная персона, чтобы со мной встречаться. Он же будет заниматься моим расписанием. Но тогда я начну терять контроль над собственным расписанием и своей судьбой. Все беспокоятся о том, как не отдать роботам слишком много контроля — а это происходит уже сегодня. При этом мы практически не почувствуем потери контроля. Это будет подаваться нам таким образом, что это будет выглядеть ценным, чем-то, что позволит нам больше наслаждаться жизнью. Думаю, что это и будет главный тренд — меньше контроля, меньше личного пространства и меньше глубины, но вместо этого мы получим широту, возможность быть в разных местах.

— Актуальны ли еще законы робототехники Азимова?

— Раз уж мы начинаем говорить о трех законах роботехники, я бы хотел отметить один интересный момент. Айзек Азимов придумал эти законы, чтобы показать, как они могут быть нарушены. Он попытался придумать законы, которые контролировали бы поведение роботов и он придумал истории, в которых эти законы не работали. И это должно объяснять кое-что интересное: мы не можем прописать все поведение роботов. Мы не можем регулировать его в полном объеме. Потому что роботы будут постоянно попадать в ситуации, которые мы не сможем запрограммировать заранее. И для этих ситуаций у нас не будет заранее готовых ответов.

Что мне кажется особенно интересным — это то, как роботы изменят поведение людей. В нашем обществе и жизни сейчас есть только одно существо, с которым мы общаемся и взаимодействуем — это человек. Собаки, кошки, машины — мы иногда говорим о них как о людях, но это совершенно не то. Когда начнут появляться роботы, с которыми мы будем говорить и спорить, например, потому что мы захотим сесть за один столик, а робот не сможет и посадит нас за другой, и нам надо будет вести все эти сложные социальные взаимодействия с кем-то новым. Это как если бы инопланетяне приземлились на нашу планету, а потом странным образом получили бы здесь работу. Проблема в том, что мы знаем, что роботы не люди, и будем общаться с ними по-другому. Людям мы говорим «доброе утро», когда проходим мимо — а я не говорю «доброе утро» своему роботу. Я просто прохожу мимо, потому что я знаю, что это робот, и я не хочу терять свое время, говоря доброе утро. Будь это человек, он счел бы меня грубым, а я в свою очередь никогда бы не поступил так с человеком, но если робот станет более похожим на человека, буду ли я обращаться с ним, как с человеком? Изменит ли это в принципе социальные взаимодействия? Это важный вопрос. Он чем-то напоминает колониальные времена и рабство, когда с людьми, которые чем-то отличались, обращались существенно хуже. И это определенным образом характеризовало нас, людей.

Когда мы достигнем сингулярности, компьютеры смогут изобретать других роботов, технологии или даже музыку. Мне трудно это вообразить. И я даже не уверен, что до конца понимаю, зачем нам нужно изобретать для этого робота — для этого есть люди.

— Возможна ли здесь демократия в принципе?

— Есть большой вопрос о возможности демократии в принципе, и особенно демократии в будущем. По большому счету, сегодня политические партии обращаются с нами как с роботами — просто нажимают на определенные кнопки. Тестируют на нас разные способы подачи информации так, чтобы мы проголосовали за них. Когда они начнут, как маркетинговые компании, делать это очень индивидуально, они смогут максимизировать этот процесс. Но это тоже далеко от истинной свободной воли и истинной демократии. Мы становимся сами немного роботами — нашим мозгом очень искусно манипулируют. И это отравляет саму идею демократии.

С другой стороны — собственно роботы. Можно ли увидеть в них идею свободного выбора, возможность принятия собственного решения? Многие современные философы считают, что если мы видим, что объект способен действовать, мы начинаем его рассматривать в качестве самостоятельного и даем ему право быть человеком. Потому что если мы не делаем этого, мы уменьшаем собственную человечность. Некоторые из роботов достаточны совершенны, чтобы мы могли увидеть у них намерения, цели и желания. Что произойдет тогда? Дадим ли мы им права, смогут ли они голосовать? Это же, в конце концов, роботы — это машины! «Не сущность» роботов — это вопрос того, как мы их воспринимаем. Если мы воспримем их достаточно человечными — мы должны будем дать им права. В противном случае мы сами в некотором смысле перестанем быть людьми. Если же мы дадим им права и начнем воспринимать их как независимых существ, то мы ступим на совершенно неизведанную территорию.

— Думаете ли вы, что робот может обладать собственным сознанием и психикой? Принимать собственные решения?

— Прежде всего нужно определиться с тем, что такое сознание. И это очень сложный вопрос. Некоторые фантасты рассуждают о том, что с помощью робота можно будет достичь бессмертия — например, загрузить сознание человека в робота. Мое личное ощущение — что то, что мы понимаем под сознанием, очень тесно связано с человеком, с человеческими ощущениями и действиями. Грубо говоря, если поместить человека в стеклянный куб и вырастить его в этом изолированном от внешнего мира пространстве, он не будет обладать сознанием. Мое сознание тесно связано с физическим миром: с моими органами чувств, глазами, кожей. Поэтому я считаю, что если поместить наше сознание в робота, который обладает совершенно другим способом взаимодействия с миром, другими глазами и кожей, это сознание станет для нас инородным. Нам будет очень трудно говорить об этом как о сознании. И замечу, что мы до сих пор не понимаем, как научно и биологически можно это сделать.

Другой вопрос — может ли у робота быть воля, может ли у него быть мотивация, желания? Я думаю, да. Я думаю, это возможно — сделать роботов наподобие R2D2 и C-3P0. При этом здесь есть такой сложный нюанс — не обязательно это будет свобода выбора в человеческом понимании, но она может быть воспринята человеком как свободная воля. Потому что в конце концов программы для роботов написаны человеком. И эти программы делают то, что мы так или иначе предписываем им делать.

Что на самом деле сложный вопрос, так это момент сингулярности — когда компьютеры станут такими мощными, что смогут сами решать собственные проблемы. И вместо нас, решающих, как сделать более быстрый компьютер, мы будем говорить компьютеру — пожалуйста, сделай компьютер побыстрее. Сегодня у нас нет даже мысли о том, что компьютеры могут осуществлять инновации — это делают люди. Когда мы достигнем сингулярности, компьютеры смогут изобретать других роботов, технологии или даже музыку. Мне трудно это вообразить. И я даже не уверен, что до конца понимаю, зачем нам нужно изобретать для этого робота — для этого есть люди. Я не очень понимаю, зачем роботу мимикрировать все проявления жизни человека.

Без разницы, настоящие это эмоции или нет, что важно — как это осознают и воспринимают люди. Если люди видят в роботе эмоции, то это повлияет на общество и на людей, вне зависимости от того, хотят они этого или нет.

— Я бы хотела немного поговорить об эмоциональном роботе в вашей лаборатории. Насколько я понимаю, на сегодняшний день он способен только демонстрировать те или иные эмоции, а не переживать их. Возможно ли в будущем создать по-настоящему эмоциональных роботов, которые смогут прочувствовать эмоции?

— В настоящий момент все эмоциональные роботы — то есть роботы, которые демонстрируют те или иные эмоции — эти эмоции симулируют. Но в театре на сцене можно увидеть точно таких же людей, которые демонстрируют эмоции, которых не испытывают. Это роботам тоже под силу. Вопрос в том — и этот вопрос скорее философский — если робот выглядит печальным, и все остальные люди могут определить, что он печален, тождественно ли это тому, как если бы робот в самом деле был печален? Я считаю, что нет. При этом с точки зрения того, как роботы могут повлиять на общество, все то же самое. С этой точки зрения без разницы, настоящие это эмоции или нет, что важно — как это осознают и воспринимают люди. Если люди видят в роботе эмоции, то это повлияет на общество и на людей, вне зависимости от того, хотят они этого или нет.

— Во многих интервью вы говорите о работе роботехника с социологами. Зачем социологи нужны в технологических лабораториях?

— Люди, которые разрабатывают роботов сегодня, как правило, не имеют этического бэкграунда, образования в философии. Они даже не учились социологии. Но сегодня роботы уже готовы встроиться в общество, поэтому решения инженеров уже начинают иметь значение. Роботехника больше не теория — не теоретическая физика, не астрономия. Разработчики роботов сегодня действительно влияют на общество и должны нести ответственность за свои решения. Они должны действительно думать о возможных последствиях и создавать свои технологии так, чтобы последствия были самыми наилучшими. Сами мы с этим — инженеры — не справимся. Поэтому роботехника должна стать междисциплинарной.

— И последний вопрос — не очень серьезный. Гипотетически, если произойдет апокалипсис и останутся только роботы и зомби, кто, как вы думаете, победит? И на чьей вы будете стороне?

— Я думаю, что буду на стороне роботов, потому что роботы будут драться за людей. Технически, я думаю, главная загвоздка в том, что зомби нельзя убить, они уже мертвы. Даже если вы оторвете зомби голову, он будет жить. Но робота, к сожалению, довольно легко уничтожить — даже если это будет сложный робот со сложным поведением. Еще одним условием станет происхождение зомби. Я думаю, что зомби победят в том случае, если все умершие поднимутся из своих могил — их просто слишком много, и потребуется слишком много усилий и времени, чтобы построить достаточно роботов, чтобы с ними сражаться. Так что я, к сожалению, боюсь, что роботы не победят.

Продолжить чтение: