Выдающийся физик и специалист по квантовым компьютерам Дэвид Дойч в своей колонке для The Guardian рассуждает о том, как философский подход может помочь программистам и нейрофизиологам в создании искусственного разума. «Теории и практики» публикуют основные тезисы.

Несмотря на то, что ученым пока не удалось создать искусственный интеллект, эта задача все-таки выполнима. Закон об универсальности вычислений гласит, что любой процесс, основанный на физических законах, может быть воспроизведен программой соответствующей сложности, если предоставить ей достаточно количество времени и энергии. Почему же этого до сих пор не произошло? Как сказал один неизвестный мудрец, проблемы вызывает не то, что мы не знаем, а то, что мы знаем и что на самом деле таковым не является. Все распространенные точки зрения на искусственный интеллект содержат ряд фундаментальных ошибок.

Во-первых, принижается ценность искусственного интеллекта — некоторые считают, что он вряд ли будет «умнее», чем уже существующий софт. Кроме того, люди тщеславны и хотят оставаться самыми близкими к идеалу существами. Слишком большое значение в проблеме ИИ придается самоосознанию и сознанию — при том, что сознание по-прежнему остается очень расплывчатым термином.

Философ Джон Серль считает, что надежда на возможность создания искусственного интеллекта основана на ложной метафоре человеческого мозга как компьютерной программы. Но это не метафора: универсальность вычислений происходит из известных нам законов физики.

Сам факт того, что личностью является не компьютер, а запущенная на нем программа, поднимает нерешенные философские проблемы. Например, если искусственный интеллект — программа, работающая на компьютере, удалить ее с компьютера — убийство, так же как и лишить человеческий разум физического тела.

То, что искусственный интеллект становится «человеком», подразумевалось в его концепции c самого начала. Если программе будет недоставать хоть какой-то когнитивной способности человека, она не попадет под определение искусственного интеллекта, а использование некогнитивных признаков для определения человечности (например, процентное содержание углерода) было бы расизмом. При этом не надо бояться определять объективные различия между людьми и другими мыслящими существами — эти различия должны играть жизненно важную роль в цивилизации, включающей в себя носителей искусственного интеллекта.

Например, сам факт того, что личностью является не компьютер, а запущенная на нем программа, поднимает нерешенные философские проблемы, которые на практике превратятся в политические противоречия. Например, если искусственный интеллект —программа, работающая на компьютере, удалить ее с компьютера — убийство, так же как и лишить человеческий разум физического тела. Но искусственный интеллект может быть скопирован на множество компьютеров одним нажатием кнопки. Будут ли эти программы, запущенные на разных компьютерах, одной и той же личностью или разными людьми? Как учитывать их голоса на выборах?

Более того, если говорить о представителях искусственного интеллекта как о творческих существах, с ними нельзя обращаться как с другими компьютерными программами — это означало бы «промывание мозгов» и тиранию. Игнорирование прав и индивидуальности ИИ, будет не только злодеянием, но и источником проблем: творческие существа не могут вечно существовать в рабстве.

Некоторые люди интересуются, стоит ли нам приветствовать роботов, которые могут захватить власть на Земле и как именно мы можем сделать их неспособными причинить вред людям. Эта проблема не имеет ничего общего с искусственным интеллектом. Борьба между идеями добра и зла существует вечно и не зависит от физического «оборудования», на котором она протекает. Суть в том, что мы хотим, чтобы «добрый разум», в любом его виде, побеждал «злой разум», но наша концепция добра нуждается в постоянном улучшении. «Поработить всех разумных существ» — катастрофически неправильное решение проблемы, а «поработить всех разумных существ, непохожих на нас» звучит не намного лучше. Мы должны перестать воспринимать обучение искусственного интеллекта как инструкцию— надо использовать метод проб и ошибок, гипотезы и критическое мышление. И свежесозданным разумным существам придется пройти этот путь.

Проблема искусственного интеллекта — это проблема философии, а не компьютерных наук или нейрофизиологии, и философский прогресс сыграет большую роль в решении этой задачи. Невозможно создать ИИ без понимания качественных различий в функциональности между ним и обычной компьютерной программой, ведь искусственный интеллект — это творческое существо.

Полностью прочесть колонку можно на сайте The Guardian.