В 1966 году, вдохновившись тестом Тьюринга, Джозеф Вейценбаум написал программу, которую назвал «Элиза». Этот виртуальный собеседник симулирует поведение психотерапевта и взаимодействует с пользователем с помощью техники активного слушания. Программа стала всемирно известной и вызвала большой общественный интерес к проблематике искусственного интеллекта, а сам ученый впоследствии занял место одного из главных критиков будущей технологии. T&P выбрали несколько важных высказываний ученого.

Джозеф Вейценбаум, американский ученый, пионер в области программирования, профессор Массачусетского технологического института, автор программы искусственного интеллекта «Элиза»

Программист — это создатель вселенных, вседержателем которых он сам и является. Ни один драматург, режиссер или император в истории, не обладал такой абсолютной властью при постановке спектакля или на поле боя, и не имел в своем распоряжении таких неукоснительно преданных делу актеров или воинов.

Человек — не машина. И хотя он вне всяких сомнений способен обрабатывать информацию, не факт, что он делает это тем же способом, что и компьютер. Компьютер и человек — существа разного вида. Каких бы интеллектуальных высот ни достигал компьютер сегодня или в будущем, этот вид интеллекта всегда должен быть чужд истинным человеческим проблемам и заботам.

В России есть анекдот, который звучит примерно так: два человека стоят в длиннющей очереди за бесплатным хлебом в Москве, и один из них говорит другому: «Во всем этом бардаке виноваты евреи и велосипедисты». Второй говорит: «При чем тут велосипедисты?» — на что первый отвечает: «А при чем тут евреи?». Точно так же если бы вы спросили: «Какова роль компьютеров и велосипедов в образовании?», я бы сказал: «При чем тут велосипеды?», а вы: «А при чем тут компьютер?».

Я считаю, что компьютер с самого своего появления является фундаментально консервативной силой. Именно компьютер сделал возможным сохранение практически в прежнем виде тех институтов, которые иначе могли претерпеть серьезные изменения.

Возьмем, например, банки. На поверхности все выглядит так, как будто компьютер произвел революцию в банковской системе. Но это только на поверхности. Необходимо иметь в виду, что 20—25 лет назад банки встали перед фактом крайне быстрых темпов роста населения, что должно было привести к выписыванию еще большего количества чеков и так далее. В ответ они решили прибегнуть к помощи компьютера.

Теперь представим себе, если бы компьютер еще не был изобретен, что бы пришлось сделать банкам? Они могли бы начать децентрализацию или некую регионализацию своей деятельности. Другими словами, вероятнее всего, им пришлось бы внедрять социальное изобретение, а не чисто техническое.

Конечно, компьютер был создан для использования в военных целях, если можно так выразиться. В США первый полноценный компьютер был создан для просчета баллистических траекторий, а в Англии — для расшифровки военных кодов. Карл Зюс создал свой компьютер для решения математических задач, возникающих при проектировании военного самолета. Во всех трех случаях компьютер стал детищем работы военно-промышленного комплекса. С тех пор подавляющее большинство научных исследований в области компьютерных технологий прямо или косвенно финансировалось военными.

Также, нет никаких сомнений, что современные виды вооружения, которые могут полностью стереть человечество с лица земли, не могли бы быть созданы, и уж точно не могли бы доставляться до цели хоть с какой-либо точностью, если бы не компьютеры. Компьютер — это сердце почти каждой современной военной системы, которую вы можете себе представить. За исключением, пожалуй, солдата.

Интернет похож на мусорный бак в пригороде Бомбея. К большому сожалению, в нем лазают толпы людей, и может быть, кому-то из них повезет, и он найдет кусочек алюминия или еще что-то, что можно продать. Но по большей части — это просто мусор. Золотые шахты и жемчужины в нем есть, но они достаются тем, кто умеет правильно задавать вопросы.

В наш век мы гордимся искоренением цензуры, за которое во все времена боролись сторонники свободы воли. Принято ставить эти великие достижения в заслугу новообретенному духу рациональности — той рациональности, которая, как утверждают, смогла, наконец, сорвать с глаз человечества пелену мистицизма, религии, а также таких мощных иллюзий, как свобода и достоинство. Наука принесла нам великую победу над невежеством.

Однако, если присмотреться, эту победу можно также расценивать, как оруэлловский триумф — торжество невежества более высокого порядка: мы получили новый конформизм, который позволяет нам говорить все, что заблагорассудится на функциональных языках инструментального разума. Так, например, мы можем говорить о механике жизни и ее «объективных» манипуляциях, но нам не дозволено упоминать Бога, милосердие и нравственность.