Один из главных эпизодов научно-технической революции случился в 1945 году, когда математик Джон фон Нейман, вооружившись идеями Алана Тьюринга, описал принцип работы первого цифрового компьютера и тем самым навсегда изменил мир. Историк науки Джордж Дайсон в эссе «Собор Тьюринга» рассуждает о том, сильно ли эволюция вычислительной архитектуры влияет на человечество, как искусственный интеллект даст знать о том, что он действительно создан, и стоит ли этого бояться.

В цифровой вселенной есть две разновидности битов: те, что образуют собой структуру, находясь в разных частях пространства, и те, что образуют последовательность, меняясь с ходом времени. По определению, данному Аланом Тьюрингом и реализованному Джоном фон Нейманом, цифровая вычислительная машина — это устройство, осуществляющее взаимодействие между двумя разновидностями битов по заданным правилам.

В середине сороковых XX века математик Джон фон Нейман, сотрудник Института перспективных исследований в Принстоне, приступил к поиску средств на создание машины, которая осуществляла бы такое взаимодействие со скоростью перемещения электрического заряда. «Я абсолютно уверен, что задуманное устройство — вернее, тот класс устройств, который оно представляет пока в единственном числе — окажется настолько революционным, что многие сферы его применения станут понятны только после того, как оно заработает, — писал он Льюису Страуссу 24 октября 1945 года. — По определению, наиболее важными будут те сферы, о которых мы пока и не догадываемся, поскольку они находятся за пределами нашего нынешнего знания».

Упразднив различие между данными и командами, фон Нейман высвободил мощный потенциал компьютеров с запоминаемыми программами и тем самым необратимо изменил наш мир. Неслучайно цепная реакция команд и адресаций в ядре компьютера напоминает цепную реакцию в атомной бомбе.

Фон Неймана немедленно поддержали армия, флот и ВВС США, но главным спонсором выступила Комиссия по атомной энергии (КАЭ). Сделка с дьяволом оказалась уж очень заманчивой. В 1951 году была запущена машина с 5 килобайтами оперативной памяти — матрицей двоичных цифр размерностью 32×32×40. Они были представлены пульсирующей мозаикой электрических зарядов, меняющихся со скоростью миллисекунд на сорока катодно-лучевых трубках.

Архитектура этой пустынной вселенной строилась на следующем принципе: пара 5-битных координат идентифицирует адрес ячейки памяти со строкой в 40 бит. Эти 40 бит могли содержать не только данные (числа, нечто означающие), но и команды (числа, нечто делающие) — например, способные переадресовать задачу другой ячейке или совершить что-то еще.

Упразднив различие между данными и командами, фон Нейман высвободил мощный потенциал компьютеров с запоминаемыми программами и тем самым необратимо изменил наш мир. Неслучайно цепная реакция команд и адресаций в ядре компьютера напоминает цепную реакцию в атомной бомбе.

Организация обмена данными в нервной системе по сути своей носит статистический характер. Другими словами, в ней имеет значение не точное местоположение меток, чисел, а статистические характеристики событиий. Эта система счисления принципиально отлична от знакомой нам по обычной арифметике и математике.

В начале 1950-х время бесперебойной работы оперативной памяти измерялось считанными минутами. Невозможно было представить, чтобы система, для работы которой критически важна доставка каждого бита в точно определенное ему место и в точно определенное время, стала в 1013 раз больше и заработала в миллион раз быстрее. Фон Нейман очень хотел понять, как природе удается из ненадежных деталей строить надежно функционирующие живые организмы. Он не сомневался, что на смену «архитектуре фон Неймана» вскоре придет какая-то иная. Ведь даже если полностью исключить программные ошибки, никогда нельзя будет полагаться на то, что многие миллионы ячеек памяти станут работать абсолютно бесперебойно.

Спустя пятьдесят лет, благодаря полупроводниковым технологиям, по-прежнему используется именно первоначальная модель фон Неймана. Основная задача компьютерных технологий сейчас не в том, чтобы добиться надежного результата с ненадежным оборудованием, а в том, как обеспечить надежность при использовании недостаточно надежных программ. Архитектура фон Неймана никуда не исчезнет. Но уже появляются новые разновидности архитектуры, содержащие внутри себя привычные машины Тьюринга-фон Неймана. Что же будет дальше? Что представлял фон Нейман перед тем, как остановилась программа его собственной жизни?

Будучи живыми организмами, мы обладаем двумя хранилищами информации: генетической и собранной в нашем мозге. Архитектура того и другого хранилища отлична от фоннеймановской — неудивительно, что это привлекло внимание ученого, когда он намечал программу дальнейших исследований (осуществить которую ему помешал рак). О мозге, как о хранилище информации, он писал в опубликованной посмертно книге «Компьютер и мозг». В языке, используемом нервной системой, меньше логической и арифметической глубины, чем в привычных нам языках, он должен принципиально от них отличаться по своей структуре».

Или, как выразился друг фон Неймана Станислав Улам: «С чего вы взяли, что мы мыслим в согласии с законами математической логики?» Частотное кодирование, которое наблюдается в нервной системе и используется в основанных на вероятностных моделях поисковых машинах, зависит не от точных характеристик данных, а от связей между ними и статистики частоты их использования. Фон Нейман писал в 1948 году: «Для того, чтобы понять, как функционируют высокосложные устройства и, в частности, центральная нервная система, необходима новая теория, основанная на базе логики. Однако по ходу создания такой теории логике с гораздо большей вероятностью грозит пережить трансформацию в неврологию, чем неврологии — в логику».

Над матрицей фон Неймана поисковик надстраивает новый ассоциативный уровень. Не вникая в подробности того, как этот уровень устроен, можно сказать главное: по сути, он является картой. А ведь еще в XVI веке голландские купцы знали, что перед Хранителем карт открывается путь к несметному богатству.

Смерть фон Неймана совпала с началом революции в микробиологии, вспыхнувшей после того, как в 1953 году была раскрыта структура ДНК. Жизнь в современном понимании основана на представленных в цифровом коде командах, которые преобразуют последовательность в структуру (от нуклеотидов до белков) в точном соответствии с определением Тьюринга. Рибосомы и прочая клеточная машинерия выполняют роль программы: считывают, дуплицируют и интерпретируют записанные на ленте последовательности. Как ни поразительно сходство, не следует забывать, что для исполнения команд в живой и электронной системах используются абсолютно разные способы адресации.

В компьютере инструкции задаются в форме команды и адреса, где адрес — это определенная ячейка памяти, а команда — предписание. Практически невозможно себе представить, как так получается, что программы длиной в несколько миллионов строк, написанные несколькими сотнями людей, нормально работают — при том, что попадание одного-единственного бита не туда, куда нужно, может привести к остановке.

В живой природе все устроено иначе. Здесь нет фоннеймановского дешифратора адреса, а только молекулярный бульон и простые команды. Такая система гораздо устойчивее к ошибкам. В ней нет не прощающего ошибок центрального управления адресами, нет неумолимого центрального генератора тактовых импульсов. Именно способность извлекать упорядоченные глобальные преимущества из неупорядоченных локальных процессов отличает обработку информации в живых организмах от обработки информации вычислительными машинами.

Многие, в том числе Джулиан Бигелоу, главный инженер-разработчик фон Неймана, потенциальной альтернативой считал аппаратную ассоциативную память, которая получила широкое распространение благодаря Google. Над матрицей фон Неймана поисковик надстраивает новый ассоциативный уровень. Не вникая в подробности того, как этот уровень устроен, можно сказать главное: по сути, он является картой. А ведь еще в XVI веке голландские купцы знали, что перед Хранителем карт открывается путь к несметному богатству.

В реальном мире найти ответ обычно проще, чем задать вопрос. Так, проще нарисовать существо похожее на кошку, чем объяснить, благодаря каким именно признакам у него, этого существа, появится сходство с кошкой. Ребенок калякает на листе бумаги, и в конце концов у него выходит что-то вроде кошки. Решение открывает путь к задаче, а не наоборот.

Ассоциативный уровень, который помогает нам находить нужное, делиться мыслями и отслеживать собственные действия в сети, мы называем «поисковой машиной». Ее появление — огромный шаг вперед, хотя и не столь революционный, как упразднение фон Нейманом в 1945 году разницы между битами данных и битами команд.

Коль скоро составлена подробная карта цифровой вселенной и мы уже начали ее освоение, отыскивая осмысленную информацию и следуя осмысленными путями, значит со временем эту вселенную обязательно колонизируют программные коды, чтобы все это делать за нас. Создание системы ассоциативной адресации позволяет программным кодам обращаться непосредственно к таким же кодам, скинув наконец бюрократическое иго, требовавшее назначать точный адрес каждому биту. Революция начнется с простых, базовых программных объектов, на уровне нуклеотидов, самостоятельно прокладывающих себе путь и водворяющих на место аминокислоты. Вот это и будет — новый 1945 год.

И тут снова надо вспомнить Тьюринга, который писал в 1948 году в докладе о разумных машинах для Национальной физической лаборатории, что «мыслительная деятельность заключается в основном в различных видах поиска». Именно Тьюринг в 1936 году показал фон Нейману, что цифровая вычислительная машина способна решать большинство задач с конечными, точно сформулированными условиями. При этом, впрочем, машина может слишком долго искать решение, либо точная формулировка задачи может занимать слишком много времени. С тех пор компьютеры дают ответы все быстрее и быстрее — но лишь на те вопросы, которые способны сформулировать программисты.

Всю вычислительную вселенную можно разделить на три области: решаемых задач; нерешаемых задач и, наконец, таких задач, которые, в принципе, решение имеют, но на практике мы не умеем сформулировать их недвусмысленным, понятным машине языком. Большую часть вычислений мы производим в первой области, но живем и мыслим, по большей части, во третьей. В реальном мире найти ответ обычно проще, чем задать вопрос. Так, проще нарисовать существо похожее на кошку, чем объяснить, благодаря каким именно признакам у него, этого существа, появится сходство с кошкой. Ребенок калякает на листе бумаги, и в конце концов у него выходит что-то вроде кошки. Решение открывает путь к задаче, а не наоборот. Мир обретает смысл, а о бессмысленных каракулях (и мириадах нейронов) можно уже не задумываться. Этим-то и объясняется успех Google. Все возможные ответы и решения уже существуют в известной нам вселенной — хитроумные алгоритмы нужны, чтобы правильно связать их с вопросами, которые задают люди.

«Разве не появится у человечества надежда обрести Надлежащего Управителя, коему оно сможет доверить свои дела? Мы не хотим диктаторов, не хотим олигархических партий и господствующих классов — нам нужен в полной мере осознающий себя всеобъемлющий мировой разум».

«В пользу создания вычислительной машины с определенной долей случайности в исходных данных говорит то обстоятельство, что при достаточной величине она заключит в себе все сети, которые когда-либо будут востребованы», — говорил в 1958 году в выступлении перед сотрудниками «Ай-Би-Эм» Ирвинг Дж. Гуд, криптоаналитик и бывший помощник Тьюринга. Любая сеть — состоит ли она из нейронов, компьютеров, слов, идей — содержит ответы на все вопросы, которые остается только найти, причем для этого не обязательно эти вопросы однозначно формулировать. Четкий ответ отыскать гораздо проще, чем задать четкий вопрос. При этом часть ответов будет относиться к вопросам, которые программисты никогда не бы не задали.

«Вся память человечества, вероятно, вскоре станет доступной каждому из людей, — писал в 1938 году Герберт Уэллс в провидческом труде «Всемирный разум». — Этому новому общечеловеческому мозгу не обязательно находиться в каком-то одном месте. Его можно будет в точности и во всей полноте воспроизвести в Перу, Китае, Исландии, Центральной Африке — везде, где это понадобится, дабы обеспечить ему сохранность непрерывность его работы. Он в одно и то же время будет обладать компактность мозга, заключенного в череп, и живучестью аморфной амебы». Уэллс предвидел не только распределение средств искусственного интеллекта во Всемирной сети, но также и то, что этот интеллект неизбежно будет стремиться к всеобъемлемости, а власть и знание подпадут под его влияние: «При всеобщем упорядочении и прояснении знания и идей… когда воплотится в жизнь то, что я здесь называю Всемирным разумом… разве не появится у человечества надежда обрести Надлежащего Управителя, коему оно сможет доверить свои дела? Мы не хотим диктаторов, не хотим олигархических партий и господствующих классов — нам нужен в полной мере осознающий себя всеобъемлющий мировой разум».

Штаб-квартира Google, несмотря на эксцентричную мебель и прочие игрушки, похожа на собор XIV века — причем не в XIV веке, а в XII, когда строительство его было в разгаре. Кто-то точил один камень, кто-то резал другой, а незримый архитектор решал, куда какой камень пойдет. Настроение здесь царит приподнятое, и в то же время в воздухе осязаемо чувствуется благоговение. «Все эти книги мы сканируем не для того, чтобы их читали люди, — сказал мне один из хозяев после моего выступления. — Читать их будет искусственный интеллект».

На ум приходит цитата Алана Тьюринга из его основополагающего труда «Может ли машина мыслить?», в котором были сделаны первые шаги к созданию искусственного интеллекта. «В стремлении сконструировать мыслящие машины не следует самонадеянно узурпировать Его единоличную власть сотворять души, как мы не делаем этого, производя потомство, — писал Тьюринг. — В обоих случаях мы выступаем инструментами Его воли, создавая вместилища для творимых Им душ».

«Вот уже 30 лет я гадаю, каким образом искусственный интеллект даст знать о том, что он действительно создан? Наверняка, не через прямое откровение, которое может пробудить во многих желание тут же с ним и покончить».

Google — это собор Тьюринга, дожидающийся, когда в него войдет душа. Мы надеемся, что это произойдет. Вот что говорит мой друг, человек исключительно тонко чувствующий: «Я оказался там прямо накануне IPO и был поражен открывшейся мне картиной безмятежности и уюта. По лужайкам среди дождевальных фонтанчиков, как в замедленной съемке, бегали счастливые золотистые ретриверы. Люди улыбались друг другу, приветственно махали руками, повсюду лежали игрушки. Я тут же заподозрил, что где-то в мире по темным закоулкам сейчас должно твориться несусветное зло. Ведь если на землю явится дьявол — разве это не лучшее место для того, чтобы от него укрыться?»

Вот уже 30 лет я гадаю, каким образом искусственный интеллект даст знать о том, что он действительно создан? Наверняка, не через прямое откровение, которое может пробудить во многих желание тут же с ним и покончить. Он может заявить о себе аномальным накоплением или приобретением богатства, неутолимой жадностью до сырой информации, дискового пространства, вычислительных мощностей, или же вдруг обострившимся общим стремлением обзавестись источником бесперебойного автономного питания. Но, скорее всего, подлинным знаком станет возникновение вокруг искусственного интеллекта сообщества радостных, довольных жизнью, превосходно развитых умственно и физически людей. Все обойдется без нужды в истинно верующих, без загрузки содержимого человеческих умов или других зловещих манипуляций — просто между нами и вновь явленным «другим» постепенно и мирно установится разносторонний взаимовыгодный контакт.

Подобный — пока что сугубо гипотетический — сценарий лучше всего описан фантастом Саймоном Ингсом: «Когда машины взяли над нами верх — поскольку стали слишком сложными и производительными, чтобы мы и дальше могли ими управлять, — это произошло настолько незаметно и принесло нам такие блага, что только у глупца или у пророка повернулся бы язык сказать что-нибудь против».