В 2016 году компьютер впервые написал роман «День, когда компьютер напишет роман» («The Day a Computer Writes a Novel»), и книга вышла в финал литературного конкурса. До этого момента творчество казалось исключительно человеческим занятием, но теперь и на этот счет возникли сомнения. Специалист по машинному обучению Сергей Марков на лекции «Искусственный интеллект и литературное творчество» рассказал о перспективах развития ИИ в области искусства и объяснил, почему компьютеры не угрожают человечеству. T&P законспектировали основное.

Сергей Марков

Специалист по искусственному интеллекту и машинному обучению, автор шахматной программы SmarThink, основатель портала «ХХ2 ВЕК»

Калькулятор и Пигмалион

Искусственный интеллект — это очень широкое определение, под которое подходит даже калькулятор. Поэтому все системы ИИ делят на две большие категории. Прикладные системы ИИ (или слабые системы ИИ) предназначены для решения какой-то одной интеллектуальной задачи. Например, шахматная программа умеет только играть в шахматы, но не может распознавать лица. Все системы ИИ, которые человечество до сих пор создало, именно прикладные. Но люди стремятся создать и универсальный ИИ (artificial general intelligence, AGI), и в этом направлении есть успехи.

Созданием системы универсального ИИ в конце 1930-х годов занимался философ Альфред Айер, а в начале 1950-х — специалист по компьютерным наукам Алан Тьюринг. Он предложил процедуру для определения универсального ИИ, которую мы сегодня так и называем — тест Тьюринга. Это игра в имитацию: машине дают задачу обмануть судей, убедить их в том, что она является человеком, а человека просят доказать, что он на самом деле человек. Если жюри из специалистов не сможет отличить машину от человека, значит, она является носителем универсального ИИ.

Первая система, которая пыталась играть в такую игру, называлась ELIZA (в честь героини пьесы Бернарда Шоу «Пигмалион», простой девушки), которая делала вид, что она врач-психиатр. Ответом этому первому чат-боту стала программа PARRY, которая прикидывалась пациентом-параноиком. Многие психиатры не догадывались, что имеют дело с машиной: в начале 1980-х годов людям не могло прийти в голову, что с ними может общаться не человек.

Кадр из фильма «Метрополис». 1927 год

Кадр из фильма «Метрополис». 1927 год

Машины-обманщики

Тьюринг считал, что к 2000 году машины с памятью в 125 мегабайт будут способны обмануть человека в 30% случаев. Оценка получилось довольно точной. В 2012 году программа, изображавшая мальчика из Одессы Женю Густмана, смогла провести судей в тестах, ежегодно проводимых Университетом Рединга, в 29,2% случаев. В 2014 году результаты были еще лучше. Однако не нужно их переоценивать: профессиональные эксперты быстро узнают такие системы по специфическим слабостям.

Для неподготовленного пользователя все гораздо хуже. В прошлом году было два нашумевших эксперимента. В первом чат-бот клянчил по одному или два доллара и за сутки насобирал порядка 10 000, а во втором боты выпрашивали у девушек интимные фотографии и в 3% случаев имели успех.

Так называемый эффект ИИ заключается в том, что границы восприятия его людьми постепенно смещаются. В 1950-е годы простой человек сказал бы, что система, которая обыграет чемпиона мира по шахматам, является ИИ. Однако люди быстро привыкают к современным технологиям и начинают относиться к ним с легким пренебрежением. Так, в 2000 году многие сказали бы, что шахматные программы — это просто алгоритмы, перебирающие варианты.

Когда машины начинают решать очередную интеллектуальную задачу лучше, чем человек, часто говорят, что машины глупые, просто очень быстрые. Сравним человеческий мозг с техникой: в среднестатистическом мозге где-то 8,6 миллиарда нейронов и 150 триллионов синапсов. Каждый синапс — это сложное устройство, состоящее примерно из тысячи молекулярных переключателей, каждый из которых можно смоделировать, взяв один транзистор. То есть если пересчитать мозг в условных транзисторах, то получится квинтиллион транзисторов. Самые крупные интегральные схемы содержат сейчас порядка 20 миллиардов транзисторов — разница гигантская. Но электроника быстрее: скорость, с которой транзисторы могут менять состояние, гораздо выше, чем у мозга.

Кадр из фильма «Матрица». 1999 год

Кадр из фильма «Матрица». 1999 год

Сети-шутники

Нейронные сети стали использоваться в области ИИ еще до того, как появилось само название технологии. Ничего удивительного: если у науки и технологий нет решения какой-то задачи, его заимствуют у природы. Когда Леонардо да Винчи мечтал о создании первых летательных аппаратов, он внимательно изучал полет птиц. Такое направление называется бионика.

Обычно технология делает первые шаги, имитируя природу, но в итоге системы отличаются от своих прототипов: большинство самолетов не машут крыльями в полете.

В 1940-е годы нейрофизиологи знали, что мозг состоит из нервных клеток, у которых есть один длинный отросток (аксон) и несколько коротких отростков (дендритов). Аксоны соединяются с дендритами других нейронов (места этих контактов называются синапсами), и по этой сети распространяются электрические сигналы. На основе этого появилась примитивная математическая модель МакКаллока — Питтса, далекая от того, что происходит в человеческом мозге, но способная решать сложные интеллектуальные задачи. В конце 1950-х годов Фрэнк Розенблатт разработал одну из первых моделей нейросетей — персептрон — и создал на ее основе первый нейрокомпьютер «Марк-1».

Сегодня нейронные сети могут обрабатывать изображения (например, они в состоянии адекватно подписать картинку) и заниматься распознаванием речи. Благодаря развитию нейросетевых моделей произошла революция в работе машин с естественным языком. Теперь они способны неплохо понимать смысл высказываний и писать более-менее связные тексты: есть даже нейросеть, генерирующая шутки. Лет через десять компьютеры смогут создавать произведения искусства, в том числе в области литературы.

Кадр из фильма «Я, робот». 2004 год

Кадр из фильма «Я, робот». 2004 год

Кто создает шедевры?

Как научить машину писать стихи? Технически уложить текст в стихотворный размер может совершенно тривиальный алгоритм — например, «Яндекс.Автопоэт». Исследователи начинали с простых текстов, скажем поэзии скальдов, которая состоит из коротеньких элементов, и просили машину написать стихотворение, задав ей несложный семантический вектор. Такие эксперименты более 40 лет назад проводил лингвист Раймунд Пиотровский.

Современные проекты используют нейросетевые системы: например, одна из них сочиняет тексты песен в стиле группы «Гражданская оборона». Системы, способные генерировать довольно бессмысленные прозаические тексты в определенном стиле, существуют уже давно. В 2008 году был скандал, связанный с программой SCIgen. Российский ученый Михаил Гельфанд сгенерировал в ней текст якобы научной статьи «Корчеватель: алгоритм типичной унификации точек доступа и избыточности», которую в итоге напечатали в академическом журнале.

В 2013 году разработчик Дариус Казими запустил проект «Национальный месяц создания романов» (National Novel Generation Month, NaNoGenMo. — T&P), где в результате общения чат-ботов получился текст «Подростки прогуливаются вокруг дома». В 2016 году разработчики из японского Университета Хакодате создали систему, которая написала роман «День, когда компьютер напишет роман». Работа вышла в финал литературного конкурса, обойдя произведения 1450 писателей.

В фильме «Я, робот» герой Уилла Смита говорит:

«Ты машина! Разве ты можешь написать гениальный роман, стихотворение, создать симфонию, нарисовать гениальную картину?» На что робот отвечает: «А ты можешь?»

Выходит, что такое требование даже более амбициозно, чем создание универсального ИИ. Мы хотим создать ИИ, который будет превосходить интеллект естественный.

Впрочем, сегодня машины могут не только соревноваться с человеком в написании текстов, но и выступать в качестве помощников. Например, проект «Главред» — система, предназначенная для анализа и усовершенствования текстов. Или Summly — система, которая помогает сделать краткий конспект большого текста.

Кадр из сериала «Мир Дикого Запада». 2016&...

Кадр из сериала «Мир Дикого Запада». 2016 год

Машины заменят людей?

Некоторые опасаются прогресса в области ИИ и возникновения злонамеренного сверхинтеллекта. Но это скорее чрезмерный оптимизм, похожий на энтузиазм 1960-х годов по поводу развития космических программ. Тогда всем казалось, что через 10–15 лет мы начнем заселять все планеты Солнечной системы, а к началу нулевых годов будем осваивать межзвездное пространство.

Скорее всего, никакого сверхинтеллекта не случится, потому что существуют фундаментальные физические ограничения для развития таких систем.

Сигнал не может распространяться быстрее, чем скорость света, а элементы вычислительной машины не могут быть меньше планковского размера. Есть и термодинамические ограничения: каждая система при потере одного бита выделяет некоторое количество теплоты, поэтому мы вынуждены ограничить скорость вычисления машины.

И даже если машина будет работать быстрее, чем человеческий мозг, это не значит, что она станет умнее нас. Представьте, что вы стали думать в 100 раз быстрее, чем все окружающие вас люди. Значит ли это, что вы сможете подойти к любому человеку на улице и убедить его отдать свой кошелек? Возможно, вы чуть лучше справитесь с задачей, но от этого сборы не увеличатся в 100 раз.

Рано или поздно мы сможем скопировать человеческий мозг или создать систему, основанную на других принципах, но тоже способную выполнять широкий спектр интеллектуальных задач. Однако системы прикладного ИИ активно используются именно из-за своей узкой специализации. Подъемный кран поднимает гораздо более тяжелые грузы, чем может поднять человек. Но если человек начнет с подъемным краном играть в карты, не думаю, что у машины будет много шансов. В какой-то момент технологии превысят уровень сложности организации нашего собственного тела, но человечество вряд ли остановится — машины будут соединяться с людьми в одно. Это происходит уже сейчас. Если отнять у человека телефон, он ощутит что-то похожее на ампутацию.

В рубрике «Конспект» мы публикуем сокращенные записи лекций, вебинаров, подкастов — то есть устных выступлений. Мнение спикера может не совпадать с мнением редакции. Мы запрашиваем ссылки на первоисточники, но их предоставление остается на усмотрение спикера.

Где можно учиться по теме #искусственный интеллект