Искусственный интеллект скоро окажется внутри каждого электронного устройства: холодильники учатся понимать человеческую речь, зубная щетка — подсказывать, как лучше чистить зубы, а умная кровать — переворачивать на другой бок, если человек начинает храпеть. Владислав Сорокин, партнер агентства Brain-to-Brain, специально для T&P разобрался в истории вопроса и рассказал, почему люди так боятся войны с машинами, чем технологии угрожают нам в реальности и как поведет себя робот, если «Почту России» атакует бешеный енот.

Владислав Сорокин
Владислав Сорокин

В октябре прошлого года на открытии кембриджского центра Future of Intelligence, который займется исследованием самых острых вопросов, связанных с AI (Artificial Intelligence), Стивен Хокинг сказал: «Искусственный интеллект — это самое лучшее или самое худшее, что когда-либо случилось с человечеством». Понятно, почему «лучшее», —  в прошлом году технологии AI стали еще больше похожи на настоящую магию: Google выиграл в го у Ли Седоля, Трамп стал президентом США якобы при помощи психометрии и анализа лайков американцев, «Нейронная оборона» из «Яндекса» написала целый альбом под стать Егору Летову, и даже японские фермеры начали сортировать огурцы с помощью машинного обучения.

При этом подавляющее большинство наделяет программы человеческими качествами, например свободой воли. Каждый второй разговор про AI заканчивается фантазиями о том, что война с машинами неизбежна, Терминатора наверняка уже делают в подземельях китайского министерства обороны и если не Сара Коннор, то кто? Илон Маск? Спустя полвека после появления понятия «искусственный интеллект» это по-прежнему одна из главных взрослых страшилок. Однако, чтобы понять логику Хокинга и Маска, когда они говорят об угрозе искусственного интеллекта, необходимо разобраться с тем, как все устроено.

Просто код

Искусственный интеллект —  это всего лишь код. У него нет и не может быть места, которое испытывает эмоции или принимает решения. Поэтому, когда журналисты пишут о том, что «казанские ученые вызвали у искусственного интеллекта страх и отвращение», это говорит только о том, что они просто не придумали иного способа объяснить сложные компьютерные модели, кроме как с помощью сомнительной с точки зрения правдивости метафоры. Ровно поэтому еще в 60-х многие ученые перестали употреблять термин «искусственный интеллект» и стали заниматься «когнитивной наукой». Они пытались избежать двусмысленности, которая неизбежно возникает, когда понятия из мира человека переносятся на машину. Но не переносить, оказывается, тоже нельзя, в этом же вся суть — силиконовый мозг создается по образу и подобию мозга человеческого. Тут-то и возникает языковая ловушка:  смыслы после переноса поменялись, а язык — нет. Вот и получается, что «…искусственный интеллект научили чувствовать страх».

Но мы совершенно точно преуспели в обучении компьютера математике. Любой алгоритм превосходит нас в обработке чисел —  мозг с точки зрения эволюции столкнулся с цифрами совсем недавно, и считаем мы, вообще-то, плохо. Но если математике мы учились всего несколько веков, то распознаванию образов —  всю свою историю, и делаем это лучше машины.

Чтобы у компьютера получилось сказать: «На этой фотографии —  дерево, а на этой —  сковородка», — ему сначала нужно показать миллионы деревьев и миллионы сковородок. И не просто показать, а разложить их по полочкам. В процессе обучения программа выработает собственную логику, как отличить одно от другого, и сможет распознать, например, все деревья на новых фотографиях.

Но если в фотографиях была ошибка, то и распознавание получится так себе. На заре разработки компьютерного зрения в Google не могли понять, почему программе не удается распознать гантели. А потом выяснилось, что на учебных фото все гантели держала человеческая рука, поэтому система «думала», что «гантели = черная штука странной формы + часть руки человека», и не хотела распознавать спортивный инвентарь, лежащий на полу.

© Ociacia / iStock

© Ociacia / iStock

Данные ≈ деньги

Если еще пару лет назад подобные задачи распознавания образов занимали умы ученых, то 2016-й стал годом, когда бизнес наконец понял: «данные = деньги», с ними нужно работать, потому что это выгодно. Помимо спецподразделений в IT-гигантах вроде «Яндекса» и Mail.Ru, в России есть несколько компаний, зарабатывающих на искусственном интеллекте.

Например, в компании oneFactor работают несколько десятков математиков, программистов и дата-майнеров — людей, которые добывают и обрабатывают данные (в Google Brain, для сравнения, заняты более тысячи ученых и специалистов по машинному обучению).

Гендиректор oneFactor Роман Постников учился на кафедре матстатистики МГУ, он занимается нейросетями около 15 лет, его основной профиль —  работа с геоданными, он сделал несколько успешных проектов в «Мегафоне» и вот теперь открыл свой бизнес — сервис, который помогает компаниям зарабатывать больше за счет извлечения пользы из неструктурированного потока информации. Например, вы —  телеком-оператор, у вас есть миллион пользователей, и вам хочется предсказать, кто из них собирается перебежать к конкуренту. Или вы —  банк, у вас есть тысячи заявок на кредит, а вы хотите знать, какие можно одобрить, а кто, скорее всего, будет задерживать платежи. Со слов Романа, 90% российских банков пользуются помощью машин в принятии решений о выдаче кредитов —  так они сокращают риски и экономят миллионы на неблагонадежных клиентах.

Фраза «Кто владеет информацией, тот  владеет миром» становится все более актуальной, а за пользовательскими лайками началась настоящая охота. В том самом расследовании о победе Трампа на выборах суть заключалась в том, что Cambridge Analytica удалось собрать полную психометрическую базу данных всех жителей США. «Большой Брат» раньше ассоциировался с уличными камерами наблюдения, но сегодня   это скорее транснациональная корпорация, которая записывает все ходы. Газета The Guardian написала, что после победы Трампа многие люди задумались о том, чтобы уйти в тень, стали массово удалять аккаунты из соцсетей. Если раньше свои данные пыталась скрывать маргинальная группа людей, то теперь, по крайней мере в США, это тренд. А для мессенджера Signal, обеспечивающего анонимность путем шифрования данных прямо в смартфоне отправителя, который рекомендовал Эдвард Сноуден, настал звездный час.

Бесконтрольный Google Glass

Один из основателей московского сообщества soundartist.ru Сергей Касич включает Wi-Fi только при редкой необходимости, камера —  закрыта, аккаунт в соцсети —  с выдуманным ФИО. Он убежден, что у каждого человека в XXI веке появилось новое право —  «быть нераспознанным». «Я хочу быть хозяином своей судьбы, поэтому верю, что у каждого должно быть обязательное право затеряться и не быть найденным в этом всепоглощающем распознавании, которое сейчас происходит».

Герой Сергея —  Стив Мэнн, канадский инженер, который работал в Массачусетском технологическом институте и придумал носить на голове камеру, которая записывает все, что он видит. Стив не снимает ее уже 35 лет, называет себя киборгом и предлагает людям противостоять «Большому Брату», наблюдая за ним в ответ. Движение «сбалансированного наблюдения» (equiveillance), по мнению Мэнна, —  это способ достичь общества будущего, где значение личной свободы сопоставимо с властью корпораций.

Сергей Касич считает, что идеи Мэнна сегодня вывернуты наизнанку, — то, что он придумал для борьбы с тотальным наблюдением, Google со своими технологиями искусственного интеллекта будет использовать ровно наоборот: «Он разрабатывал свой девайс, чтобы расширить возможности человека, обезопасить его, но корпорация по сути крадет его технологию, чтобы этот Glass превратить в миллиарды глаз искусственного интеллекта и решать диаметрально противоположную задачу». Касич не хочет вписываться в этот мир в том числе и из-за нежелания поддерживать экономику, в которой компании используют его персональные данные для получения прибыли.

Узнай, какое ты растение

Директор по инновациям банка «Открытие» Алексей Благирев говорит, что мы уже давно живем в мире «цифрового рабства»: «Ваши данные вам не принадлежат. Если вы посмотрите правила пользования (Terms of Use), например, Facebook, там везде указано, что Facebook накапливает данные и может использовать их таким образом, что вы об этом можете и не узнать. Такие компании, как Google, Yandex, Facebook, Mail.Ru, уже накопили внушительный объем информации о своих пользователях, обратив внимание на ценность этой информации раньше остальных». Предсказать потребность пользователя —  это серьезное конкурентное преимущество, а на рынке сейчас особенно востребованы два навыка: умение получать данные, совмещать их, обогащать и грамотно обрабатывать и умение создавать модели, которые находят закономерности в данных.

Набрать критическое количество данных можно разными путями. Популярные психологические тесты вроде «Узнай, какое ты растение» —  это тоже способ получить информацию о пользователе. Другой вариант —  датчики и в целом направление «интернет вещей» (Internet of Things). Команда Благирева, например, сейчас работает над проектом , в котором страховая премия рассчитывается по риску пожара в здании на основе информации с датчиков дыма. На рынке автострахования похожие проекты несколько компаний запустили еще в 2013-м — если вы не выезжаете на МКАД, то страховка по КАСКО будет стоить в два раза дешевле обычной.

В будущем будут востребованы рекомендательные сервисы, в которых искусственный интеллект возьмет на себя работу по анализу профиля человека и выдаче советов на каждый день. Это универсальный помощник, над созданием которого сейчас бьются в самых больших компаниях. Недавно основатель Facebook Марк Цукерберг разместил видео с демонстрацией своего виртуального ассистента и домашнего помощника «Джарвиса» , который пока ничего не предсказывает. А вот автопилот Tesla уже сейчас может предсказать аварию в ста метрах впереди от вас и начать сбрасывать скорость заранее.

© Ociacia / iStock

© Ociacia / iStock

Цифровое послезавтра

Подобные проекты — это  части новой экономики, которая возникает в том месте, где сотрудника контакт-центра заменяет программа распознавания речи, а маркетолога —  платформа по сегментации аудитории. Еще год назад казалось невозможным, что специалистов креативных профессий можно заменить программами. Все думали, что их навык —  слишком человеческий, а компьютеру не привьешь чувство прекрасного. Но потом в Facebook придумали нейросеть, основанную на принципе «глубокого обучения», которая смогла нарисовать лица людей. Гендиректор oneFactor объясняет, как это работает: «Представьте, что у вас есть дизайнер, который рисует макет помещения, показывает его вам и говорит: “Оцени, пожалуйста, — нравится или нет?” — а вы говорите: “Нет, не нравится”, — и указываете, что исправить. Теперь представьте, что на месте вас и дизайнера —  две нейронные сети, и они друг с другом соревнуются. Чем больше проверок и взаимных улучшений проходит, тем лучше будет итоговый результат».

Американская администрация в декабре выпустила доклад, в котором авторы предупреждают: 47% рынка труда —  в зоне риска. Это значит, что предстоит глобальный передел: бизнес сэкономит везде, где можно сэкономить, а машины, так уж получилось, дешевле людей. Если вы боитесь за свою работу ,  подумайте: что уникального делаете именно вы? А другой человек так может? Если ответ —  да, то с высокой вероятностью вас может заменить и машина.

Если смотреть на мир через теорию экономики —  он погружается в глобальное неравенство, где одна и та же технология принесет прибыль одним странам и несчастье — другим. По мнению Романа Постникова, фабрики в Китае через пару десятилетий будут просто никому не нужны, дешевую рабочую силу на фабрику можно будет просто загрузить, как видео на YouTube: «Развитие систем искусственного интеллекта будет приводить к тому, что человек физически будет все меньше участвовать в создании товаров, и потребность в перемещении производств товаров и бизнесов в страны с более дешевой рабочей силой начнет сокращаться. Глобализация, конечно, не исчезнет, но экономических поводов для нее будет меньше. Поэтому может так оказаться, что лет через 50 некоторые государства окажутся в положении экономической изоляции, так как у них не будет передовых технологий автоматизации, и получить их быстро они уже не смогут».

Борислав Козловски, научный журналист и стажер «Яндекса», говорит, что алгоритм не сможет полностью заменить людей: «Важная особенность того же врача — в том, что он берет на себя ответственность. Врач не дает рекомендацию “С вероятностью 96% на снимке изображена опухоль”, но ставит диагноз: “Я как врач заставляю вас впредь считать, что это опухоль”. Или, приходя на «Почту России», я вижу, что там по-прежнему есть человек, который выдает мне пять бланков и просит заполнить их одними и теми же буквами , —  бессмысленной работы у человечества по-прежнему много. Но нужно помнить, что 1% нештатных ситуаций требует 90% кода. Ни одна нейросеть не скажет, что делать, если отделение «Почты России», например, атакует бешеный енот. Бабушка имеет хотя бы примерное представление, что в енота надо кинуть табуреткой, но написать обработчик всех событий с енотами —  это довольно хлопотно». И это проблема любой нейросети в 2016 году :  она отлично справляется с поставленной задачей, но стоит задаче выйти за свои рамки, как алгоритм разводит руками и начинает выдавать бессмысленный результат. Для всех ученых это один из важнейших вызовов на 2017 год —  научить программу обучаться и принимать решение не только на учебных данных, но и на любых других. И находить эти любые данные без спросу. Но может ли у искусственного интеллекта появиться своя воля? Будет ли он обладать свободой выбора? Станем ли мы свободнее в будущем, когда отдадим всю рутинную работу машинам? На вопросы о свободе воли в истории философии были написаны десятки трудов. Прямого ответа нет, и он вряд ли возможен в силу субъективного отношения к этому понятию.