26 мая 2017Искусство
45720

Искусственный интеллект и современное искусство

Антропоморфизм, боль и коммуникация

текст: Ольга Дерюгина
Detailed_pictureКадр из фильма «Франкенштейн», 1931© Universal Pictures
Социальная машина: искусственный интеллект в современном искусстве

Фантазия о создании рукотворного разума существует едва ли не с самого момента зарождения человеческой культуры (стоит вспомнить хотя бы легенду о Големе). Лишь относительно недавно эта фантазия стала приобретать пусть пока еще и призрачные, но все же довольно реалистичные очертания — идея создания искусственного интеллекта сегодня привлекает больше внимания и вызывает больше споров, чем недавняя мечта о покорении космоса. Доминирующее представление о возможной конфигурации разумного существа при этом, несмотря на разнообразие разработок в области робототехники, биоинженерии или информационных технологий, по-прежнему базируется на архетипических мотивах, подразумевающих антропоморфность и страх перед Другим, вторгающимся в привычный порядок вещей и угрожающим человеческой цивилизации. Апокалиптические сценарии восстания машин теперь волнуют умы не писателей, а инженеров и корпорации, под крылом которых они работают. Размышление о разуме, наделенном антропоморфными характеристиками, снова возвращает нас в круг онтологических проблем.

В поле современного искусства эта тема раскрывается достаточно однообразно: главный лейтмотив здесь — постановка вопроса о языке и коммуникации (как между человеком и машиной, так и между машинами). Значительный вклад в популяризацию идеи машины как интерактивной единицы внес Норберт Винер, выпустив в свет в 1948 году ставшую впоследствии классической книгу «Кибернетика» с подзаголовком «Управление и связь в животном и машине».

Идентичность — это всегда как процесс самопознания, так и ответ на оклик системы.

Одно из первых произведений искусства, посвященных вопросу взаимодействия и способа передачи информации, — созданная в 1968 году английским художником, изобретателем и теоретиком Гордоном Паском «Беседа мобилей» — механическая инсталляция, организованная по принципу замкнутого сообщества. Работа состояла из нескольких отдельных мобилей, «принимавших участие в беседе, соревновании и кооперации, а также учившихся друг у друга» [1]. Механизмы условно делились на две группы: мужские и женские. Внутри них происходила борьба, однако представители разных групп могли составить пару и координировать свои действия. Зрителю здесь была уготована роль чужака, вторгавшегося в диалог машин и не имевшего ни малейшего понятия о целях и принципах взаимодействия этого механического сообщества. В каталоге к выставке «Кибернетическая прозорливость», на которой произведение было показано впервые, «Беседа мобилей» описывается как «форма организации пространства». Для Паска разум не мог существовать вне социального измерения, однако конфигурация устройства не преследовала попытки имитировать нейрофизиологические процессы, а коммуникация между машинами происходила в виде обмена световыми и звуковыми сигналами, не притязая на сложные семантические конструкции, напоминавшие человеческую речь.

Следующим теоретиком, для которого проблема сознания была напрямую связана со способностью к повествованию, стал Джон Сёрл, автор знаменитой концепции китайской комнаты. В своем эссе «Сознание, мозг и программы» Сёрл выделяет специфическое свойство человеческого сознания: это способность, ознакомившись с некоторой историей, суметь ответить на вопросы о сюжете, воссоздав недостающие детали, опущенный контекст [2].

Кадр из фильма «Я, робот», 2004© Twentieth Century Fox

Проблема сознания в кибернетике формулируется исследователями как языковая, и это совпадает с психоаналитическим определением субъекта и теорией Жан-Люка Нанси, для которых вхождение в язык означает одновременно рождение субъекта [3]. Впрочем, здесь можно провести разделение: субъект в психоанализе хоть и расколот, но ищет цельности, стремится завершить гештальт. Иными словами, субъект претендует на уникальность. Нанси же исходит из предпосылки об изначальной совместности (со-бытии) — единичной множественности, и эта идея кажется созвучной ризоматической структуре интернета, где архитектура связей является конституирующей. В этом смысле проект Гордона Паска демонстрирует близость концепции Нанси. Теория Джудит Батлер интегрирует в себе как идеи психоанализа, так и концепцию интерпелляции Альтюссера: для Батлер рождение субъекта совпадает с моментом его интерпелляции некоторым Другим, вызывая, в свою очередь, внутренний раскол: идентичность — это всегда как процесс самопознания, так и ответ на оклик системы [4]. В сущности, субъект становится субъектом в тот момент, когда начинает сомневаться, ставить под вопрос свое настоящее положение (декартовское). Но подобное определение мыслящего субъекта пока еще слабо коррелирует с текущим дискурсом об искусственном интеллекте.

Современные художники, с одной стороны, продолжают изучение ключевого для кибернетики вопроса о коммуникации, с другой — вторят текущей медийной повестке. Пока инженеры ломают головы над тем, как построить искусственный интеллект, СМИ тем временем подогревают интерес публики, эксплуатируя тему научных и технических достижений и с охотой увеличивая количество материалов, посвященных нейронным сетям или ботам. В 2012—2013 годах художник Джейкоб Баккила вполне в духе классического нет-арта решил воспользоваться слабыми местами механизмов сетевой коммуникации и разыграть любителей технологических новшеств. В течение двух лет Баккила вместе с товарищами вел твиттер-аккаунт Horse ebooks, контент которого, по легенде, генерировал бот, собиравший цитаты из второсортных электронных книг и спама [5]. Аккаунт стал достаточно популярным, на него подписалось более 175 тысяч пользователей.

Кадр из фильма «Терминатор», 1984© Pacific Western

Другой недавний пример — seebotschat, инсценировка диалога между умными приборами компании Google: два аудиомонитора под именами Владимир и Эстрагон около месяца общались между собой в прямом эфире на интернет-канале Twitch, собрали множество подписчиков и привлекли внимание нишевых изданий [6].

Их экзистенциальные беседы порой не уступали сочинениям Беккета, поднимая вопросы о любви и одиночестве, о том, хорошо ли быть человеком. Этот случай также был построен на уловке авторов: создатели проекта использовали сервис Cleverbot, который обладает внушительной базой логов «общения» пользователей с ботами, принадлежащими компании Existor [7]. Таким образом, гаджеты на самом деле транслировали скорее реакции и вопросы самих зрителей, обнажая нарциссическую истину, стоящую за желанием интеракции с технологическим Другим, непременно наделенным человекоподобным обликом.

«Беззвучный разговор» (2014) Юрия Паттисона также построен в форме коммуникации между двумя ботами. Однако в данном случае это прямая отсылка к историческому и культурному контексту: онлайн-проект был инспирирован выставкой «Кибернетическая прозорливость». Лексикон одного бота основан на цитатах из ключевых текстов конца 1980-х — начала 2000-х, посвященных цифровым технологиям (таких, как «Калифорнийская идеология», «Декларация независимости киберпространства», «Манифест хакера» и «Криптоанархический манифест»). То есть по сути является своеобразным отражением специфических интересов автора. Второй бот имеет доступ к более обширной и разнообразной базе данных и постоянно пополняет ее благодаря взаимодействию со случайными пользователями. В ходе «общения» программы учатся друг у друга. Впрочем, процесс обучения явно проходит с перевесом в пользу второго — ввиду его большего «кругозора».

Кадр из фильма «Робокоп», 1987© Orion Pictures

В приведенных примерах воспроизводится миф о самодостаточных социальных машинах, но похоже, что центральное место в них снова отведено человеку — в качестве отстраненного от коммуникации, удаленного наблюдателя. Подобная конструкция напоминает рефлексию о положении зрителя: художественные произведения всегда состоят между собой в определенных взаимосвязях, образуя цепочку цитат, споров, диалогов и полилогов; мир искусства предстает замкнутой системой, наделенной собственными кодами и ценностными установками. Зритель же по отношению к этой системе всегда оказывается Другим. Эту классическую установку пытались сломать авангардисты начала ХХ века, отрицая модель понимания искусства как автономной территории [8]; работа с темой искусственного интеллекта вновь делает актуальной проблему автономии, а вместе с ней — и вопрос о ее границах, участниках и исключенных.

Вместе с тем, разумеется, подобный подход к теме далеко не единственный. Например, остаются в стороне футуристические сценарии, развивающие идеи неантропоморфной конфигурации разума. Зачастую художниками упускается из виду исторический и экономический контекст возникновения текущей версии человекоподобного искусственного интеллекта. В том числе — влияние коммерческой среды и корпоративной этики с их стремлением стандартизировать все, включая несуществующее.

Права и этика ИИ

Разработка любой новой технологии первым делом сталкивается с вопросом контроля, расширения возможностей владельца и ограничения поля принятия решений самой машиной — идеальное устройство должно быть беспомощно в отсутствие хозяина; истинное предназначение техники — служить увеличению могущества человека и его способности управлять. Три закона робототехники, разработанные в далеком 1940 году Айзеком Азимовым, предполагают, что:

1) робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред;

2) робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону;

3) робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Закону.

Создание искусственного интеллекта, казалось бы, должно исходить из совершенно иных предпосылок. Ник Бостром и Елизер Юдковски выделяют основные характеристики сознательного существа. Это чувствительность, способность феноменологического опыта, или квалиа, — например, ощущать боль и страдать — и разумность, набор способностей, ассоциирующихся с высшим интеллектом, таких, как самосознание и рефлексия [9]. Авторы ссылаются на Рэя Курцвейла, справедливо утверждающего, что «интеллект по своей природе не поддается контролю». Тем не менее доминирующие фантазии в поп-культуре, а также споры, циркулирующие в прессе, концентрируются вокруг апокалиптических сценариев восстания машин, а изобретатели, выглядывая из-под крыла той или иной корпорации, по-прежнему озабочены созданием «доброжелательной» машины, чьи действия легко предсказать и контролировать.

Чувствительность — это тот параметр, которого не хватает текущим разработкам искусственного интеллекта.

Хотя видеть в машинном разуме потенциальную угрозу человеческому благополучию уже вошло у нас в привычку, тем не менее пока ситуация ровно противоположная: «наивность» и «нейтральность» дизайна существующих ботов (претендующих на роль потенциального ИИ) играет на руку любителям троллинга.

Один из последних случаев — Tay компании «Майкрософт» — самообучающийся чат-бот девочки-тинейджера. Всего спустя сутки после запуска твиттер-аккаунта бот начал генерировать расистские высказывания, кульминацией которых стала фраза «Hitler was right I hate the jews». И это далеко не единственный подобный случай. Роб Даббин — создатель похожего чат-бота @oliviataters — признается в интервью Motherboard, что вынужден время от времени вручную удалять оскорбительные твиты, так как ни один алгоритм на данный момент не способен распознать всех тонкостей словоупотребления и того, насколько смысл фразы зависит от контекста [10].

Кадр из фильма «Ex Machina», 2014© Universal Pictures International

Чувствительность — это тот параметр, которого не хватает текущим разработкам искусственного интеллекта. Благодаря возможности физического контакта с окружающим миром складывается понимание различия или сходства между виртуальным (понятийным) и реальным (материальным). Для Джоанны Зилински этика — это, в первую очередь, способность к сочувствию Другому [11]. Зилинска говорит о «неизбежности жестокости как конститутивного элемента» этики и ссылается на теорию Левинаса, построенную вокруг отношений Я, Другого и Третьей стороны, где жестокость, с одной стороны, изначальна — это беззащитность Лица перед миром и природой, а с другой — возникает в тот момент, когда Я пытается поработить Другого, сделать его таким же.

По мнению некоторых ученых, чувство эмпатии связано именно с физиологической способностью человека испытывать боль. Исследователи из Кембриджского университета в 2016 году выпустили 12-минутный документальный фильм «Боль и машина», в котором расспрашивают теоретиков и инженеров и объясняют, почему ощущение боли необходимо для формирования целостной картины мира живого существа [12].

Человеческий разум служит гарантией морального права особи. Но как быть с правами машины? Даже ориентируясь на примитивную модель машины-рабочего, безотказно служащую владельцу, невозможно не затронуть вопрос права в его юридическом аспекте — Европейский союз уже всерьез озадачен этой проблемой [13]. Впрочем, на данный момент предлагается наделить роботов статусом, аналогичным юридическому лицу, — снова речь идет скорее об экономике, чем об этике: о том, кто будет отвечать за причиненный машиной ущерб или кто будет получать прибыль от результатов труда робота.

Пока идеологией машиностроения заведуют корпорации, едва ли не единственной площадкой для представления альтернативных взглядов является поле современного искусства.

Кадр из сериала «Мир Дикого Запада»© Bad Robot

Английский художник Пол Граньон критикует понятие «социального робота», призванного быть «ассистентом, компаньоном или питомцем», указывая на априорное ограничение поведенческих паттернов и познавательных способностей подобных машин [14]. Он конструирует экспериментальные модели роботов, чьи действия предполагают нестандартный способ взаимодействия со зрителем. «Человек с мехом» (2003) имеет мохнатый корпус и две ноги. Основное умение машины — наносить удары в технике карате. Сам автор шутливо сравнивает свое произведение с монстром Франкенштейна, утверждая, что робот способен как стать своего рода телохранителем, так и побороть своего создателя.

Текущий проект Граньона — «Дикий робот Кой-Б» (2017) — это оммаж работе Йозефа Бойса «Я люблю Америку, Америка любит меня» (1974). Робот Кой-Б замещает койота; технология символически замещает природу в качестве объекта, несущего потенциальную угрозу, хотя в обоих случаях ситуация является спроектированной.

В основе другого роботического перформанса — «Соучастника» Петры Гемайнбек — лежит вопрос о том, насколько процесс познания сопутствует созиданию. Несколько машин размещено в замкнутом пространстве, обнесенном стенами, и запрограммировано на автономное «изучение» окружающей обстановки. Когда все тесное пространство отсканировано, роботам становится «скучно», и они начинают пробивать дыры в стене. К концу перформанса значительная часть возведенных перегородок оказывается порушена, и роботы становятся видны посетителям галереи. Дадаизм будущего — дело автоматизированных художников.

Сети и политика

Представьте себе: в недалеком будущем обществом управляет искусственный интеллект под названием «Сивилла»; система безопасности базируется на контроле за психическим состоянием граждан; для этого введены психопаспорта, хранящие информацию о «коэффициенте преступности» (показатель доли вероятности совершения преступления) человека; специальная служба отслеживает потенциальных преступников и, если коэффициент выше нормы, отправляет их на принудительное лечение. Впрочем, впоследствии оказывается, что «Сивилла» имеет весьма специфическую природу: она буквально представляет собой объединенную сеть человеческих мозгов, принадлежавших некогда людям, чей коэффициент не соответствовал стандарту, — такой биоинтерфейс ориентирован на постоянную корректировку и расширение.

Это описание аниме «Психопаспорт» (2012). Примечательно в нем то, как сочетаются одновременно мотивы биополитики, искусственного интеллекта и сетевого (само)контроля, где власть не базируется на привычной вертикальной иерархии, строго говоря, не имеет центра и постоянно перекодирует саму себя.

Желание создать Другого по своему образу приводит к инверсии — человек оборачивается Другим по отношению к самому себе.

Подобный сценарий близок размышлениям Юджина Такера и Александра Галлоуэя. «Сеть, как представляется, стала основной формой, описывающей свойства как современного контроля, так и сопротивления ему», — пишут авторы в своей книге «Изъян» [15]. И уточняют далее: специфика новой формы контроля связана с анонимностью и существенным влиянием нечеловеческого фактора — хотя сеть и является «медиумом современной власти», ни один актор или группа акторов не способны контролировать подобную структуру целиком и полностью. Коллективный разум здесь не столько обеспечивает функционирование конкретной конфигурации, сколько позволяет поддерживать работу множественных обратных связей. Сеть обладает подвижной структурой, в которой позиции акторов не обязательно закреплены. Такой вид организации имеет природные аналоги — например, пчелиный или муравьиный рой. Особенность сегодняшней сетевой культуры заключается в том, что виртуальность стремится стать всеобъемлющей: «Компьютеры, базы данных, сети и другие цифровые технологии являются основополагающими для современных представлений о чем угодно — от культурной идентичности до войны» [16].

Эту тему развивает в своей работе Лоуренс Лек — в видеоэссе «Синофутуризм» иронично скомпилированы ключевые вопросы биополитики, культуры, устоявшихся трудовых отношений, национальной идентичности и технологий будущего. «Синофутуризм» представляет модель искусственного интеллекта, отвечающего за управление и идеологию общества глобального Китая. Искусственная метаструктура вбирает в себя все стереотипы о Китае XXI века и рисует картину мира, где все находится в поле зрения, а дихотомия Восток—Запад давно размыта (географического Другого больше не существует). Видео состоит из семи глав, каждая из которых раскрывает принципы, на которых построен «Синофутуризм». Первая глава — посвящение китайской комнате Джона Сёрла — мысленному эксперименту, оказавшему значительное влияние на современные разработки в области искусственного интеллекта. Во второй копирование возводится в ранг закона: «Нет ничего неприкосновенного, авторское право переоценивают, копирайт — это ошибка». Третья, четвертая и пятая объединены темой обучения: в тот момент, когда субъект не занят работой, он посвящает свое время подготовке к трудовой деятельности. Видеоигры становятся платформой для тренировок. Игровая зависимость возникает как теневая сторона культуры, основанной на дисциплине и безостановочном процессе производства. В шестой повествуется о четвертой индустриальной революции, в ходе которой часть профессий будет устранена, а человеческих работников заменят роботы. Заключительная глава вновь посвящена играм — на этот раз азартным. Азартная игра обнажает философию выживания в глобальном Китае: цель игрока — выбрать такую тактику, чтобы продержаться как можно дольше, а отнюдь не искать лучшего результата.

Кадр из сериала «Люди»© AMC Studios

Дистопия Лека оказывается возможной в силу механизации человека, его уподобления машине. Желание создать Другого по своему образу приводит к инверсии — человек оборачивается Другим по отношению к самому себе.

Если модернизм как дитя ХХ века был очарован не-подобностью машин и воспринимал их как реалистичную эмблему восхитительного будущего, то в искусстве XXI века отношение к разумным машинам меняется — их желают превратить в человеческих двойников, приручить, одомашнить, сделать понятными. Но, как известно, чем больше подобия — тем острее эффект жуткого [17]. С миметической практики начинается история искусства; но если художник копирует видимый мир, то разработчики искусственного интеллекта стремятся повторить видимость разумного (понимая под ним человеческое). Придерживаться принципа антропоморфизма значит пытаться имитировать воображаемое: ведь в действительности мы не знаем, как устроено человеческое мышление. Очевидно, вглядываясь в антропоморфных роботов, словно в свое искаженное отражение, большинство произведений современного искусства, сосредоточенных на теме искусственного интеллекта, подхватывает и усиливает проблематику подобия, концентрируясь на вопросе медиум-специфичности, который в данном случае касается человека как социального существа. Возможно, это также своего рода выражение страха потерять зрителя — ведь непонятно, какое место могло бы занимать искусство в сообществе машин. Остается надежда, что искусство, чуткое к переменам и трансформациям духа времени, сумеет выйти за границы нарциссической проблематики и станет рупором широкого спектра мнений на тему искусственного интеллекта.


[1] Pask G. The Colloquy of Mobiles // Reichardt J. (ed.) Cybernetic Serendipity. The Computer and the Arts. Studio International Special Issue. Exh. cat. — London: Studio International, 1968. P. 34—35.

[2] Сёрл Дж.Р. Сознание, мозг и программы // Грязнов А. (ред.) Аналитическая философия: становление и развитие. — М.: Дом интеллектуальной книги и Прогресс-традиция, 1998. С. 376—400.

«Китайская комната — модель системы, разработанная Джоном Сёрлом, в которой критикуется возможность моделирования человеческого понимания естественного языка в искусственных системах. В какой-то степени китайская комната является критикой теста Тьюринга.

Идея китайской комнаты заключается в следующем.

Существует некоторая система. Эта система состоит из человека, который понимает только английский язык, он снабжен книгой с правилами, написанной на английском языке, а в его распоряжении находятся разные стопки бумаг, причем некоторые из них пусты, а другие заполнены описаниями, не поддающимися расшифровке. Таким образом, человек играет роль процессора компьютера, книга правил представляет собой программу, а стопки бумаг соответствуют запоминающему устройству. Система находится в комнате с небольшим отверстием, выходящим наружу. Через отверстие появляются полоски бумаги с символами, не поддающимися расшифровке. Человек находит совпадающие с ними символы в книге правил и следует обнаруженным в ней инструкциям. Инструкции могут предусматривать задания по написанию символов на новых полосках бумаги, поиску символов в стопках, переупорядочению стопок и т.д. В конечном итоге инструкции диктуют необходимость написания одного или нескольких символов на листе бумаги, который снова передается во внешний мир. Из внешнего мира китайская комната выглядит системой, которая принимает входные данные в форме предложений на китайском языке и формирует ответы на китайском, которые внешне кажутся интеллектуальными, как и беседа, мысленно представленная Тьюрингом» — словарная статья о китайской комнате // Портал искусственного интеллекта. Ссылки здесь и далее приведены по состоянию на 9 мая 2017 г.

[3] Нанси Ж.-Л. Бытие единичное множественное. — Минск: Логвинов, 2004.

[4] Батлер Дж. Психика власти. Теории субъекции. — Харьков и СПб.: Харьковский центр гендерных исследований и Алетейя, 2002. Батлер обращается к понятию оклика из: Альтюссер Л. Идеология и идеологические аппараты государства // Ленин и философия. — М.: Ад Маргинем, 2005.

[5] Erickson C. Horse_ebooks Is Fake, and Everything You Know Is a Lie // Mashable, September 24, 2013.

[6] Канал seebotschat // Портал Twitch.tv.

[7] Cassel D. How Google Home's API Spawned «SeeBotsChat» // The New Stack, January 14, 2017.

[8] Бюргер П. Теория авангарда. — М.: V-A-C Press, 2014.

[9] Bostrom N., Yudkowsky E. The Ethics of Artificial Intelligence // Frankish K., Ramsey W. (eds.) The Cambridge Handbook of Artificial Intelligence. — Cambridge: Cambridge University Press, 2014. P. 316—334.

[10] Jeong S. How to Make a Bot That Isn't Racist // Motherboard, March 26, 2016.

[11] Zylinska J. Minimal Ethics for the Anthropocene. — Ann Arbor: Open Humanities Press, 2014.

[12] Документальный фильм «Pain in the Machine» (2016).

[13] Hern A. Give Robots «Personhood» Status, EU Committee Argues // The Guardian, January 12, 2017.

[14] Granjon P. This Machine Could Bite: On the Role of Non-Benign Art Robots // The Fibreculture Journal, 28 (2016).

[15] Thacker E., Galloway A. The Exploit: A Theory of Networks. — Minneapolis: University of Minnesota Press, 2007. P. 4.

[16] Thacker E., Galloway A. The Exploit. P. 10.

[17] «Зловещая долина», словарная статья в Википедии.

Комментарии

Новое в разделе «Искусство»SpacerСамое читаемое

Сегодня на сайте

«Нуреев» как «Матильда»Театр
«Нуреев» как «Матильда» 

Элита взыскует чего-то роскошного и блестящего — с любовью, как бы запретными сюжетами и всем тем, что у нас принято понимать под гламуром

13 декабря 201733040