9 декабря 2015Наука
9807

Если не Путин, то синглтон

Оксфордский философ Ник Бостром — о том, какую форму диктатуры выберет для нас искусственный интеллект

 
Detailed_picture 

Искусственный интеллект — это, в первую очередь, герой одного и того же сюжета в разном плохом кино. Робот или суперкомпьютер задумывает злое, выходит из-под контроля, держит за горло металлической рукой своего создателя, произносит драматические монологи и собирается убить всех людей. Если вы старше 18, вряд ли такой сценарий всплывает у вас в голове первым, когда вы задумываетесь о разных возможных неприятностях следующего года.

Но среди больших ученых и ключевых фигур компьютерного мира неожиданно много тех, кто принимает этот риск всерьез. В августе Стивен Хокинг, Билл Гейтс и Элон Маск (и еще несколько сотен человек с именем) подписались под коллективным письмом, где предупреждают, что искусственный интеллект — это новая угроза примерно того же масштаба, что и атомное оружие. Годом раньше Хокинг сформулировал свою позицию в интервью газете Independent: «Успех в создании искусственного интеллекта будет величайшим событием в истории человечества. К несчастью, оно же может стать и последним».

Оксфордский профессор философии Ник Бостром — наверное, главный, кто всерьез, с позиции академического исследователя, изучает вопрос опасности слишком умных компьютеров. Куда больше, чем любая перспектива бунта роботов-полицейских или беспилотников с пулеметами на борту, Бострома занимает сценарий появления синглтона — такой системы искусственного интеллекта, которая окажется достаточно сообразительной, чтобы взять под контроль все происходящее на Земле (и, в частности, не дать состояться проектам-конкурентам с более симпатичными нам планами).

Его книга «Искусственный интеллект. Этапы. Угрозы. Стратегии» (в оригинале просто «Superintelligence», «Сверхсознание») выходит в декабре в русском переводе в издательстве «Манн, Иванов и Фербер». COLTA.RU публикует (с сокращениями) фрагмент из книги.

© «Манн, Иванов и Фербер»

Скорость перехода от интеллекта человеческого уровня к сверхразуму определяет очень многое. Если взлет быстрый (происходит в течение часов, дней или недель), тогда маловероятно, что два независимых проекта осуществят его одновременно: почти наверняка один из проектов завершит свой взлет прежде, чем кто-то еще перейдет к этой стадии. Если взлет медленный (тянется на протяжении многих лет или десятилетий), тогда, вполне возможно, будет несколько проектов, перешедших к этой стадии одновременно, и, несмотря на огромные возможности, которые появятся у проектов, завершивших переход, ни у одного из них не будет довольно времени на то, чтобы обойти остальные и получить безусловное преимущество. Умеренный взлет попадает в промежуточную категорию, где вероятны любые варианты: не исключено, что на стадии взлета окажется одновременно несколько проектов, но возможно, что всего один.

Способен ли какой-то из проектов настолько сильно оторваться от конкурентов, что получит решающее стратегическое преимущество — преимущество технологического или любого иного рода, но достаточное для утверждения мирового господства? И далее: получив абсолютное стратегическое преимущество, станет ли этот проект игроком-одиночкой, то есть синглтоном, начнет ли подминать мир под себя, убирая с пути всех конкурентов и формируя новое мироустройство, при котором только он будет принимать решения? Если объявится такой проект-победитель, насколько «великим» он должен быть?

На длинной исторической временной шкале хорошо заметно, как увеличивалась скорость распространения знаний и технологий по всему миру. В результате разрыв между технологическими лидерами и их ближайшими преследователями постоянно сужался. Свыше двух тысячелетий Китай удерживал монополию на производство шелка. Археологические находки говорят о том, что он мог возникнуть около 3000 года до н.э. или даже раньше. Шелководство было тщательно охраняемым секретом. Разглашение его каралось смертной казнью, как и вывоз шелковичных червей и их яиц за пределы страны. Римляне, несмотря на высокую цену импортного шелка на просторах их империи, так и не овладели искусством шелководства. Только около 300 года н.э. одна японская экспедиция смогла захватить несколько яиц шелкопряда и четырех китайских девушек, которых похитители заставили раскрыть секреты мастерства. Византия присоединилась к клубу производителей шелка только в 522 году. Для истории с производством фарфора тоже характерны длинные временные лаги. Это искусство практиковалось в Китае уже во времена династии Тан, то есть минимум с 600 года (а могло быть известно и раньше, с 200 года), но стало доступно европейцам только в XVII веке. Колесные повозки появились в нескольких местах Европы и Месопотамии около 3500 года до н. э., но достигли Америки только после ее открытия Колумбом. Если говорить о более важных событиях, то людям потребовались десятки тысяч лет, чтобы расселиться на большей части земного шара; неолитическая революция шла несколько тысяч лет; промышленная революция — всего сотни лет; информационная революция — десятилетия, хотя, конечно, эти изменения не обязательно были одинаково глубокими. (Видеоигра Dance Dance Revolution появилась в Японии и распространилась в Европе и Северной Америке всего за год!)

Стивен Хокинг сформулировал свою позицию так: «Успех в создании искусственного интеллекта будет величайшим событием в истории человечества. К несчастью, оно же может стать и последним».

В случае шести главных технологий, считавшихся сверхдержавами стратегически важными из-за их военного или символического потенциала, разрыв между лидером и его ближайшим преследователем составлял (очень приблизительно) 49 месяцев, 36 месяцев, 4 месяца, 1 месяц, 4 месяца и 60 месяцев соответственно — это больше, чем длительность быстрого взлета, но меньше, чем медленного. Во многих случаях проекты-преследователи получили преимущество за счет шпионажа и использования информации, оказавшейся в открытом доступе. Сама демонстрация возможностей изобретения часто служила стимулом остальным для продолжения работ по его независимой разработке, а страх отстать оказывался дополнительным мощным стимулом.

Возможно, ближе всего к ситуации с ИИ находятся математические открытия, не требующие создания новой материальной инфраструктуры. Часто для признания их общедоступными довольно публикации в научной литературе, но в некоторых случаях, когда открытие дает какое-то стратегическое преимущество, сроки публикации переносятся. Скажем, в криптографии с открытым ключом есть две наиболее важные концепции: протокол Диффи—Хеллмана, позволяющий двум и более сторонам получать общий секретный ключ, и схема шифрования RSA. Они были представлены научному сообществу в 1976 и 1978 гг. соответственно, но позднее оказалось, что криптографы в группе секретной связи Великобритании знали о них с начала 1970-х гг. Крупные проекты по созданию ПО могут быть близким аналогом проектов в области ИИ, но привести убедительные примеры типичного лага нелегко, поскольку ПО обычно много раз обновляется и дополняется, а функциональность конкурирующих систем часто невозможно сравнить напрямую.

Если прибегнуть к аналогии с велосипедной гонкой, представим, что два гонщика взбираются вверх по склону холма, и если один едет чуть позади, то разрыв между ними увеличится, как только лидер перевалит через вершину и покатится вниз.

Предположим, ИИ нужен год, чтобы поднять свои возможности с человеческого уровня до сверхразумного, причем второй проект вошел в стадию взлета спустя шесть месяцев после первого. Может показаться, что ни один из них не имеет решающего конкурентного преимущества. Но это не обязательно так. Допустим, потребуется девять месяцев, чтобы пройти путь от уровня человека до точки перехода, и еще три месяца — чтобы достигнуть уровня сверхразума. Тогда система-лидер превратится в сверхразум за три месяца до того, как ее соперник достигнет хотя бы точки перехода. Это обеспечит идущему впереди решающее конкурентное преимущество и даст возможность, умело использовав свое лидерство, установить неусыпный и повсеместный контроль. В итоге проекты-конкуренты погублены и установлен режим проекта-одиночки, или синглтона. (Заметим, что синглтон является чистой абстракцией. Режим при нем может быть самым разным: демократия; тирания; единодержавие, то есть абсолютизм ИИ; набор жестких общемировых законов, подлежащих безотказному исполнению. Иначе говоря, синглтон — это некий орган, способный в одиночку решать все крупные проблемы общемирового масштаба. Он может нести в себе — но совсем не обязательно — характеристики знакомых нам форм человеческого управления.)

Искусственный интеллект способен на вероломный ход, если обнаружит неожиданный для людей способ достичь своей конечной цели.

Представим следующий сценарий. В ближайшие годы и десятилетия системы ИИ постепенно становятся все более развитыми и, как следствие, получают распространение во многих сферах жизни: их начинают использовать для управления движением поездов, автомобилей, военных транспортных средств, в качестве промышленных и домашних роботов. Можно предположить, что в большинстве случаев такая автоматизация дает желаемый эффект, время от времени разбавляемый эпизодическими инцидентами: автомобиль без водителя сталкивается со встречной машиной, военный дрон бомбит ни в чем не повинных гражданских лиц. В ходе расследования выясняется, что все эти инциденты были вызваны ошибочными суждениями систем ИИ. Вспыхивает общественное обсуждение. Кто-то призывает к более жесткому контролю и регулированию, кто-то подчеркивает необходимость проведения дополнительных исследований и более тщательной разработки усовершенствованной системы — системы более умной, обладающей бóльшим здравым смыслом и менее подверженной стратегическим ошибкам. Возможно, в общем гуле слышны и резкие голоса пессимистов, предсказывающих различные неприятности и неминуемую катастрофу в конце. Тем не менее исследования в области ИИ и робототехники набирают обороты. Разработки продолжаются, прогресс налицо. По мере того как навигационные системы автомобилей становятся все умнее, количество аварий уменьшается; по мере совершенствования систем наведения военных роботов сокращается количество их случайных жертв. Из наблюдений за приложениями ИИ, действующими в реальной жизни, делается вывод: чем умнее ИИ, тем он безопаснее. Это заключение основано на научных исследованиях, точных данных и статистике и не имеет никакого отношения к отвлеченным философствованиям кабинетных ученых. На этом фоне отдельные группы исследователей начинают получать обнадеживающие результаты по созданию универсального искусственного интеллекта. Они скрупулезно тестируют свои зародыши ИИ в изолированной «песочнице», и по всем признакам все идет хорошо. Поведение системы вселяет уверенность — все более сильную, поскольку ее уровень интеллекта постоянно растет.

Пока ИИ юн и слаб, он полностью взаимодействует с людьми (причем активность сотрудничества повышается прямо пропорционально усилению его интеллектуального уровня). Но когда ИИ становится наконец мощным, то — без предупреждения или каких-то провокаций, но всегда внезапно — наносит удар, формирует синглтон и начинает напрямую оптимизировать мир согласно критериям, положенным в основу его конечных ценностей.

Искусственный интеллект способен на вероломный ход, если обнаружит неожиданный для людей способ достичь своей конечной цели. Предположим, что конечная цель системы — «доставлять удовольствие организатору проекта». Вначале единственным доступным для ИИ способом достижения этой цели является такое поведение, которого ожидает от него сам организатор проекта. Интеллектуальная система дает полезные советы, обнаруживает дивный характер, зарабатывает деньги. Чем сильнее становится ИИ, тем больше его действия вызывают чувство удовлетворения организатора — и все идет в соответствии с планом. Идет до тех пор, пока система не станет настолько разумной, что наконец поймет: стоящую перед ней задачу можно выполнить самым полным и надежным способом, если имплантировать электроды в центры удовольствия головного мозга организатора, что гарантированно сделает его более чем счастливым.

Понравился материал? Помоги сайту!

Подписывайтесь на наши обновления

Еженедельная рассылка COLTA.RU о самом интересном за 7 дней

Лента наших текущих обновлений в Яндекс.Дзен

RSS-поток новостей COLTA.RU

Сегодня на сайте
Видели НочьСовременная музыка
Видели Ночь 

На фоне сплетен о втором локдауне в Екатеринбурге провели Ural Music Night — городской фестиваль, который посетили 170 тысяч зрителей. Денис Бояринов — о том, как на Урале побеждают пандемию

23 сентября 2020536
«Мужчины должны учиться друг у друга, а не у кого-то извне, кто говорил бы, как им следует себя вести»Общество
«Мужчины должны учиться друг у друга, а не у кого-то извне, кто говорил бы, как им следует себя вести» 

Зачем в Швеции организовали проект #guytalk, состоящий из встреч в мужской компании, какую роль в жизни мужчины играет порно и почему мальчики должны уже смело разрешить себе плакать

23 сентября 2020754
СВР: смена имиджаЛитература
СВР: смена имиджа 

Глава из новой книги Андрея Солдатова и Ирины Бороган «Свои среди чужих. Политические эмигранты и Кремль»

22 сентября 20201600
Шаманизм вербатимаКино
Шаманизм вербатима 

Вероника Хлебникова о двух главных фильмах последнего «Кинотавра» — «Пугале» и «Конференции»

21 сентября 20201958
И к тому же это надо сократитьКино
И к тому же это надо сократить 

На «Кинотавре» показали давно ожидаемый байопик критика Сергея Добротворского — «Кто-нибудь видел мою девчонку?» Ангелины Никоновой. О главном разочаровании года рассказывает Вероника Хлебникова

18 сентября 20206591