Валерий Чумаков - Конец света: прогнозы и сценарии

Если что-то пойдет не так, то, выключив один из миров, его создатели выключат сразу миллионы миров вложенных, один из которых будет нашим.

Мнение эксперта

Данила Андреевич Медведев — кандидат экономических наук, член Координационного совета Российского трансгуманистического движения, сотрудник Центра цивилизационных и региональных исследований при Институте Африки РАН, эксперт Российского фонда развития высоких технологий.

Есть идея, что мы живем не в реальном мире, а в виртуальном, созданном фантазией неизвестного программиста из чисел и компьютерных кодов. Тут есть три задачи — смоделировать мир, и, смоделировав нас самих, вложить эту иллюзию нам в голову. Рост мощности компьютеров и развитие виртуальной реальности демонстрируют это весьма убедительно. Сейчас, к концу первого десятилетия XXI века, моделировать можно практически что угодно и с огромной точностью и реалистичностью. Что касается задачи заложить картинку нам в голову, чтобы мы не заметили подмены, то тут потребуется с десяток лет. Уже есть возможность стимулировать отдельные части мозга с помощью сверхтонких электродов — работают искусственные глаза и уши. Короче, это дело буквально десятка лет. А смоделировать нас самих… Даже если мир — иллюзия, приятно думать, что ты сам — нет. Но такие проекты, как «Blue brain», направлены на моделирование целого мозга человека, причем чтобы он работал, как настоящий, то есть со всеми ощущениями и мыслями. Это лет на 15–20, но тоже реально и неизбежно.

Еще в 2003 году в своей статье «Живем ли мы в спекуляции Ника Бострома» я привел серьезные аргументы, показывающие логические ошибки Бострома. Хотя создание виртуальных миров в будущем не просто возможно, но и весьма вероятно, невозможно путем логических умозаключений показать, что мы сейчас находимся в симуляции. На основании проделанного анализа, я склонен считать наш мир реальным. Если говорить о постчеловеческих цивилизациях, то для них не будет разницы между реальным и виртуальным. Уже сейчас мы видим появление Зй-сканеров, Зй-принтеров, дополненной реальности и т. п.

Задача прогнозирования не может быть решена с помощью симуляций. Дело в том, что если в мире будет существовать более одного серьезного игрока, то ход событий станет зависеть не от поведения «овец» (масс), а от желаний и интересов «волков». У «волков» есть свои прогнозисты и свои симуляции (которые невозможно просимулировать — это как игра в шахматы).

Что касается примерного прогноза отдельных аспектов поведения людей или общества, то тут не нужно самосознание. Достаточно правильных алгоритмов. Псевдоразумный человек без личности (в философии их называют «философские зомби») может вести себя так же, как и обычный человек. Вот почему даже слабых этических запретов на виртуальные мучения разумных существ будет достаточно, чтобы использовать только зомби.

Разумеется, это не отменяет создания мыслящих и создающих существ внутри компьютера, но это показывает, что для массовки они вряд ли потребуются. С теми случаями, когда создается настоящая личность, можно разобраться отдельно. Проще всего дать личности право выхода на уровень выше.

Если мы даже на секунду предполагаем, что наш мир — не реален, то мы полностью лишаемся возможности судить о том, каков настоящий реальный мир. А раз так, то и судить о том, какие миры нормальные, а какие — нет, не стоит. Физики сейчас занимаются тем, чтобы вывести все богатство нашего мира из очень простых правил. Есть компьютерные модели образования вселенной, галактик, звезд, планет, жизни и т. д. Пока образование нашего мира выглядит вполне логично.

Можно ли по каким-то приметам определить, насколько реален наш мир? Для нас он единственно реален. Есть более глубокие проблемы, например, как быть с тем, что даже реальные личности виртуальны, потому что их жизнь может быть с исчерпывающей точностью описана очень большим, но конечным натуральным числом. Об этом очень хорошо написал Грег Эган в книге «Permutation city», показав, как живется математическим конструкциям.

Понимание своей виртуальности не отменяет причинно-следственных связей, присущих нашему миру. За действием следует воздаяние, в том числе и для виртуальных личностей: хорошо работаете — хорошо кушаете, даже если еда виртуальная. Симуляция предполагает определенные правила, поэтому вы можете их использовать для достижения собственных целей. Другое дело, что понимание виртуального характера всего и осознание возможности моделирования и модификации личности заставляет задуматься о произвольности любых целевых установок. Это гораздо более серьезная проблема. Ведь любые цели и ценности, которые могут быть у человека, одинаково хороши просто потому, что они одинаково реальны и возможны. Поэтому как объяснить лентяю, что лениться плохо, если у него в голове другая целевая функция? Для него лениться — хорошо, даже если он и голодает.

Весьма вероятно, что когда мы будем (или когда наши создатели начали, сколь бы маловероятно это ни было) создавать виртуальные миры, мы станем уважать достоинство каждой личности. Это значит, что такая личность будет в какой-то момент информирована о том, что она живет в симуляции, и ей будет предложен выбор (при жизни или после смерти) — оставаться в ней или подняться в реальный мир. Но в любом случае возможность такого перехода будет зависеть от воли создателей симуляции. Мы не можем знать, какие действия обрадуют всемогущих наблюдателей: перевести старушку через дорогу или толкнуть ее под машину, помочь однокласснику сделать уроки или подсадить его на героин; все зависит от того, кто нас создал и запустил — хороший мальчик или безумный социопат.

Так называемую теорему Судного дня (Doomsday argument) сформулировал в 1983 году астрофизик Брендон Картер (в честь него теорему иногда называют «катастрофой Картера»). Идея к тому времени уже носилась в воздухе, к ней почти одновременно пришел и другой ученый, профессор астрофизики из Принстона Ричард Готт. А несколько раньше до нее почти додумался австрийский физик, математик, один из отцов кибернетики Хейнц фон Фёрстер.

Приводить официальную формулировку теоремы вместе со всеми сопровождающими ее формулами я не буду. Это не совсем теорема, скорее — логические и вероятностные рассуждения, подкрепленные математической базой. Наиболее доходчиво их пересказал для неспециалистов профессор Оксфордского университета Ник Бостром. Я же постараюсь пересказать Бострома — еще более доходчиво и применительно к российским реалиям.

Итак, представьте себе базу отдыха, состоящую из 100 домиков. Как и положено, все домики пронумерованы: на каждом масляной краской написан номер. База работает по сменному принципу: все отдыхающие заезжают на нее одновременно и живут месяц, после чего домики освобождаются. Известно, что у хозяина базы есть интересный пунктик: каждую смену он заселяет, в зависимости от настроения, либо все домики, либо только первый десяток.

Вы приехали на базу глубокой ночью, вас поселили в какой-то домик, и вы сразу уснули. Проснувшись ранним утром, когда все остальные еще спят и спросить не у кого, вы решили выяснить, много ли у вас в этот раз будет друзей по смене.

Только как это сделать?

Пока вы сидите внутри своего домика, вам представляется вероятность того, что на базе проживает 100 отдыхающих, равной вероятности того, что их тут всего 10. Но у вас есть реальный шанс увеличить свою осведомленность. Для этого надо просто выйти и посмотреть, каков номер вашего домика. Если он больше 10, то можно быть абсолютно уверенным, что отдыхающих на базе, включая вас, — сотня. Вероятность попадания — почти 100 %. Итак, вы выходите и видите цифру 4. Теперь у вас есть мысль, что отдыхающих на базе лишь 10.

Вероятность того, что на базе отдыхают 10 человек, теперь для вас почти в 10 раз выше, чем вероятность того, что их здесь сотня. С 50 % она вырастает до 90 %.

На самом деле, если считать по науке, дотошно, то она будет равна не 90 %, а примерно 91 %, потому что у нас имеется 11 десятков: 10 из случая со 100 отдыхающими и 1 — из случая с 10. Из них нас интересует лишь тот десяток, что получается при маленьком заезде. 1 от 11 — это 9,09 %. Получается: вероятность того, что вы, приехав сюда в числе сотни, попали в первую десятку, составляет 9,09 %. Соответственно, вероятность того, что дело было в причуде хозяина (на этот раз он принял только 10 человек), составляет 100 % — 9,09 % = 90,91 %.

Значит, повторим это еще раз: обнаружив себя в первом десятке домиков, вы можете быть почти (на 90,91 %) уверены, что в одиннадцатом домике уже никто не живет.

Теперь переложим все эти наши рассуждения на судьбы человечества. Его дальнейшее развитие может протекать по двум сценариям. Первый — близкая катастрофа и ранняя гибель; второй — никакой глобальной катастрофы, а, напротив, спокойное дальнейшее развитие, колонизация Галактики и рост народонаселения.