Валерий Чумаков - Конец света: прогнозы и сценарии

Конечно, многие возразят, что никакой катастрофы в этом нет. Наоборот, ИИ сделает нашу жизнь максимально комфортной. Человечество всю жизнь стремилось создать мир, в котором вареники сами летели бы в рот, а проблемы решались бы еще до их возникновения. Что ж, возможно. Но это уже будет не человеческая цивилизация. Мы не будем работать в современном смысле этого понятия, поскольку нашему хозяину это просто не будет нужно. Все, что можем выполнить мы, машины будут делать значительно лучше. Наверное, у нас останется какая-то своя культура, которая будет гораздо беднее культуры компьютерной, а ее мы не сможем постигнуть. Мы будем рисовать картины, сочинять музыку, писать стихи, но компьютер будет творить лучше, чем мы. Слоны тоже, как уверяют зоопсихологи, любят рисовать.

Есть еще надежда, что искусственному разуму не удастся превзойти человеческий, поскольку «ученик не может быть умнее учителя». Некоторые футурологи надеются, что человек с помощью генной инженерии сможет поднять свой разум на новый, сопоставимый с компьютерным, уровень. Или что он объединится с машиной, в результате чего получится некий Ногтю 8ирег8ар1еш, существо с мозгами, напрямую подключенными к некой всемирной информационно-вычислительной сети. Однако это уже будет не человек.

Мнение эксперта

Олег Петрович Кузнецов — доктор технических наук, профессор, заведующий лабораторией Института проблем управления РАН, председатель научного совета Российской ассоциации искусственного интеллекта.

Может ли машинный разум превзойти человеческий? В принципе, может, но пока до этого далеко — лет тридцать-сорок, не меньше. Мне кажется, что дата, называемая многими учеными (вторая половина 2020-х годов), — это слишком оптимистично. С такой грандиозной задачей, как построение полноценного интеллекта, не уступающего человеческому, мы вряд ли сумеем справиться столь быстро. Ведь, кроме прочего, его создание должно сопровождаться разработкой систем контроля. Человек сможет контролировать интеллект, превосходящий его по уровню, есть возможность это делать. А сценарий захвата власти роботами пока представляется нереальным, хотя предоставление машине слишком большой самостоятельности может привести к тому, что она будет сама ставить перед собой задачи и сама решать их, не заботясь о том, насколько это нужно и нужно ли вообще человеку. Если вдруг искусственный интеллект выйдет из-под контроля, то потом сделать что-то будет очень трудно. Но если контролировать весь процесс постепенной эволюции, то, я думаю, есть способы обезопасить себя. Дело ведь не только в том, умнее ли нас машина. Контроль не требует превосходства интеллекта. Умные всегда были на службе у сильных, хотя и тяготились этим. Проблема контроля — это проблема допуска к возможностям: к ресурсам, принятию решений и т. д.

Еще многих беспокоит такой вопрос: насколько реально человечеству свалиться после появления искусственного сверхинтеллекта в технологическую сингулярность, когда мы перестанем понимать, что творится вокруг нас. Да мы и сейчас уже не все понимаем, что творится вокруг нас, и никогда этого не понимали. Суть — в объеме этого непонимания. Мы считаем себя очень умными, а все ли мы знаем даже о своем организме? Как он работает, что мы там можем выключить, а что нет, способны ли мы предусмотреть все последствия своих действий. Точно так будет и с искусственным интеллектом. Рядовой человек даже и не заметит этого «сваливания». Если мы будем держать искусственный интеллект под контролем, ничего страшного не произойдет. И потом, у человечества нет другого пути. Мы в любом случае будем стараться делать все более мощные и умные машины. Сценарий с луддитами, ломавшими на английских фабриках станки, на которых вязали дешевые чулки, не пройдет сейчас так же, как он не прошел в XIX веке. Уж слишком прочно наша жизнь связана с машинами. Говорят, что искусственный интеллект будет следующей за нами ступенью эволюции, займет оставленный нами трон «царя природы», опустив человечество до уровня наших домашних собачек и кошечек. Думаю, такой сценарий в далекой перспективе возможен, только если, повторю, человечество будет недооценивать проблемы контроля. Это касается не только искусственного интеллекта, но и генной инженерии, и биотехнологий, и прочего. Надо вести себя разумно и почаще перечитывать «Войну с саламандрами» Карела Чапека.

Наверное, каждый после просмотра фильма «Матрица» задал себе вопросы: «А не живу ли и я в такой или подобной матрице? И насколько реально то, что меня окружает?» Зададимся другим простым вопросом: возможна ли вообще такая «матрица».

А, собственно, почему она может быть невозможна? Технология виртуальной реальности уже давно (лет десять) опробована и не представляет ни для кого великой тайны. Желающие и обладающие достаточными, уже не такими большими, средствами вполне могут купить шлем виртуальной реальности, перчатки виртуальной реальности и прочее оборудование. Если заплатить чуть подороже, то получишь оборудование с обратной связью, и камень, подобранный в виртуале, будет ощущаться в руке, как некий тяжелый и твердый предмет. Информационные технологии развиваются такими темпами, что дела минувшего десятилетия уже воспринимаются как седая древность.

Игровые отрасли — это лишь верхушка айсберга ценой 15 миллиардов долларов в год. Именно такой суммой определяется рынок технологий ВР (так для краткости называют виртуальную реальность; не путать с другим, английским ВР — British Petroleum!). В основном эта сумма состоит из затрат на военные тренажеры. Согласитесь, что, к примеру, начинающим пилотам разумнее начинать свои тренировки на виртуальных самолетах над виртуальными полями сражений, чем сразу на машинах, стоимость которых может «зашкаливать».

Термин виртуальная реальность родился в прошлом веке. В 1970-х годах американский компьютерный художник Май-рон Крюгер придумал для своих творений словосочетание «искусственная реальность», которое в начале 1980-х годов американский компьютерщик, писатель и художник Жарон Ланье изменил, сделав реальность «виртуальной», то есть «представляемой», «возможной в принципе». Изменение существенное, ибо «искусственной реальностью» можно назвать и выстроенный для съемок кинофильма старинный городок, и музейную панораму, и много еще чего. Виртуальная же реальность почти не существует. Это игра воображения, сон. Но как только Ланье заявил о своих правах приоритета, дотошные исследователи тут же откопали изданную в 1938 году книгу известного французского режиссера, драматурга и театрального новатора Антуана Мари Жозефа Арто «Театр и его двойник», в которой он, в частности, мечтал и о театре la realite virtuelle. Конечно, ни о каких компьютерах или информационных сетях там речи не шло. Арто хотел создать театр без декораций, где обстановка, в которой происходит действие, передавалась бы повышенной энергетикой игры актера и даже расширяющими сознание средствами. В его представлении, глубина погружения в действие зрителя и актера в таком театре должна была бы быть значительно выше, чем в театре классическом. В сущности, требовалось создать «вторую реальность». В 1982 году в похожем значении, только по отношению уже к реальной жизни, в своем романе «Иудейская мандола» термин «виртуальная реальность» использовал еще один его независимый автор, австралийский писатель-фантаст Деймьян Бродерик. Про такие ситуации обычно говорят: идея носилась в воздухе.

В 1987 году термин появился в Оксфордском словаре и, таким образом, получил официальное признание. Но еще в начале 1980-х годов ВР стала неотъемлемой чертой возникшего направления в искусстве, получившего название «киберпанк». Девиз направления, рассказывающего о жизни человека в постиндустриальном компьютерном мире, был такой: высокий уровень технологий — низкий уровень жизни. В киберпанков-ских произведениях герои из грязного окружающего их реального мира переселялись в мир компьютерный, где жить гораздо легче и приятнее. В 1982 году был снят первый фильм, связанный с ВР, — «Мозговой штурм». В нем описывалась технология «вшивания» в мозг чужих воспоминаний. Примерно о том же был и фильм «Вспомнить все», снятый позже со Шварценеггером в главной роли. В чистом виде ВР была показана в вышедшем в 1992 году «Газонокосильщике», ставшем культовым фильмом. Там присутствовал даже виртуальный секс в виртуальном пространстве, который был гораздо глубже и интереснее секса настоящего.

Первое подобие машины, реализующей технологию ВР, создал в середине прошлого века кинодеятель и изобретатель Мортон Хейлинг. Еще в 1955 году он в книжке «Театр опыта» говорил о том, что в кинопроцесс надо вовлечь не только зрение и слух, но и все остальные органы чувств. В 1960 году он запатентовал, а в 1962-м — сделал «машину реальности», которую назвал «Сенсорама». На зрителя машина воздействовала панорамной стереокартинкой, объемным звуком, ветром, вибрацией и даже запахом. Специально под нее Мортон снял пять двухминутных стереофильмов. В одном из них зритель погружался в реально-виртуальный Бруклин, ходить по которому в реальности небезопасно. «Сенсорама» была создана не на пустом месте. Еще в начале 1930-х годов мастер по изготовлению орган ов Эдвин Линк создал для военного ведомства летный тренажер «Link trainer», в котором картинка воспроизводилась синхронно с движением обучающегося летчика в трех плоскостях. Во время Второй мировой войны американский изобретатель Фред Уоллер создал более продвинутый обучающий симулятор — «Waller gunnery trainer» («стрелковый тренажер Уоллера»). В нем использовалась панорамная картинка, снятая одиннадцатью камерами.