Айзек Азимов - Мечты роботов (Сборник рассказов и эссе)

В данных обстоятельствах, возможно ли, что благодаря такому слиянию появится единый организм, нечто вроде кибернетического «кентавра»? А как только такой союз будет создан, захочет ли человек его разорвать? Не почувствует ли он, что разрыв причинит ему невыносимую боль потери, настолько сильную, что он не сможет жить с ощущением нищенства своего ума и воли? В моем романе Голан Тревиз мог в любой момент по собственному желанию отсоединиться от компьютера и не испытывал при этом никаких неприятных ощущений. Но, возможно, это не очень реалистично.

Другая проблема, которая время от времени обсуждается в серии «Город роботов», – это отношения роботов между собой.

Я не слишком часто обсуждал ее в своих рассказах, поскольку, как правило, в каждом данном рассказе у меня один главный герой-робот, и меня интересуют вопросы взаимодействия этого конкретного робота и людей.

Давайте представим себе разные сочетания роботов.

Первый закон утверждает, что робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

Предположим, у нас имеется два робота. Один из них по неосторожности, из-за отсутствия необходимых знаний или в силу определенных обстоятельств ведет себя таким образом (неосознанно), что его действия могут причинить вред человеку, – и предположим, что второй робот, обладающий более обширными знаниями или пониманием ситуации, это осознает. Разве Первый закон не требует от него, чтобы он остановил первого робота? Если нет другого пути, разве Первый закон не требует от него, чтобы он уничтожил первого робота без сожалений и колебаний?

Так, в моей книге «Роботы и Империя» (1985) показан робот, которому объяснили, что люди – это существа, разговаривающие с определенным акцентом. У героини книги другой акцент, следовательно, робот имеет полное право ее убить. Его мгновенно уничтожает другой робот.

Точно такая же ситуация возникает и когда мы вспомним о Втором законе, в котором говорится, что робот должен повиноваться приказам человека, если эти приказы не противоречат Первому закону.

Если один из двух роботов вследствие незнания или небрежности не выполняет приказ человека, второй должен либо выполнить команду сам, либо заставить первого робота это сделать.

Так, в одной из самых напряженных сцен в «Роботах и Империи» злодейка отдает роботу прямой приказ. Тот колеблется, потому что его выполнение может причинить вред героине. Возникает конфронтация между злодейкой, которая настаивает на выполнении своего приказа, и вторым роботом, пытающимся убедить первого в том, что героиня может пострадать. Здесь возникла ситуация, когда один робот пытается уговорить второго подчиниться Второму закону в его истинном звучании и противостоять человеку.

Однако самые серьезные проблемы, когда речь идет о взаимодействии роботов, возникают в связи с Третьим законом.

Третий закон утверждает, что робот должен заботиться о своей безопасности в той мере, в какой это не противоречит Первому и Второму законам.

Но что, если речь идет о двух роботах? Озабочен ли каждый из них своим собственным существованием, что является буквальным пониманием закона? Или каждый робот испытывает необходимость помогать своим собратьям в ситуациях, когда речь идет об опасности для их существования?

Как я уже говорил, я не слишком много занимался этой проблемой, когда писал рассказы, в которых главным героем был один робот. (Иногда там появлялись и другие роботы, но они были второстепенными персонажами – всего лишь оруженосцами, если можно так выразиться.) Однако сначала в «Роботах рассвета» (1983), а затем в сборнике «Роботы и Империя» я описал двух роботов, которые играли одинаково важную роль для повествования. Один из них – Р. Дэниэл Оливо, антропоморфный робот (которого не так просто отличить от человека), появлявшийся в «Стальных пещерах» (1954) и в его продолжении «Обнаженное солнце» (1957). Другой – Р. Жискар Ревентлов, который имеет более стандартную металлическую внешность. Оба робота обладают интеллектом, сходным по сложности с человеческим.

Именно они вступили в борьбу со злодейкой по имени леди Василия. Она приказала Жискару (таков поворот сюжета) оставить службу у Глэдии (главной героини) и поступить в ее собственное распоряжение. А Дэниел приводил доводы, чтобы убедить Жискара остаться с Глэдией. Жискар обладает способностью устанавливать ограниченный ментальный контакт над человеческими существами, и Дэниел пытается его уговорить, что ради безопасности Глэдии ему следует взять под контроль Василию. Он даже рассуждает о пользе для всего человечества («Нулевой закон»), которую принесет данный образ действий.

Доводы Дэниела ослабляют приказы Василии, но в недостаточной степени. Жискар колеблется, но его невозможно заставить действовать.

Тем временем Василия решает, что Дэниел слишком опасен: если он будет продолжать спорить, он может убедить Жискара в своей правоте. Тогда она приказывает собственным роботам отключить Дэниела, а затем велит Дэниелу не сопротивляться. Дэниел обязан подчиниться, и роботы Василии принимаются за дело.

Именно в этот момент и «просыпается» Жискар. Четыре робота выведены из строя, а сама Василия погрузилась в сон. Позднее Дэниел просит Жискара рассказать ему, что произошло.

Жискар говорит:

«Когда она приказала роботам разобрать тебя на составные части, друг Дэниел, и продемонстрировала явное удовольствие от этой перспективы, твоя безопасность плюс концепция Нулевого закона перевесили действие Второго закона и вступили в противоречие с Первым. Комбинация Нулевого закона, психоистории, моей верности леди Глэдии и того, что ты попал в беду, заставили меня действовать».

Дэниел заявлет, что его собственные нужды (поскольку он всего лишь робот) не должны были повлиять на действия Жискара. Тот с ним не согласен, однако говорит:

«Странная вещь, друг Дэниел. Я не знаю, как так получилось… В тот момент, когда роботы начали к тебе приближаться, а леди Василия не смогла скрыть ликования, схема моих позитронных дорожек реформировалась аномальным образом. На мгновение я подумал, что ты человек, и отреагировал соответсвующим образом».

«Это было неправильно», – говорит Дэниел.

«Я знаю, – отвечает Жискар. – Однако если такое случится снова, мне кажется, та же аномальная перемена произойдет опять».

Дэниел понимает, что, если бы он оказался в подобной ситуации и опасность угрожала бы Жискару, он тоже встал бы на его защиту.