Элиезер Юдковский - Гарри Поттер и методы рационального мышления

— Драко находился в ситуативном контексте, который объясняет его поведение…

— Нет. Даже не пытайтесь. Не хочу знать, что здесь произошло. Никогда. Есть вещи, относительно которых я должна оставаться в неведении, и это — одна из них. Какой бы демонической силой хаоса вы ни обладали, она заразна. Я не желаю закончить как бедный Драко Малфой, бедная мадам Малкин и две её бедные помощницы.

Гарри вздохнул. Совершенно ясно, что профессор МакГонагалл была не в настроении выслушивать разумные объяснения. Он посмотрел на мадам Малкин, всё ещё тяжело дышавшую от смеха, на двух её помощниц, которые уже обе оказались на полу, и, наконец, на себя, обвитого мерными лентами.

— Моя мантия ещё не совсем готова, — вежливо сказал Гарри. — Может, вам вернуться и выпить ещё что-нибудь?

* * *

«У вас был странный день? У меня тем более»

Кто-то другой, вероятно, дождался бы окончания своего первого визита в Косой переулок.

— Мешочек с элементом 79, — пробормотал Гарри и вытащил из кошеля-скрытня пустую руку.

Большинство приобрело бы сначала волшебные палочки.

— Мешочек оканэ, — сказал Гарри. Тяжёлый мешочек с золотом прыгнул в раскрытую ладонь.

Гарри вынул его наружу, потом сунул обратно в кошель. Вытащил руку и вновь засунул её, произнося:

— Мешочек универсального эквивалента стоимости товаров, — на этот раз рука осталась пустой.

У Гарри Поттера уже был один волшебный предмет — зачем ждать чего-то ещё?

— Профессор МакГонагалл, — обратился Гарри к притихшей ведьме, которая шла следом, — скажите мне два слова на языке, который я не знаю. Пусть одно из них означает «золото», а второе — что-то другое, но не объясняйте, какое из них как переводится.

— Ахава и захав, — ответила МакГонагалл, — это на иврите, другое слово означает «любовь».

— Спасибо, профессор. Мешочек ахава, — ничего не произошло.

— Мешочек захав, — мешочек с золотом очутился в его руке.

— Захав означает золото? — спросил Гарри.

МакГонагалл кивнула.

Гарри обдумал полученные результаты. Это был грубый предварительный эксперимент, но и его было достаточно, чтобы сделать вывод:

— Ааааргх! Что за бессмыслица!

Колдунья снисходительно приподняла бровь:

— Какие-то затруднения, мистер Поттер?

— Я только что опроверг свою последнюю гипотезу! Как может быть, что фраза «мешочек со 115 галлеонами» работает, а «мешочек с 90 плюс 25 галлеонами» — нет? Эта вещь умеет считать, но не умеет складывать? Она понимает простые имена существительные, но игнорирует определения, означающие тот же самый предмет? Человек, сделавший этот кошель, скорее всего не знал японский, а я не говорю на иврите, так что он не использует знания своего создателя, равно как и мои, — Гарри беспомощно махнул рукой. — Правила использования вроде бы ясны, но как именно они работают? Даже не хочу спрашивать, каким образом кошель распознаёт голос и естественную речь, учитывая, что лучшие разработчики искусственного интеллекта уже тридцать пять лет не могут научить этому свои суперкомпьютеры, несмотря на все старания. — Гарри сделал паузу, чтобы отдышаться. — Но всё-таки, как это работает?

— Магия, — пожала плечами профессор МакГонагалл.

— Всего лишь слово! Я не могу строить на его основе новые предположения! Это всё равно что сказать «флогистон», или «жизненный порыв», или «эмердженция», или «сложность»!

Профессор МакГонагалл засмеялась:

— И всё же это магия, мистер Поттер.

Гарри поник головой:

— Со всем уважением, профессор МакГонагалл, но мне кажется, вы не понимаете, что я пытаюсь сделать.

— Со всем уважением, мистер Поттер, но, скорее всего, не понимаю. Впрочем, извините, есть одна догадка. Возможно, вы хотите овладеть всем миром?

— Нет! То есть, да, то есть, нет!

— Думаю, мне бы стоило встревожиться из-за ваших затруднений с ответом.

Гарри с грустью вспомнил о Дартмутском семинаре 1956-го года, первой в истории конференции по вопросам искусственного интеллекта. В качестве ключевых вопросов участники выделили: понимание языка, самообучение и самосовершенствование компьютеров. Они абсолютно серьёзно предполагали, что десять ученых смогут достичь существенных результатов по данным вопросам, если будут работать вместе в течение двух месяцев.

«Так. Не унывать. Я только приступил к разгадке всех тайн магии. Фактически, ещё неизвестно, слишком ли это сложная задача для двух месяцев».

— И вы действительно ни разу не слышали о волшебниках, которые задавали подобного рода вопросы или проводили подобные научные эксперименты? — снова спросил Гарри. Для него это казалось столь очевидным.

Хотя, с другой стороны, прошло двести лет с момента изобретения научного метода познания, прежде чем кто-то из маглов-учёных решил провести системное исследование пределов понимания четырёхлетнего ребёнка. Учёные могли бы заняться этим вопросом ещё в восемнадцатом веке, но никто не удосужился обратить на него внимание до двадцатого столетия. Так что нельзя обвинять волшебников, которых гораздо меньше, чем маглов, в том, что они не занимались исследованием чар извлечения.

МакГонагалл снова пожала плечами:

— Я по-прежнему не уверена, что вы понимаете под «научными экспериментами», мистер Поттер. Как я уже говорила, я видела маглорождённых учеников, которые пытались применить магловскую науку в Хогвартсе, и, кроме этого, каждый год создаются новые чары и зелья.

Гарри покачал головой:

— Технология и наука — совершенно разные вещи. Пробовать различные подходы и ставить эксперимент, чтобы обнаружить закономерности, — не одно и то же. Многие пытались изобрести самолёт, создавая конструкции с крыльями, но только братья Райт построили аэродинамическую трубу. Кстати, сколько маглорождённых учеников поступает в Хогвартс ежегодно?

МакГонагалл на мгновение задумалась:

— Приблизительно десять.

Гарри оступился и чуть не запутался в собственных ногах.

— Десять?

Население магловского мира составляло более шести миллиардов. Если считать, что Гарри — один такой на миллион, то в Нью-Йорке — 12 таких же умных мальчиков, а в Китае — тысяча. Вполне нормально, что в мире маглов есть 11-летние дети, которые могут делать сложные вычисления. Гарри знал, что он не единственный. Он встречал и других гениев на олимпиадах по математике. И чаще всего с треском проигрывал своим соперникам, которые наверняка целыми днями решали математические задачи, никогда не читали научную фантастику и которые сгорят от своей науки до пубертатного возраста и ничего не добьются в жизни, потому что будут использовать известные подходы вместо того, чтобы научиться мыслить творчески. (Гарри был из числа людей, тяжело принимающих поражение).