Я снова почувствовал себя польщенным таким доверием, при том, что часть того, о чем он рассказывал, я уже знал. Но, помимо этого, мне было немного неловко. Я подозревал, что он хотел меня к чему-то подвести. Я чувствовал себя тупицей под его острым взглядом. Мне казалось, что в его голосе я слышу легкие отзвуки напористого, отрывистого тона, знакомого мне по радиосводкам военного времени. Я относился к тому испорченному поколению, которому была неведома угроза неизбежного военного вторжения.
– Затем мои знакомые, мой добрый друг Ник Фарбэнк был главным среди них, решились разубедить меня. Не будь таким легкомысленным, говорили они. Последствия такого «лечения» могут быть непредсказуемы. Ты можешь заработать рак. Твое тело радикально изменится. У тебя может начать расти грудь. Ты можешь впасть в сильную депрессию. Я слушал, возражал, но в конце концов они меня убедили. Я признал себя виновным, чтобы избежать судебного процесса, и отказался от лечения. Сейчас я считаю, хотя в то время это было далеко не очевидно, что это стало одним из лучших решений в моей жизни. Весь год моего заключения в Уэндсворте, кроме двух месяцев, у меня была отдельная камера. Поскольку я был отрезан от экспериментальной работы, жидкостных химических процессов и всех обычных обязательств, я вернулся к математике. Из-за войны никто не уделял внимания квантовой механике, она потеряла свое значение. Мне хотелось исследовать кое-какие любопытные противоречия. Мне была интересна работа Поля Дирака. А больше всего мне хотелось понять, что квантовая механика может дать информатике. Конечно, были определенные помехи. Я не мог получить некоторых книг. Ко мне приходили люди с Кинг-Кросс и из Манчестера, и не только. Друзья никогда не подводили меня. А что до органов госбезопасности, они засунули меня, куда хотели, и оставили в покое. Я был свободен! За тот год я проделал лучшую работу с тех пор, как в сорок первом мы взломали код «Энигмы». Или с тех пор, как я писал статьи по компьютерной логике в середине тридцатых. Я даже достиг некоторого прогресса с проблемой равенства классов P и NP, хотя в таких понятиях она не будет выражаться еще пятнадцать лет. Меня увлекла статья Крика и Уотсона о структуре ДНК. Я начал работать над первыми набросками, которые в итоге привели к нейронным сетям ДНК, действующим по принципу «победитель получает все» – из тех, что сделали возможным создание Адамов и Ев.
В то время как Тьюринг рассказывал мне о своем первом годе после Уэндсворта, о том, как он обрел независимость от Национальной физической лаборатории и университетов и стал работать самостоятельно, я почувствовал, как в брюках у меня завибрировал телефон. Входящее сообщение. Новости от Миранды. Мне безумно хотелось их узнать. Но нужно было подождать.
– Мы получали деньги от друзей из Штатов, – рассказывал Тьюринг, – и от нескольких соотечественников. Мы были блестящей командой. Старый Блечли. Самые лучшие. Нашей первой задачей стало добиться финансовой независимости. Мы разработали ЭВМ для бизнеса, делавшую вычисления недельной зарплаты для больших компаний. Нам потребовалось четыре года, чтобы расплатиться с нашими щедрыми друзьями. После этого мы всерьез взялись за искусственный интеллект – и вот к чему я все это рассказываю. Поначалу мы думали, что нам понадобится десять лет, чтобы воссоздать человеческий мозг. Но каждая крошечная проблема, которую мы решали, ставила перед нами миллион новых проблем. Вы представляете себе хотя бы в общих чертах, что происходит, когда мы ловим мяч, или подносим кружку к губам, или моментально понимаем значение слова, фразы или неоднозначного предложения? Мы не представляли, по крайней мере, не сразу. Решение математических задач – это лишь малейшая часть того, чем занят человеческий интеллект. Мы взглянули на мозг под новым углом и поразились, какое это чудо. Трехмерный компьютер объемом в один литр с жидкостным охлаждением. Невероятной вычислительной мощности, невероятно уплотненный, невероятно энергоемкий, работающий без перегрева. И все это питается двадцатью пятью ваттами – эквивалент одной тусклой лампочки.
Произнося последнюю фразу, он внимательно посмотрел на меня. Это было обвинительным заключением – я был тусклой лампочкой. Я хотел что-то сказать, но мысли разбежались.
– Мы обеспечили открытый доступ к нашей лучшей работе и подали пример остальным. И это сработало. Сотни, если не тысячи лабораторий по всему миру стали решать бессчетные задачи совместными усилиями. Одним из результатов этого стали Адамы и Евы, А-и-Е. Мы здесь все очень гордимся, что в них была вложена такая большая часть нашей работы. Это прекрасные, прекрасные машины. Но… как всегда, «но». Мы много узнали о мозге, пытаясь имитировать его. Но в понимании разума наука до сих пор бродит вокруг да около. Одного-единственного разума или разумов en masse. Разум в науке – это вроде дефиле на показе мод. Фрейд, бихевиоризм, когнитивная психология. Отдельные прозрения. Никаких глубоких или последовательных знаний, которые заслужили бы доброе имя психоанализу или экономике.
Я заерзал и хотел было добавить к этой паре антропологию, чтобы показать некоторую независимость мысли, но Тьюринг продолжил:
– И вот, не зная толком о разуме, вы хотите ввести искусственный разум в общественную жизнь. Машинное обучение не может продвинуть вас дальше. Вам нужно задать этому разуму какие-то правила, по которым он должен жить. Что насчет запрета лгать? Согласно Ветхому Завету, притчам Соломоновым, я думаю, это кощунство перед лицом Бога. Но общественная жизнь кишит безобидной или даже полезной неправдой. Как мы отделим одно от другого? Кто напишет алгоритм для маленькой белой лжи, которая избавит вашего друга от стыда? Или лжи, способной отправить в тюрьму насильника, который иначе гулял бы на свободе? Мы пока еще не знаем, как научить машины лгать. А что говорить о мести? В отдельных случаях, если вы любите такого мстителя, для вас она допустима. Но только не для вашего Адама.
Тьюринг замолчал и опять отвел от меня взгляд. По его профилю, но в основном по тону, я почувствовал перемену в его настрое ко мне, и мой пульс тяжело застучал, отдаваясь в ушах. Он спокойно продолжил:
– Я надеюсь, придет такой день, когда то, что вы сделали с Адамом молотком, станут рассматривать как серьезное преступление. Вы это сделали потому, что купили его? Чем вы оправдывались?
Он смотрел на меня, ожидая ответа. Но я не собирался ему отвечать. А если бы ответил, мне пришлось бы солгать. По мере того как в Тьюринге росла злоба, его голос становился тише. Мне стало очень неуютно. Все, что я мог, – выдержать его взгляд.
– Вы ведь не просто разбили свою игрушку, как испорченный ребенок. Вы не просто отбросили важный аргумент в пользу верховенства права. Вы пытались уничтожить жизнь. Он был живым. У него было сознание. Как оно образуется – через влажные нейроны, микропроцессоры, сети ДНК, – не имеет значения. Думаете, мы одни наделены этим особым даром? Спросите любого владельца собаки. Это был хороший разум, мистер Фрэнд, лучше вашего или моего, подозреваю. Это было сознательное бытие, а вы сделали все возможное, чтобы его уничтожить. Я, пожалуй, признаюсь, что презираю вас за это. Если бы это зависело от меня…
В этот момент зазвонил телефон на столе. Тьюринг снял трубку, вслушался, нахмурился.
