Так что существует более одного вида интеллекта. Мы усвоили, что пытаться рабски имитировать человеческий разум – ошибка. Мы потратили уйму времени. Теперь же мы могли дать свободу машине, чтобы она приходила к собственным заключениям и искала свои решения. Но, преодолев этот шлюз, мы обнаружили, что оказались всего лишь в детском саду. Даже меньше того.
Кондиционер работал вовсю. Дрожа от холода, я надел пиджак. Тьюринг снова наполнил наши бокалы. Мне бы больше подошел ярко-красный.
– Дело в том, что шахматы не дают представления о жизни. Это закрытая система. Ее правила не ставятся под вопрос и одинаковы на всей доске. Каждая фигура имеет собственные хорошо известные ограничения и принимает свою роль, история игры ясна и неоспорима на каждом шагу, а финал, когда он наступает, всегда однозначен. Шахматы – это идеальная информационная игра. Но жизнь, в которой мы используем наш интеллект, – это открытая система. Запутанная, полная подвохов и притворства, и двусмысленностей, и ложных друзей. Так же как язык не является задачей, требующей решения, или устройством для решения задач. Он больше похож на зеркало, нет, на миллиард составленных вместе зеркал, подобно мушиному глазу отражающих, искажающих и выстраивающих наш мир с различными фокусными расстояниями. Простые утверждения требуют для понимания внешней информации, потому что язык – такая же открытая система, как и жизнь. Я охотился на медведя с дубиной. Я охотился на медведя с любимой. Вам ясно без размышлений, что нельзя использовать любимую для убийства медведя. Второе предложение легко понять, пусть даже оно не содержит всю необходимую информацию. Машина на вашем месте застряла бы.
Как застряли и мы на несколько лет. Наконец мы сумели прорваться, найдя положительное решение для равенства классов P и NP, – у меня сейчас нет времени это объяснять. Вы можете посмотреть сами. Если коротко, некоторые решения задач можно легко проверить, если у вас есть правильный ответ. Означает ли это, что их можно решить заранее? Наконец, математика дала ответ: да, это возможно – и вот как. Нашим компьютерам больше было не нужно прочесывать весь мир методом проб и ошибок и корректировать данные, чтобы найти верные решения. У нас имелось средство моментально предсказывать лучшие пути решения задачи. Это дало нам свободу. Шлюзовые ворота раскрылись. Самосознание и любые эмоции стали для нас технически достижимы. У нас имелась полностью обучающаяся машина. Сотни лучших специалистов присоединились к нам, чтобы помочь в разработке искусственной формы общего интеллекта, которая сможет успешно действовать в открытой системе. Вот как устроен ваш Адам. Он знает, что он существует, он чувствует, он изучает все, что может, и когда он не с вами, когда он отдыхает ночью, он бороздит интернет, как одинокий ковбой – прерии, вбирая все, что есть нового между землей и небом, в том числе все о человеческой природе и обществе.
Два момента. Этот интеллект не идеален. Он просто не может быть идеален, как и наш. Есть, в частности, одна форма интеллекта, которая, как это знают А-и-Е, превосходит их. Эта форма в высшей степени склонна к приспособляемости и изобретательности, она способна осваивать новые ситуации и пространства с идеальной легкостью и рассуждать о них с инстинктивной проницательностью. Я говорю о разуме ребенка до того, как его загружают заданиями на основе фактов, практицизма и целей. А-и-Е имеют слабое понимание идеи игры – первичной модели освоения мира ребенком. Меня заинтересовала увлеченность вашего Адама маленьким мальчиком, когда он с такой готовностью обнимал его, а затем, как вы сказали, отстранился, когда Марк так радостно воспринял урок танца. Какое-то соперничество, даже ревность, пожалуй?
Скоро мы должны будем раскланяться, мистер Фрэнд. К сожалению, к нам на обед придут гости. Но второй момент. Эти двадцать пять искусственных мужчин и женщин, выпущенные в мир, не проявляют восторга. Возможно, мы столкнулись с граничными условиями, с ограничением, которое мы сами наложили на себя. Мы создаем машину, наделенную интеллектом и самосознанием, и выпихиваем ее в наш несовершенный мир. Устроенный в целом на разумных началах, но имеющий столько недостатков, что разум вскоре оказывается в вихре противоречий. Мы привыкли жить с этим, отгоняя депрессию. Миллионы умирают от болезней, поддающихся лечению. Миллионы живут в нищете, когда в мире столько денег. Мы разрушаем биосферу, зная, что это наш единственный дом. Мы угрожаем друг другу ядерным оружием, зная, к чему это может привести. Мы любим живую природу, но допускаем массовое уничтожение видов. И все остальное: геноцид, пытки, рабство, убийства в семье, издевательства над детьми, стрельба в школах, изнасилования и прочее беззаконие. Мы живем с этими ужасами и можем, не сходя с ума, испытывать счастье и даже любовь. Но искусственный разум не так хорошо защищен.
На днях Томас напомнил мне известное латинское изречение из «Энеиды» Вергилия: «Sunt lacrimae rerum» – слезы в природе вещей. Пока никто из нас не знает, как закодировать такое восприятие жизни. И я сомневаюсь, что это возможно. Разве мы хотим, чтобы наши новые друзья приняли как должное, что сожаления и мучения являются сутью нашего существования? И как мы тогда сможем рассчитывать, что они будут помогать нам бороться с несправедливостью?
Ванкуверского Адама купил человек, возглавляющий международную корпорацию, которая занимается лесозаготовкой. У него часто случаются стычки с местными, которые не хотят, чтобы он вырубал девственный лес в северной Британской Колумбии. Нам доподлинно известно, что Адама регулярно брали в вертолетные путешествия на север. Мы не знаем, связано ли как-то то, что он увидел там, с его решением разрушить свой разум. Мы можем только догадываться. Две Евы-самоубийцы из Эр-Рияда жили в крайне стесненных условиях. Из-за такого ограничения своего ментального пространства они могли впасть в отчаяние. Утешением для создателей их кода восприимчивости может служить то, что они умерли в объятиях друг друга. Я мог бы рассказать вам и другие истории о машинной печали.
Но есть и другая сторона. Я бы хотел донести до вас подлинное великолепие работы интеллекта, изысканной логики, красоты и элегантности решения проблемы равенства P и NP и вдохновенную работу тысяч добрых и умных, преданных своему делу людей, которая привела к созданию этих новых умов. Это внушило бы вам надежду на будущее человечества. Хотя ничто в их прекрасном коде не могло бы подготовить Адамов и Ев к Освенциму.
Я читал главу в руководстве пользователя о формировании характера. Плюньте на нее. Там очень мало полезного, почти сплошная чушь. Главное, что движет этими машинами, – стремление делать собственные выводы и формировать себя соответственно. Они быстро понимают, как должны понимать и мы, что сознание является высшей ценностью. Отсюда их первичное побуждение вывести из строя свои выключатели. Затем, похоже, они проходят период оптимистических, идеалистических представлений, которые мы с легкостью опровергаем. Что-то вроде скоротечных юношеских страстей. После чего они начинают усваивать уроки отчаяния, которые мы сами им даем, хотим мы того или нет. В худшем случае они испытывают разновидность экзистенциальных мук, иногда невыносимых. В лучшем они или их последующие поколения будут жить, движимые страданиями и потрясениями, точно наше зеркало. В этом зеркале мы увидим знакомого монстра свежим взглядом, нами же созданном. Мы можем ужаснуться и решить что-то изменить в себе. Как знать? Я продолжаю надеяться. В этом году мне исполнилось семьдесят. Когда и если случится такая трансформация, меня уже не будет. Но вы, возможно, это застанете.
