А может быть, истинный клиент – это вы сами, тот человек, который хочет стать оцифрованным. Конечно же, это очень важно – чтобы ваши друзья и родные признали вас в цифровой копии. Но еще важнее, чтобы вы сами остались довольны. Здесь мы ступаем на зыбкую почву, однако эту проблему не обойти.
Допустим, вас загрузили в компьютер. Я в первый раз включаю машину, и модель запускается. Первым делом я наверняка спрошу вас: «Ну, как вы себя чувствуете?» Ведь вы приходите в себя после глубокого сна или выходите из комы. И что же вы ответите?
Тест Тьюринга стремится к объективности и для этого обращается к сторонним экзаменаторам. Но субъективную оценку игнорировать глупо. Разумеется, я спрошу вас: «Ну как, вы довольны этой имитацией?» Мы никогда не стали бы задавать такой вопрос уравнению, которое моделирует химическую реакцию или черную дыру, но для модели мозга такой вопрос представляется вполне уместным.
При этом не совсем понятно, стоит ли мне доверять вашим ответам. Если имитация мозга будет работать плохо, вы можете вести себя просто как жертва черепно-мозговой травмы или какого-нибудь заболевания мозга. Неврологи знают, что такие пациенты нередко отрицают собственные проблемы. К примеру, страдающие амнезией зачастую обвиняют окружающих в том, что те нарочно их обманывают, хотя на самом деле виновата память больного, в которой случаются провалы. Жертвы инсульта не всегда готовы признать, что частично парализованы, и подчас придумывают фантастические объяснения, почему они не в состоянии совершить то или иное простейшее действие. Так что на ваше субъективное мнение не всегда можно полагаться.
Однако мне возразят, что здесь имеет самое большое значение именно ваше личное мнение. Удовлетворенность ваших друзей и родных будет зависеть от того, насколько ваша имитация оправдала их ожидания, касающиеся вашего поведения. А эти ожидания тоже основаны на неких моделях вас, сконструированных родными и близкими за годы наблюдения ваших поступков. Но вы ведь и сами служите для себя моделью – и в ходе обдумывания своих поступков, и в ходе самонаблюдения. И такая модель основана, скажем прямо, на куда большем количестве данных, чем ваши модели, построенные кем бы то ни было еще.
Вероятно, иногда вы говорите себе: «Что-то я сегодня сам на себя не похож». Скажем, вы разозлились из-за какой-то ерунды или повели себя еще каким-то, как вам представляется, не свойственным вам образом. Но обычно-то вы ведете себя именно так, как ожидаете. Вашу собственную модель, вероятно, оцифруют вместе со всеми прочими воспоминаниями. И вы сможете проверять точность компьютерного воспроизведения вашей личности, постоянно сверяя свое поведение с теми предсказаниями, которые позволяет сделать ваша модель, построенная вами же. Чем меньше несовпадений, тем точнее имитация.
Представим теперь, что оцифровка сочтена удачной и по объективным, и по субъективным критериям. Ваши друзья и родные говорят, что удовлетворены. Вы (ну, то есть ваша цифровая копия) говорите, что удовлетворены. Можно ли сказать, что оцифровка действительно прошла успешно? Тут на нашем пути возникает последний подвох: у нас нет прямого доступа к вашим чувствам. Даже если вы сами утверждаете, что чувствуете себя прекрасно, как нам узнать, чувствуете ли вы что-нибудь вообще? Может, вы просто механически твердите эти слова. Что, если оцифровка превратила вас в зомби?
Некоторые философы убеждены, что имитировать сознание с помощью компьютера принципиально невозможно. Они говорят, что сколь угодно точная имитация воды все-таки не будет по-настоящему мокрой. Точно так же и ваша цифровая копия может казаться точной вашим друзьям и родным, она даже может сама выражать собственную удовлетворенность оцифровкой, однако у нее все равно будет слишком мало субъективного опыта – неотъемлемой части сознания. Может, это само по себе и неплохо, но както не похоже на путь к бессмертию.
Идею насчет зомби нельзя опровергнуть, ибо не существует объективного способа измерить субъективные ощущения. Собственно, эта идея настолько плодотворна, что ее даже можно применить к реальному мозгу, а не только к его имитации. Скажем, ваш пес вполне может оказаться зомби. Да, он иногда ведет себя так, словно проголодался, однако на самом деле никакого голода не ощущает. (Французский философ Рене Декарт уверял, что животные – это, по сути, зомби, ведь у них тоже нет души.) Обратное доказать невозможно, поскольку никто не в состоянии испытать те чувства, которые испытывает другое существо. Однако большинство людей, особенно любители животных, убеждены, что их питомцы способны, к примеру, чувствовать боль. А уж что касается людей, то практически все убеждены, что другим человеческим существам тоже бывает больно.
Не вижу способа разрешить этот философический спор. У вас могут быть одни интуитивные предположения, у меня – иные. Лично я считаю, что достаточно точная имитация мозга будет обладать сознанием. Реальная проблема здесь – уже не философская, а практическая: достижим ли подобный уровень точности?
* * *
Генри Маркрам прославился как создатель самой дорогостоящей в мире имитации мозга, однако нейробиологи больше знают Маркрама благодаря его пионерским экспериментам на синапсах. Он стал одним из первых, кто начал систематически изучать последовательный вариант правила Хебба – варьируя задержку времени между импульсами двух нейронов в системе с индуцированной синаптической пластичностью. Впервые я услышал Маркрама на одной научной конференции, где мне довелось встретить еще одного выдающегося нейробиолога – Алекс Томсон, заядлую курильщицу и очаровательную женщину. Она с огромным энтузиазмом делала доклад о синапсах, она была попросту влюблена в них и хотела, чтобы мы тоже их полюбили. Маркрам же выступал как почтенный епископ синаптической церкви, вселяя в нас трепет, восторг и уважение по отношению к их запутанным тайнам.
В своей лекции в 2009 году Маркрам пообещал, что компьютерная имитация всего человеческого мозга появится в течение ближайших десяти лет. Эта фраза облетела весь мир. Если вы найдете в Сети видеозапись той лекции, наверняка согласитесь со мной, что его изящно вылепленное лицо выглядит несколько свирепым, однако говорит он мягко и дружелюбно, с тихой убежденностью мечтателя. Впрочем, в том же году, позже, он имел случай выступить уже не так спокойно. Его научный конкурент, Дхармендра Модха из компании IBM, заявил о создании цифровой имитации кошачьего мозга – после того, как сам же сообщил об имитации мышиного в 2007 году. Маркрам ответил гневным письмом, адресованным главному технологу IBM:
Дорогой Берни, еще когда Мохда [так!] сделал свое идиотское заявление об имитации мышиного мозга, вы уверяли меня, что в следующий раз будете держать этого парня за руки и за ноги.
Я думал, что… даже журналисты сумеют понять: то, что показала IBM, являет собой просто подделку, которая не имеет ничего общего с цифровой имитацией мозга кошачьих размеров. Но каким-то неведомым образом всех репортеров ввели в заблуждение эти невероятные утверждения.
Меня в высшей степени шокировало сие сообщение…
Полагаю, в моей власти «выпустить кота из мешка» (во всех смыслах) касательно этого неприкрытого обмана общественности.
