Когда я был постдокторантом в Фермилабе, Марвин Мински, один из отцов-основателей сильного ИИ и человек, чья подпись стояла под дартмутским предложением, приехал к нам провести коллоквиум. Когда он представил свои аргументы в пользу того, что машины скоро научатся мыслить (стоял 1986 год), я спросил его, будут ли они болеть душевными болезнями, например психозом или биполярным расстройством. К моему изумлению, Мински ответил мне категорическим «Да!». Полушутя я поинтересовался, будут ли существовать психотерапевты для компьютеров, и снова получил положительный ответ. Вероятно, это будут специальные отладчики, занимающиеся одновременно программированием и машинной психологией.
В ответ Мински можно было бы возразить, что если бы мы смогли провести настолько точный инженерный анализ человеческого мозга, что сумели бы его воспроизвести, то точно выяснили бы химические, генетические и структурные причины возникновения душевных заболеваний, нашли бы способы их устранения и начали бы создавать совершенно здоровые искусственные мозги. На самом деле подобные медицинские задачи являются одной из основных целей компьютерного моделирования мозга. Ведь если оно пройдет успешно, у нас на руках окажется целая лаборатория для тестирования лекарств и процедур без привлечения людей – разумеется, если люди к тому моменту еще будут существовать.
Эти жуткие мечты о сверхчеловеческих машинах остаются всего лишь мечтами, по крайней мере на данный момент. Во-первых, закон Мура не является законом природы, а лишь иллюстрирует скорость развития технологий для обработки информации, порожденных человеческим гением. Учитывая, что расчетные мощности и возможности миниатюризации физически ограничены, в какой-то момент данный закон должен перестать действовать. Однако если бы мифы превратились в реальность, у нас были бы все основания бояться цифровых устройств, постоянно улучшающих собственные коды. Каким моральным принципам будет следовать такой неизвестный интеллект? Не окажется ли человеческий род устаревшим, а значит, ненужным? Курцвейл и его единомышленники считают, что так и будет и что это хорошо. В своем фильме «Сингулярность уже близка» Курцвейл рассказывает, как ему не терпится стать гибридом человека и машины.
[186] Другие (в основном, я думаю, врачи и дантисты, спортсмены, бодибилдеры и т. д.) вовсе не испытывают энтузиазма от перспективы расстаться со своим органическим телом. Если уж на то пошло, сможем ли мы вообще понять человеческий мозг без тела? Такое разделение может оказаться невозможным, ведь тело и мозг настолько прочно связаны между собой, что рассматривать их по отдельности бессмысленно. В конце концов, значительная часть человеческого мозга (как и мозга любого другого животного) занимается регулированием тела и органов чувств. Каким станет мозг, если забрать у него его главное дело – контроль над работой тела? Может ли мозг или интеллект существовать лишь для выполнения высших когнитивных функций? Будет ли такой мозг обладать эмпатией или пониманием других, физических существ? Давайте остановимся на этом моменте.
Хотя скорость обработки информации и доступ к обширным базам данных могут творить чудеса при имитации отдельных свойств нашего мозга, этого недостаточно для формирования той совокупности ментального опыта, которую мы называем сознанием. Мы можем запрограммировать машину на распознавание стилей разных художников и наделить каждого из них определенной эстетической значимостью, а затем заставить компьютер выдать свое мнение о новой работе того или иного художника. Мы даже можем научить машину создавать изображения, соответствующие стилистике заданного живописца, или писать музыку, подобную творениям Моцарта или Баха. Мы можем заставить компьютер имитировать реакции, которые мы называем эмоциональными, при загрузке в него картины (ведь машина не может видеть) или симфонии (равно как и слышать). Но эти реакции не будут подлинными, ведь они включаются в программу заранее. Почему индивидуальные эмоциональные ответы людей на ту или иную картину или мелодию так разнятся – это открытый вопрос. Что персонализирует наши чувства, наши реакции на сенсорные стимулы, имеющие эмоциональное наполнение? Иными словами, почему вы – это вы?
Важнейшую концепцию для любого обсуждения процессов работы мозга можно сформулировать одним словом – «информация». Вся физическая реальность вокруг нас, по сути, является информацией, закодированной с разной степенью сложности в комбинациях атомов, из которых формируются различные материальные структуры и мы сами. В принципе, мозг не исключение. Если приверженцы компьютерной теории разума правы, то существует четкий редукционистский путь к сознанию, основанный на методичном декодировании его информационной составляющей: мозг состоит из такого-то числа нейронов, связанных друг с другом таким-то способом, через синапсы проходят такие-то химические вещества и т. д. После того как подобная информация будет получена, ее можно будет воплотить технологически и на ее основании постепенно построить искусственный интеллект – как дом, который мы начинаем строить с фундамента, затем добавляем стены и крышу, затем прокладываем проводку и трубы и, наконец, обставляем и украшаем. Фундаментальное предположение, на котором зиждется вера в сильный ИИ, состоит в том, что после «правильной» имитации структуры мозга сознание возникнет в нем естественно и спонтанно. Однако это предположение никак не подтверждается эмпирически. Любой, даже самый быстрый анализ, показывает, что оно представляет собой наивное, если не крипторелигиозное верование, учитывая все имеющиеся у нас на сегодняшний день знания о работе мозга и природе сознания.
Современные суперкомпьютеры способны совершать потрясающее количество операций (опсов для краткости) в минуту. Текущий рекорд (по состоянию на июль 2013 года) принадлежит компьютеру Titan, созданному компанией Cray, – 17 590 триллионов опсов, или 17,59 петафлопсов (приставка «пета-» означает единицу с 15 нулями, или 1000 триллионов, которая записывается математически как 1015).
[187] Этот компьютер имеет более полумиллиона ядер – подумайте о своем двухъядерном ноутбуке, – которые разделены между обыкновенными центральными процессорами (ЦП) и быстрыми графическими процессорами (ГП), популярными на игровых платформах. Его площадь составляет более четырех тысяч квадратных футов, а энергии, которую он тратит, хватило бы на девять тысяч домов (хотите верьте, хотите нет, но по сравнению с конкурентами Titan еще довольно экономно расходует электричество). Для того чтобы сравниться с ним в скорости обработки данных, каждый житель Земли должен был бы производить примерно три миллиона вычислений в секунду.
Многие надеются, что скоро суперкомпьютеры перешагнут отметку в один экзафлопс, то есть миллион триллионов флопсов (приставка «экза-» означает единицу с 18 нулями, или 1018). Оптимисты, например, специалист по нейронауке Генри Маркрам, полагают, что это произойдет уже в 2018 году. Недавно Маркрам получил грант в размере 1 миллиарда долларов от Евросоюза для реализации проекта The Human Brain Project – совместной попытки десятка европейских организаций создать полностью функционирующую имитацию человеческого мозга. Проект сочетает в себе последние достижения нейронауки и компьютерных технологий, а его цель состоит в том, чтобы воплотить все мельчайшие детали архитектуры мозга и нервных соединений в нем в виде огромного компьютерного кода, составителям которого придется учитывать характеристики каждой клетки (ведь двух одинаковых нейронов не существует), включая ее морфологию, связи, трехмерную структуру, синаптическую коммуникацию (движение молекул нейротрансмиттеров по ионным каналам), а также кластеризацию и нейронную организацию более высокого уровня в различных областях мозга. Судя по прогнозам, количество расчетов, производимых для такой симуляции, достигнет экзафлопса. Если Маркраму и последователям компьютерной теории удастся осуществить свой замысел, у нас появятся экзафлопсовые машины, способные копировать человеческий мозг. Проект строится на двух важных предположениях: во-первых, что в мозгу техническая часть создает программное обеспечение, а во-вторых, что мы обладаем подробными и достаточными знаниями всех релевантных физиологических переменных мозга, чтобы ввести их в симуляцию.
