Глава 20
В защиту роботов
Твой образ так загадочен, что я к тебе взываю…
[162]Уильям Шекспир. Гамлет. Акт 1, сцена 4
Слово «робот», которое впервые использовал чешский писатель Карел Чапек, имеет славянские корни, так как произошло от чешского слова robota, которое используется для обозначения тяжелого труда. Но оно обозначает скорее машину, а не человека. О роботах, особенно роботах в космосе, в прессе часто писали уничижительные отзывы. Мы читали, что только с помощью человека «Аполлон-11» мог совершить посадку, иначе первый пилотируемый полет на Луну закончился бы катастрофой, что мобильный робот на марсианской поверхности никогда не смог бы так хорошо, как астронавты, собрать нужные образцы для исследования на Земле и что машины никогда не смогли бы, как люди, отремонтировать теплозащитный экран «Скайлэба», необходимый для продолжения ее миссии.
Но все эти заключения, естественно, написали люди. Мне интересно, не закралась ли в эти суждения доля самодовольства, оттенок человеческого шовинизма. Так же как белые могут иногда проявлять расизм, а мужчины – сексизм, не можем ли мы здесь страдать от какой-нибудь сравнимой болезни человеческого духа – болезни, у которой пока нет названия. Слово «антропоцентризм» сюда не подходит. Слово «гуманизм» уже используется в другой, более благовидной деятельности рода человеческого. По аналогии с сексизмом и расизмом, я предполагаю, название этой болезни должно быть «видизм» – предрассудок, что нет существ таких же прекрасных, таких же способных, таких же надежных, как люди.
Это предрассудок, потому что это по меньшей мере предубеждение, вывод, сделанный прежде, чем известны все факты. Такими являются сравнения людей и машин в космосе как умных людей и тупых машин. Мы не спрашивали, какие машины можно было бы сконструировать за 30 млрд долларов, в которые обошлись миссии «Аполлон» и «Скайлэб».
Каждый человек является прекрасно сконструированным, удивительно скомпонованным, самоходным компьютером, способным на независимое принятие решений и настоящий контроль над своей окружающей средой. И, как гласит старая шутка, чтобы создавать такие компьютеры, специальных знаний не требуется. Но есть серьезные ограничения для использования человеческого труда в определенной окружающей среде. Без хорошей защиты люди не смогут выжить на океанском дне, на поверхности Венеры, в глубоких внутренних слоях Юпитера или даже в длительных космических миссиях. Возможно, единственные интересные результаты «Скайлэба», которые не могли бы получить машины, – то, что у людей, проводящих в космосе несколько месяцев, происходит серьезная потеря кальция и фосфора в костях, то есть люди могут утратить трудоспособность в условиях невесомости в миссиях длительностью 6–9 и более месяцев. Но обычное время минимального межпланетного путешествия – год или два. Поскольку человеческая жизнь ценится высоко, мы нехотя посылаем людей в очень рискованные миссии. Если мы все же посылаем людей в экзотическую среду, их также нужно снабдить подходящей едой, воздухом, водой, развлечениями, обеспечить утилизацию отходов и компанию. Для сравнения: машины не требуют детально разработанной системы жизнеобеспечения, развлечений, компании, и мы пока не ощущаем этический запрет на то, чтобы посылать машины в невозвратные или самоубийственные миссии.
Безусловно, в простых миссиях машины проявляли себя неоднократно. Автоматические устройства сделали первую фотографию Земли из космоса и обратной стороны Луны, первыми опустились на Луну, Марс и Венеру и первыми облетели вокруг другой планеты в ходе миссий «Маринера-9» и «Викинга» на Марс. Здесь, на Земле, высокотехнологичное производство (например, на химических и фармацевтических заводах) осуществляется частично или полностью с помощью использования компьютеризированных систем управления. В подобной деятельности машины в какой-то степени способны находить ошибки, исправлять их, предупреждать находящихся на большом расстоянии операторов об обнаруженных проблемах.
Мощные способности вычислительных машин делать арифметические вычисления в сотни миллионов раз быстрее, чем человеческий мозг, хорошо известны. Но что насчет действительно сложных дел? Могут ли машины в любом смысле этого слова обдумывать новую проблему? Могут ли они анализировать разветвленную схему вариантов, которая, как мы считаем, характерна именно для человеческого мышления? (То есть я задаю вопрос 1, если ответ А, я задаю вопрос 2, но, если ответ В, я задаю вопрос 3 и так далее.) Несколько десятилетий назад английский математик А. Тьюринг описал, что ему необходимо, чтобы поверить в машинный разум. Условие заключалось просто в том, чтобы он мог общаться с машиной посредством телетайпа и не мог определить, что это не человек. Тьюринг сочинил воображаемый разговор между человеком и машиной:
«– В первой строке вашего сонета, которая звучит «Сравню ли с летним днем твои черты», не подойдет ли лучше «весенний день»?
– Размер не будет выдержан.
– А как насчет «зимнего дня»? Это бы подошло по размеру.
– Да, но никто не хочет, чтобы его сравнивали с зимним днем.
– Вы бы сказали, что мистер Пиквик напоминает вам Рождество?
– В некотором роде.
– Но Рождество – это зимний день, и я не думаю, что мистер Пиквик возражал бы против этого сравнения.
– Я не думаю, что вы всерьез. Под зимним днем подразумевают обычный зимний день, а не особенный, как Рождество».
Пока еще не сконструировали такое сложное устройство, хотя я не уверен, что все люди могут пройти этот тест Тьюринга на человечность. Но количество времени и денег, вкладываемых в искусственный интеллект, было довольно ограничено, и в мире насчитывается только около полудюжины главных центров такой деятельности. Одним из наиболее поразительных результатов, полученных в очень ограниченной области исследований – детском конструкторе, стали работы Терри Винограда, в то время работавшего в Массачусетском технологическом институте (МТИ). Вот диалог между человеком и машиной, машина была запрограммирована Виноградом:
– Что содержится в коробке?
– Голубая пирамидка и голубая коробка.
– Сколько кубиков находится не в коробке?
– Четыре.
– Действительно ли хотя бы один из них более узкий, чем тот, который я сказал тебе выбрать?
– Да, красный кубик.
– Есть там башенка?
– Простите, я не знаю слова «башенка».
– Башенка – это конструкция, которая содержит два зеленых кубика и пирамидку например.
– Понятно.
– Есть там башенки сейчас?
– Нет.
– Построй одну.
Машина так и делает. Она протягивает механическую руку, двигает кубики и строит конструкцию, которая только что была описана.
