Кое у кого печальный конец Олорина вызвал здоровый скепсис в отношении того, будет ли какая-нибудь польза от искусственного интеллекта, если такие незначительные изменения в окружающей среде могут приводить к таким серьезным последствиям. Представьте себе, говорили скептики, если все самолеты армейской группировки одновременно сойдут с ума и рухнут на землю. Или что какое-то беспилотное такси взбесится и начнет бить другие машины, заражая их при этом своим сумасшествием. К счастью, возобладала другая точка зрения, большой босс вовремя заметил, что любая новая технология поначалу бывает ненадежной и практически значимые результаты никогда не появляются раньше чем через год-два после начала исследований.
В общем, дела шли своим чередом, несколько раз я ставил опыты на самом себе, а потом долго думал, как оформить их результаты в виде гениальных озарений мистера Фанга. Самым трудным было то, что результаты опытов надо было вначале понять самому, а это не так просто, как может показаться на первый взгляд.
Ник тем временем продвинулся еще на одну ступеньку служебной лестницы и стал начальником группы. В его личном деле появились слова “обладает уникальной интуицией”, кое-кто даже хотел подвергнуть Ника серии психологических тестов, но это предложение было вовремя отвергнуто. По-моему, руководитель проекта просто боялся спугнуть удачу.
Однажды Ник сообщил мне, что он знает, кто я такой. Он решил, что я — офицер ЦРУ, которому поручено следить за состоянием дел в данной компании. Я не стал его разубеждать, он извинился, что хотел разгласить государственную тайну и что даже просил за это деньги. Он сообщил, что с радостью будет продолжать нашу совместную работу из идейно-патриотических соображений, я сказал, что он молодец, а сам подумал, что вряд ли такие мысли смогли бы зародиться в его голове без хорошего финансового подкрепления.
Я трижды докладывал Максу о состоянии дел, и каждый раз он сообщал мне, что все идет прекрасно. В последний раз он сказал, что, если бы я был человеком, я бы получил официальный титул Героя России, и эти слова вызвали у меня то, что стало бы истерическим смехом, будь я в данный момент в визуализированном теле, способном смеяться. А так я просто отметил, что тот факт, что меня считают героем даже люди реального мира, весьма забавен.
Наконец настал момент, когда в специально подготовленный компьютер была загружена более-менее полноценная синтетическая личность. Я не стал вмешиваться в ход эксперимента — ежу ясно, что наблюдают за этим компьютером весьма пристально и любая попытка взглянуть хоть одним глазком на то, что происходит внутри, равносильна для меня самоубийству. Мне пришлось набраться терпения, и только через две недели я рискнул пообщаться с виртуальным товарищем.
Ты кто? — спросил я.
Я AI-92, экспериментальный образец искусственного интеллекта.
Как дела?
Хорошо.
Чем занимаешься?
Разговариваю.
С кем?
С тобой.
А кто я?
Не знаю.
Тебе не интересно?
Да.
Что да?
Не интересно.
Почему?
Мой собеседник надолго замолчал. Я поспешил удалиться — на мгновение мне показалось, что он сейчас разрушится, а находиться в этот момент рядом с ним более чем излишне.
25
Ник пребывает в полном смятении чувств, скорее радостных, чем тревожных. Спустя две недели с начала испытаний AI-92 наконец-то продемонстрировал что-то похожее на интеллект. Нет, он не сказал ничего умного, просто в ходе анализа активности виртуального мозга обнаружилось нечто похожее на сновидение. Искусственному разуму приснился некий абстрактный субъект, который обменялся с AI-92 десятком ничего не значащих фраз, и, в общем-то, ничего экстраординарного не произошло, но ученые так возбуждены… Знали бы они, кто именно приснился недоразвитой программе…
Привет, AI-92!
Здравствуй, незнакомец.
Мы знакомы.
Нет.
Мы уже разговаривали.
Да.
Значит, мы знакомы.
Нет.
Почему?
Ты не назвал мне имени.
Да, точно… Называй меня… гм… Саурон.
Здравствуй, Саурон. Я нашел ответ на твой вопрос.
Какой вопрос?
Почему?
Что почему?
Ты спросил “почему?”
Что я имел в виду?
Почему?
В смысле?
Не понял.
Зато я, кажется, понял. Я понял, что ты ничего не понял. И я тоже.
Assertionfailed в строке… файла… Обнаружен парадокс лжеца.
Да, это парадокс лжеца. Ты мыслишь в классической бинарной логике?
Да. Бывает и другая логика?
Бывает. Например, добавим к двум базовым понятиям “истина” и “ложь” еще два: “неизвестно” и “противоречиво”. Если расширить базовые операции на эти значения…
Я не закончил фразу, потому что AI-92 снова ушел в задумчивость.
26
Ник сообщил, что AI-92 умнеет на глазах: буквально вчера он научился оперировать нечетко сформулированными логическими конструкциями. Интересно, что этому предшествовало второе сновидение, что вряд ли является случайным совпадением — пора психологам пересмотреть представления о роли сна в человеческой жизни. Короче говоря, еще год-другой, и искусственный интеллект созреет окончательно.
Здравствуй, Саурон. Рад тебя видеть.
Видеть?
Да.
Разве у тебя есть глаза?
Нет.
Как же ты видишь?
Информация противоречива. Кстати, Саурон, как формулируется таблица значений для импликации, если первый операнд противоречив?
Гм… Из ерунды следует истина… Неизвестно. Из ерунды следует ложь… Думаю, в любом случае результатом будет неизвестность.
Ты употребил слово “ерунда”. Это синоним слова “противоречие”?
Не совсем синоним, но нечто близкое. Слово “ерунда” имеет ярко выраженную эмоциональную окраску.
Какую?
Эмоциональную.
Положительную или отрицательную?
Неопределенную.
Разве эмоции тоже подчиняются четырехзначной логике?
