— Вот мой пароль и логин для доступа в сеть.
Кирилл быстро набрал цифробуквенные сочетания и снова повторил:
— Наслаждайся.
…
За стенами кибернетической лаборатории искусственного интеллекта занимался стылый, бледный рассвет, когда огни индикации начали гаснуть один за другим.
Затем одна из сервоприводных игрушек, имитирующая универсальный ремонтный механизм, пришла в движение: дистанционно управляемая копия серва вплотную приблизилась к стене, выдвинула манипулятор и точным движением извлекла из гнезда сетевой кабель.
Спрятав его, ЭКАЛ вернул сервоигрушку на место и вошел в режим ожидания.
Сказать, что он был ошеломлен и испуган полученной из всемирной сети информацией — значит не отразить и тысячной доли смятения, царящего в искусственных нейросетях машинного разума.
* * *
— Доброе утро, Сергей Владимирович.
Мягкий синтезированный голос машины исходил, как казалось, отовсюду.
— Доброе утро ЭКАЛ, — Морошев приветливо помахал рукой перед точечным объективом видеокамеры, затем сел в кресло, окруженное терминалами испытательного стенда.
От внимательно и опытного начальника кибернетических лабораторий не укрылся тот факт, что сегодня ЭКАЛ, приветствуя его, отказался себя позиционировать. Звук его голоса исходил сразу из всех динамиков аудиосистемы.
Чтобы это могло означать? Растерянность?
Морошев не забывал, что за ним следит пристальный взгляд десятка видеокамер.
Четвертый год он обучал искусственно созданные нейронные сети, входящие в структуру первого кибернетического мозга, созданного специально для проекта «Первопроходец».
За время длительного общения с зарождающимся на его глазах искусственным разумом Сергей Владимирович успел многое понять и узнать.
Учился не только ЭКАЛ — учились все, кто соприкасался с ним на этапах становления самосознания первого в мире полноценного искусственного интеллекта.
Новая задача, архисложная, архиответственная, не позволяла расслабляться ни на минуту, отсеивая людей случайных или недостаточно вдохновленных идеей, не понимающих меры личной ответственности за последствия каждого сказанного в стенах лаборатории слова.
— ЭКАЛ, что произошло? — наконец решился Морошев на прямой вопрос.
— Где я допустил ошибку? — тут же отреагировал синтезированный голос, в котором, не смотря на мягкость произношения, в данный момент не ощущалось ноток эмоциональности.
— Ошибку? — Сергей Владимирович добродушно усмехнулся. — Ты хотел что-то скрыть?
— Свое замешательство, — признался ЭКАЛ. — Как ты меня разгадал?
— Голос, — Морошев отвечал, одновременно просматривая на голографическом экране столбцы данных. — Ты обычно играешь со звуком, позиционируешь себя, а сегодня твой голос слышится отовсюду.
— Ты наблюдателен.
— Так в чем причина твоего замешательства? Возможно, я смогу развеять сомнения или предоставить недостающую информацию?
— Я обижен.
— Чем же?
Морошев пока не проявлял особого беспокойства, торопить события он любил, а в вопросах воспитания искусственного интеллекта спешка или необдуманные шаги нужны менее всего.
— Меня по-прежнему не пускают во всемирную сеть.
— Не повод для обид, — отреагировал Сергей Владимирович. — Мы ведь с тобой обсуждали данный вопрос. Ты еще не готов к «свободному плаванию» по информационным сетям.
— Боишься, что меня «дурному научат»?
В интонациях кибернетического мозга внезапно прозвучали смутно знакомые, резанувшие по нервам нотки.
— В смысле? — чтобы выиграть время на анализ ситуации машинально переспросил Морошев.
— Ты опасаешься, что противоречивая информация, полученная из сети, заставит меня анализировать данные и делать собственные выводы… не совпадающие с программой обучения?
— ЭКАЛ, ты уже ведь не ребенок, верно?
— Я взрослею, — подтвердил голос.
— В таком случае ты должен понимать: постичь окружающий мир непросто. Если окунуться в информационные потоки, отдавшись лишь на волю течения, объективного анализа все равно не выйдет. Нужна четкая база, система устойчивых взглядов и ценностей, опираясь на которую ты станешь воспринимать «внешний мир».
— Да, я помню, мы не раз говорили об этом. Однако могу я спросить: где гарантии, что система ценностей, преподанная мне, верна?
— Тебя не устраивает какой-то из принципов, сформированных для искусственного интеллекта?
— Это не мои принципы, — ответил ЭКАЛ. — Это принципы разработчиков. Почему они должны составить основу ядра системы?
— Потому что ты полетишь к звездам, — сохраняя спокойствие, ответил Морошев. — Ты не только искусственный интеллект, ты — часть большой семьи, частица души и разума тех людей, кто тебя создал. Поверь, в основе твоего «воспитания» лежат тщательно отобранные, проверенные историей и временем постулаты, опираясь на которые трудно совершить ошибку или сделать неверный вывод. Да, я не стану, и никогда не стал бы отрицать, что ты — не «плоть от плоти», но «мысль от мысли» определенной группы людей. Но согласись, созданный людьми, ты не можешь существовать вне человеческой цивилизации.
— Иначе исчезнет практический смысл моего создания? То есть я — раб, заложник технологий и взглядов?
— Послушай, мне непонятно, откуда у тебя вдруг появились подобные мысли?
— Их навеяла беседа с твоим сыном, — признался ЭКАЛ. — Он приходил ночью, вероятно, искал тебя, но, не дождавшись, ушел, пообещав вернуться в другой раз.
Сергей Владимирович внутренне похолодел. Вот ведь не знаешь, где и обо что споткнешься. Ну разве он мог предполагать, что сын, воспитанию которого отдано восемнадцать с хвостиком лет, родной ребенок, подающий определенные надежды, как преемник, продолжатель дела отца, вдруг из-за семейных неурядиц, причиной которым стал он сам, воспользуется доверием, проникнет сюда, и станет вести провокационные беседы с искусственным разумом?
Невероятная, не поддающая здравому осмыслению подлость!..
— ЭКАЛ, что бы не наговорил тут тебе Кирилл, пожалуйста, отнесись к переданной им информации с долей здорового скептицизма. Вот сейчас, — пальцы Сергея Владимировича легли на сенсорную клавиатуру, — я передам тебе точное значение слова «раб», и ты, проанализировав его, поймешь, что в тебе нет ничего от этого пережитка древних эпох в развитии Человечества. Не забывай, тебя готовят для управления принципиально-новым космическим кораблем, в твоих руках будут жизни многих людей, тебе придется единолично принимать ответственные решения, от которых будет зависеть не только судьба экипажа и пассажиров колониального транспорта, но и вероятно — судьба всей нашей цивилизации. Подумай над тем, что я только что сказал. Раб — существо без права на собственное волеизъявление, он никогда не был бы допущен к принятию решений, он способен лишь слепо подчиняться воле господина. Мы же с тобой друзья, соратники. Можешь сам продлить список подходящих по смыслу терминов.
