– Вряд ли китайцев можно назвать «белыми юношами-аутистами», – мягко возражает профессор.
– В Китае процветает шовинистическая культура, где мужчин с детства учат унижать женщин. Китайцы лидируют по производству и продажам секс-роботов.
Парень на заднем ряду снова машет рукой, прося слова.
– Мы прекрасно знаем, что самообучающиеся машины выдают весьма сексистские результаты, – не унимается женщина. – Amazon вынужден был отказаться от автоматизированной обработки резюме при приеме на работу, так как боты часто отдавали предпочтение кандидатам-мужчинам. В ИИ нет ничего нейтрального!
Виктор Штейн поднимает руку, прерывая гневный монолог женщины.
– Я согласен с вашими словами о нынешнем состоянии самообучающихся машин. Да, проблемы есть. Но я считаю, что они временные, а не системные.
Вцепившись в микрофон, который у нее пытаются забрать, женщина кричит:
– ЧТО ХОРОШЕГО В ИСЧЕЗНОВЕНИИ ЧЕЛОВЕЧЕСТВА?!
В зале раздаются дружные аплодисменты. Хлопают даже некоторые мужчины в костюмах, рационально мыслящие, дальновидные. Виктор выглядит расстроенным. Впрочем, он обозначил бы свое состояние иными словами: «Меня не поняли». Профессор не отличается терпением, но знает, когда нужно выдержать паузу – подобно актеру или политику – перед тем, как произнести решающую фразу. И применяет один из самых удачных своих приемов: перебрасывает мостик от науки к искусству:
– «Неверно называя вещи, мы добавляем миру скорби».
Система распознавания речи выводит цитату на экран. Все молча смотрят на нее – красивую, как математическое уравнение. В зале повисает тишина. Профессор ждет, пока студенты закончат твитить цитату, а гики, наконец, отыщут ее в интернете. Виктор Штейн совершенно спокоен, словно в его распоряжении целая вечность. (Что, я полагаю, недалеко от истины. Ведь если все произойдет так, как предрекает профессор, то перед смертью он просто загрузит свое сознание в робота). А для простых смертных к тому времени, как лекция подходит к концу, на часах половина девятого вечера, среда.
Виктор говорит четко и размеренно. У него приятный тембр голоса, в речи проскальзывает едва уловимый акцент, появившийся за годы работы в Штатах.
– Помните, с чего я начал свою лекцию? – спрашивает профессор. (Читай: «Ну и для кого я тут распинался?») – Вовсе не гении из Кремниевой долины, а биологи превращают нашу жизнь в алгоритм. Барьер между органикой и неорганикой исчезает благодаря естественным наукам.
Аудитория затихла. Виктор продолжает говорить:
– Что такое алгоритм? Серия шагов для решения текущей задачи. Не стоит воспринимать задачу как препятствие. Это скорее вопрос: «КАК мне сделать?» Вот вам пример задачи: «Мой регулярный маршрут до работы». Или: «Я дерево. Как я испаряю влагу?» Иными словами, алгоритм можно сравнить с системой обработки данных. С точки зрения биологов, лягушки, картофель, люди – биологические системы обработки данных. А компьютеры – небиологические системы обработки данных. Если в систему вводится информация, и она неким образом обрабатывается, значит, люди не так уж уникальны. Разве этот вывод пугает? Скорее успокаивает. Человек порядком наломал дров, вообразив себя венцом творения: изменение климата, массовое уничтожение животных и растений, а также их естественной среды обитания, непоправимый ущерб дикой природе, загрязнение атмосферы, неконтролируемый рост населения, чудовищная жестокость и вместе с тем глупый инфантилизм…
Профессор умолкает. Красивое лицо Виктора серьезно. Он искренне верит в то, что добавляет мгновение спустя:
– Когда проект «Человек» подойдет к концу, не обвиняйте компьютерных гиков!
Гики разражаются громкими одобрительными криками.
– Помните, – говорит профессор, – наука предпочитает реальность, а не вымыслы. Ученые больше не считают гомо сапиенс уникальным видом.
Виктор с улыбкой поворачивается к экрану и указывает на цитату.
– «Неверно называя вещи, мы добавляем миру скорби». Альбер Камю. Возможно, не все его читали. А стоило бы. Во всяком случае, вы помните – кто-то лучше, кто-то хуже – библейскую историю про Эдемский сад, куда Бог привел Адама, дабы тот «нарек всякую душу живую». И если вы согласны со мной, что религиозные тексты и мифы отражают наши глубинные психические структуры, имейте в виду: именно человек дает названия всему, что есть на свете, и это важнейшая наша задача. Поэты и философы помогают нам в этом, а ученые, похоже, думают, что имена и названия нужны лишь для классификации. Наверное, еще во времена первых попыток найти новый путь, оторваться от алхимиков, мы позабыли о великой силе имени. Я не умею вызывать духов, но уверяю вас: присвоить вещи правильное имя – неизмеримо больше, чем просто нацепить браслет или ярлык, или серийный номер. Давая имя, мы даем ключ к пониманию той или иной вещи. В имени заключена огромная сила.
Виктор выходит вперед. Носки его ботинок оказываются четко у края сцены.
– В мире ИИ, о котором я мечтаю, исчезнут ярлыки. Исчезнут бинарные понятия: «мужское-женское», «черное-белое», «богатые-бедные». Исчезнет разница между сердцем и разумом, чувством и мыслью. Будущее не превратится в сюжет фильма «Бегущий по лезвию», где репликанты борются за право носить человеческие имена и на этом основании считаться людьми. Я говорю о значительно более масштабном явлении. Что мы сделаем, создав настоящий искусственный интеллект? Мы определим воззрение!
Виктор делает шаг назад и после эффектной паузы продолжает:
– Даже если – подчеркиваю! – даже если первый ИИ оправдает худшие опасения и начнет воплощать сценарий белых мужчин-аутистов, первая же итерация самообучения устранит подобные ошибки. Знаете, почему? Ответ прост: мы, люди, сможем запрограммировать будущее лишь один раз. Далее ИИ станет сам руководить процессом. И нами.
Спасибо за внимание!
Зал взрывается овацией.
АПЛОДИСМЕНТЫ. АПЛОДИСМЕНТЫ. АПЛОДИСМЕНТЫ.
Будущее – это программное приложение под названием «Вероятность»
Я верю Виктору. В это мгновение искренне верю. Валгалла и белые боги сгорят в огне, но вагнеровская опера «Золото Рейна» навечно останется тем, что она есть – истинным шедевром, – и ее оценят снова, подарив второй шанс, новую жизнь. Эра царившего на Земле человечества окажется лишь печальным прошлым, а сама планета превратится в один большой природный заповедник, ведь ИИ не нужны ни гигантские торговые центры, ни автомобили. Все мелочные страхи, что роботы отнимут наши рабочие места… «Чел, ты даже не представляешь, каким будет мир!» Кстати, последняя фраза не моя, это твит.
После лекции начинается фуршет. Со стен на нас взирают портреты великих ученых: Исаака Ньютона, Роберта Гука, Бойля, Франклина, Дарвина, Фарадея, Уотсона и Крика. Прости, Розалинд Франклин! А ведь именно она сделала первые рентгенограммы, которые впоследствии помогли Уотсону и Крику открыть структуру молекулы ДНК! А вот еще фотографии: создатель Всемирной паутины Тим Бернерс-Ли, Стивен Хокинг, Венкатраман Рамакришнан – ученый-биохимик, нобелевский лауреат «За исследования структуры и функций рибосомы». Столпы науки! А между тем, за все время лишь одна женщина, состоявшая в Королевском обществе, получила Нобелевскую премию – Дороти Ходжкин. Возможно, следующей ее удостоится новоиспеченная гражданка Саудовской Аравии – робот София?
