В конечном счете каждая страна должна сама решить, каким образом она будет использовать и как ограничивать использование ИИ в различных областях. И применение ИИ, и его ограничения нужны для различных целей, важных для общества, – от использования ИИ-помощников для защиты детей от агрессии до предотвращения использования ИИ для создания смертельных вирусов или вредоносных программ. Доступ к определенным мощным ИИ, таким как AGI, необходимо будет строго ограничивать, чтобы предотвратить злоупотребления. Поскольку разработка AGI, скорее всего, будет настолько дорогой, что их будет создано немного, доступ к ним будет в любом случае ограничен. Некоторые ограничения могут нарушать принятые в стране правила свободного предпринимательства или демократической деятельности. Реализация других ограничений, например ограничения использования ИИ для производства биологического оружия, потребует международного сотрудничества.
На момент создания этой книги ЕС уже изложил планы по регулированию ИИ
[70], направленные на обеспечение баланса между европейскими ценностями, такими как конфиденциальность и свобода, экономическим развитием и поддержкой европейских компаний, работающих в сфере ИИ. Эти правила прокладывают для Европы курс между Китаем, где значительные средства в ИИ вкладывает государство, и США, где исследования и разработки в области ИИ в основном отданы на откуп частному сектору. Их основная цель – контролировать использование компаниями и правительствами данных и ИИ, а также способствовать созданию и росту европейских компаний, занимающихся ИИ. В нормативной базе должна учитываться оценка рисков различных видов использования ИИ. Применение правительствами некоторых технологий, считающихся высокорисковыми, таких как распознавание лиц (хотя оно имеет и полезное применение, например поиск пропавших без вести и борьба с торговлей людьми), должно быть ограничено или даже запрещено. Исходная концепция регулирования будет активно обсуждаться и изменяться, но уже сейчас она иллюстрирует то, как общество определяет необходимый для улучшения образа жизни людей диапазон ограничений ИИ.
Ключевые слои общества должны быть вовлечены в постоянное обсуждение приемлемых ограничений на развертывание ИИ. В США академические группы и консультативные органы уже начали изучать взаимосвязь существующих процессов и структур с развитием ИИ. К ним относятся такие академические активности, как инициатива МИТ, посвященная будущему трудовой деятельности
[71], и такие правительственные организации, как Комиссия национальной безопасности по искусственному интеллекту
[72]. Но эти усилия остаются специализированными и поэтому не всегда попадают в поле зрения электората. Страны, которые откажутся от анализа взаимодействия с ИИ, неизбежно отстанут от стран, которые занимаются таким анализом и тем самым повышают материальные и интеллектуальные преимущества, которые предлагает партнерство с ИИ.
Потребуется новая форма мышления, выходящая за рамки традиционных дисциплин или школ. Чтобы отвечать сложности происходящих изменений, необходимо научиться по-новому интегрировать области знания. Университеты, правительства, технологические компании и др. должны стремиться обсуждать – в той степени, в какой это соответствует их задачам, – свои вопросы, идеи, представления и открытия, сделанные в этой области.
Страны, которые занимаются подобными исследованиями, придут к разным выводам, отражающим их историю и взгляды. Так же, как меняются концепции и институты, разработанные разными странами для упорядочения фундаментальных знаний, будут меняться и создаваемые в разных странах ИИ, а также понимание аналитической, прогнозной и генеративной деятельности – и как это влияет на их нормы и институты. Поскольку данные, на которых обучается ИИ, содержат культурные предпочтения стран, в которых это происходит, то в одних частях света ИИ может усилить централизацию, консенсус и конформизм, а в других – способствовать либерализации и плюрализму. Для обеспечения мира во всем мире придется выработать способы сосуществования этих целей и подходов.
Изменение восприятия реальности и самих себя
Простой факт заключается в том, что реальность с точки зрения ИИ может оказаться не такой, как представляли себе люди. В ней могут быть закономерности, которых мы никогда не замечали и не сможем осмыслить. Ее глубинная структура, изученная ИИ, может оказаться невыразимой на человеческом языке. Как заметил один из наших коллег по поводу AlphaZero: «Подобные примеры показывают, что есть способы познания, недоступные людям»
[73].
Если для того, чтобы обозначить границы современного знания, мы поручим ИИ исследовать недоступные нам области, он может раскрыть нам закономерности или дать прогнозы, которые мы не до конца поймем. Вновь могут оказаться актуальными идеи гностиков о личном духовном знании, более важном, чем традиционные учения и опыт. Мы можем подойти на шаг ближе к концепции чистого знания, менее ограниченного структурой нашего разума и шаблонами человеческого мышления. И тогда нам придется не только пересмотреть свою роль единственных знатоков реальности, но и переопределить саму реальность, в которой, как мы полагали, мы живем. И даже если реальность окажется именно такой, как мы думали, ИИ останется мощным инструментом для ее более глубокого анализа, переопределяющим наши взаимоотношения с новым пониманием реальности и друг с другом.
Когда ИИ распространится повсеместно, некоторые поспешат объявить о беспрецедентном успехе человечества на пути к познанию и обустройству нашего мира. Будет и противоположное мнение – что наши возможности куда меньше, чем нам казалось ранее. В любом случае мы изменим наше собственное мнение о себе и об окружающем мире. Изменится наша платформа – и вместе с ней изменятся наши социальные, экономические и политические механизмы. Средневековый мир ориентировался на imago dei
[74]: отсюда его феодальные аграрные модели, почитание короны и смысл, вкладываемый в шпили соборов
[75]. Эпоха Просвещения ориентировалась на cogito
[76] и стремление к новым горизонтам – и вместе с этим на новое личное и общественное понимание судьбы и предназначения человека. Век ИИ еще не определил свои организационные принципы, этические концепции, цели и ограничения.
