Книга Искусственный интеллект. Этапы. Угрозы. Стратегии, страница 44. Автор книги Ник Бостром

Разделитель для чтения книг в онлайн библиотеке

Онлайн книга «Искусственный интеллект. Этапы. Угрозы. Стратегии»

Cтраница 44

Таким образом, вполне вероятно, что в процессе перехода сила оптимизации будет расти — вначале потому, что люди будут стараться быстрее улучшить показатели искусственного интеллекта, демонстрирующего выдающиеся успехи, а позднее из-за того, что он и сам окажется в состоянии обеспечивать прогресс уже на цифровых скоростях. Это создаст реальные предпосылки для быстрого или умеренного взлета, даже если сопротивляемость будет постоянна или немного вырастет в зоне человеческого интеллектуального уровня [235].


ВРЕЗКА 4. О ДИНАМИКЕ ВЗРЫВНОГО РАЗВИТИЯ ИНТЕЛЛЕКТА

Скорость изменения уровня интеллекта можно выразить в виде соотношения силы оптимизации, прикладываемой к системе, и ее сопротивляемости:

Искусственный интеллект. Этапы. Угрозы. Стратегии

Совокупная сила оптимизации, действующая на систему, складывается из силы оптимизации, которую производит сама система, и приложенной извне. Например, развивать зародыш ИИ можно за счет комбинации его собственных усилий и усилий команды программистов-людей, возможно, с привлечением широкого глобального сообщества исследователей, постоянно работающих над прогрессом в отрасли производства полупроводников, компьютерных науках и связанных с ними областях [236]:

Искусственный интеллект. Этапы. Угрозы. Стратегии = Искусственный интеллект. Этапы. Угрозы. Стратегии система + Искусственный интеллект. Этапы. Угрозы. Стратегии проект + Искусственный интеллект. Этапы. Угрозы. Стратегии мир

Изначально зародыш ИИ обладает очень ограниченными когнитивными способностями. То есть в начальной точке величина Искусственный интеллект. Этапы. Угрозы. Стратегии система мала [237]. А как насчет Искусственный интеллект. Этапы. Угрозы. Стратегии проект и Искусственный интеллект. Этапы. Угрозы. Стратегии мир? Бывают случаи, когда возможности проекта превышают возможности всего остального мира, как было, например, с Манхэттенским проектом, когда большинство лучших физиков мира оказались в Лос-Аламосе и приняли участие в создании атомной бомбы. Но чаще на любой отдельно взятый проект приходится лишь очень небольшая доля общемировых исследовательских возможностей. Однако даже когда возможности мира намного превышают возможности проекта, Искусственный интеллект. Этапы. Угрозы. Стратегии проект может все-таки превышать Искусственный интеллект. Этапы. Угрозы. Стратегии мир, поскольку большинство исследователей за пределами проекта сосредоточены на других направлениях работы. Если проект начинает выглядеть многообещающим — что происходит, когда система достигает человеческого интеллектуального уровня или даже раньше, — он привлекает дополнительные инвестиции, что повышает Искусственный интеллект. Этапы. Угрозы. Стратегии проект. Если достижения проекта становятся достоянием широкой общественности, величина Искусственный интеллект. Этапы. Угрозы. Стратегии мир также повышается, поскольку растет интерес к искусственному интеллекту в целом и в игру включаются другие участники. Таким образом, на переходном этапе совокупная сила оптимизации, действующая на когнитивную систему, скорее всего, будет расти по мере роста возможностей системы [238].

Рост возможностей системы может дойти до такой точки, где сила оптимизации, которую производит сама система, начинает доминировать над силой оптимизации, приложенной к системе извне (по всем существенным направлениям усовершенствования):

Искусственный интеллект. Этапы. Угрозы. Стратегии система > Искусственный интеллект. Этапы. Угрозы. Стратегии проект + Искусственный интеллект. Этапы. Угрозы. Стратегии мир

Этот рубеж очень важен, поскольку за ним дальнейшее совершенствование системы оказывает весьма сильное влияние на рост совокупной силы оптимизации, приложенной к системе с целью ее совершенствования. То есть включается режим мощного рекурсивного самосовершенствования. Это приводит к взрывному росту возможностей системы в широком диапазоне форм кривых сопротивляемости.

Вход
Поиск по сайту
Ищем:
Календарь
Навигация