ЧТО ТАКОЕ СИНГЛТОН: глобальная диктатура неизбежна?

Иллюстрация: Всеволод Швайба, «Дриада весны», литография, 70х100 (лист), 2021

 

Авторство теории синглтона принадлежит шведскому философу, профессору Нику Бострому. Бостром является директором Института будущего человечества Оксфордского университета.

Он занимается тем, что анализирует закономерности исторического и технологического развития, пытается прогнозировать и моделировать ту реальность, в которой люди с большой долей вероятности станут жить.

 

СИНГЛТОН — РЕЗУЛЬТАТ ЭВОЛЮЦИИ?

 

Дословно перевести термин singleton непросто, хотя интуитивно все, кто знаком с английским языком, понимают, о чем идет речь. Синглтон — это процесс сведения к чему-то одному, к «единице». Например, можно представить себе, как в процессе развития все жители города однажды взяли бы и эволюционировали в некоего единого «синголийца».

Нечто подобное, по мнению Бострома, происходит и в человеческой истории. В своей книге «Суперинтеллект. Тенденции, опасности, стратегии» он утверждает, что разумная жизнь на этой планете организуется как единое целое, а стало быть, должна иметь некую единую цель.

Философ обращает внимание, что историческая тенденция состоит в том, что человечество как бы «концентрируется» в социальных организациях все более и более высокого уровня. Если мы посмотрим на историю обществ, то увидим, как они развиваются от небольших групп охотников и собирателей — к деревенским поселениям, потом — к городам-государствам, далее появляются нации, ООН…

 

НОВЫЙ МИРОВОЙ ПОРЯДОК

 

Логично предположить, что подобная закономерность истории является фундаментальной и будет продолжаться дальше. Очевидно, что власть, контроль, управление будет концентрироваться во все более крупных, глобальных субъектах. Но у этой концентрации есть естественный предел — синглтон. Его Бостром предлагает представить, используя уже имеющиеся метафоры.

Такие, например, как Новый мировой порядок, Мировое правительство или Искусственный интеллект, следящий за глобальным порядком, управляющий миром людей и даже жизнью на планете в целом… Проводниками синглтона могут быть группы влиятельных политиков, машины на основе искусственного интеллекта, корпорации или даже тоталитарные лидеры, имеющие в своем распоряжении мощный военный ресурс.

 

КОНСПИРОЛОГИЯ И СИНГЛТОН

 

Понятно, что отношение к подобного рода метафорам, особенно среди сторонников конспирологических теорий, будет негативным. Получается, что если возникновение синглтона неизбежно и носит объективный характер, то неизбежно и установление глобальной диктатуры в том или ином виде. 

Однако сам Бостром считает, что синглтон сам по себе не может быть ни отрицательным, ни положительным: это просто инструмент агрегирования и управления, предельно компактный управленческий комплекс, который создаст на Земле разумная жизнь в процессе своей эволюции.

Сценарная проработка синглтона показывает, что он действительно может быть как «плохим», так и «хорошим». Но по какому именно сценарию пойдет общественное развитие, Бостром не берется предсказать. Вместе с тем понятно, что возникновение интернета и социальных сетей, глобальных взаимосвязанных систем наблюдения и связи, молекулярных нанотехнологий создают ментальную почву для синглтона в общечеловеческой популяции.

 

КАТАСТРОФЫ — КАТАЛИЗАТОР СИНГЛТОНА

 

Хотя растущая сложность системы и затрудняет координацию между различными культурными реальностями и народами, технологические решения, связанные с искусственным интеллектом, а также катастрофические события могут помочь преодолеть эту проблему.

В качестве примера последней Бостром приводит Первую мировую, из которой родилось сообщество наций и Вторую мировую войну, ответом на которую стала ООН. Точно так же новый единый глобальный центр управления может возникнуть как реакция на очередную глобальную угрозу. Сейчас мы с вами вполне можем опознать такую угрозу в пандемии коронавируса. В дальнейшем ею могут стать очередные эпидемии, изменения климата или, к примеру, кибератаки.

 

ПЛЮСЫ И МИНУСЫ СИНГЛТОНА

 

«Хороший» синглтон поможет человечеству распрощаться с гонкой вооружений и жесткой конкуренцией за космическое околоземное пространство. Угроза глобальной войны всех со всеми уйдет в прошлое. Мировые военные расходы, которые в 2020 году составили более $1,980 трлн можно будет перераспределить для решения насущных глобальных проблем, для предотвращения той же климатической катастрофы.

Синглтон на основе искусственного интеллекта может контролировать появление и использование нежелательных технологических разработок и срыв истории в антиутопию. Однако «плохой» синглтон сам может стать воплощением антиутопии, наподобие той, которую мы можем увидеть в знаменитом фильме Терри Гиллиама «Бразилия».

Единая сущность, которая контролирует все на свете, может значительно уменьшить возможности индивида, отняв у него свободу. Сверхконцентрация не равна эффективности, она вполне может препятствовать социальной мобильности и демократии. В некоторых сценариях синглтон порождает ужасающие диктаторские режимы, которым в жестокости уступают Чингисхан, Гитлер и Наполеон вместе взятые.

«Синглтон» способен сделать наш мир не только более простым, но и более сложным — для его обслуживания потребуется дополнительная бюрократия. Это приведет к коррупции, большим расходам, высоким налоговым ставкам и замедлению роста во всех сферах.

 

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ

 

Основная проблема ИИ в том, что в качестве синглтона он сам может в конце концов стать той глобальной угрозой, противодействие которой может объединить человечество. Сегодня это осознают многие. Мы помним, что Стивен Хокинг, Билл Гейтс и Илон Маск, а также еще несколько сотен человек с мировым именем подписались под коллективным письмом. В нем говорится, что искусственный интеллект — это новая угроза, сравнимая по масштабу с атомным оружием.

Хокинг сформулировал эту позицию следующим образом: «Успех в создании искусственного интеллекта будет величайшим событием в истории человечества. К несчастью, оно же может стать и последним». Аналитики приходят к выводу, что ИИ способен на вероломный ход, если обнаружит неожиданный для людей способ достичь своей конечной цели. Чем сильнее он становится, тем больше его действия вызывают чувство удовлетворения у его создателя…

Однажды система станет настолько разумной, что решит стоящую перед ней задачу самым полным и надежным способом — имплантацией электродов в центры удовольствия головного мозга создателя, что сделает его гарантированно и окончательно счастливым.

 

НИЧЕГО ЕЩЕ НЕ РЕШЕНО

 

Чтобы несколько успокоить читателей, заметим, что синглтон является чистой абстракцией. Да, он способен в одиночку решать все крупные проблемы общемирового масштаба. Да, у него могут быть бесконечные возможности, которые приведут к необратимым последствиям. Но его режим при этом может быть самым разным: демократия, тирания, единодержавие (то есть абсолютизм ИИ), набор жестких общемировых законов, подлежащих безотказному исполнению.

Он может нести в себе характеристики знакомых нам форм человеческого управления, а может их и не нести. Точно так же он не обязательно должен быть тоталитарным по своей природе — он может функционировать как глобальное демократическое государство. Более того, образование синглтона в многополярном мире не предрешено. Но проблема, которую ставит Бостром, в другом: если профессор окажется прав и синглтон все-таки появится, примет ли его человечество или выступит против него?