УСТОЙЧИВОСТЬ ПРОТИВ СКОРОСТИ: конфуцианская этика для эпохи искусственного интеллекта

Статуя Конфуция в Шанхае, Китай / britannica.com

Конфуций — уникальная фигура в мировой истории. В ней парадоксальным образом неразрывно сплелись миф и прагматика. И этот «микс» в конечном итоге превратил Конфуция из исторического персонажа в мощную культурно-экономическую технологию. В этом смысле его значение для современного Запада ничуть не меньше, чем для Востока. В эпоху ИИ главная проблема будущего человечества заключается не в том, насколько умен станет алгоритм, а в том, способны ли мы сохранить качества естественной, «нецифровой» человечности. Восточные системы мысли дают на этот вызов XXI века неожиданный ответ.

Если кто-либо хочет овладеть миром

и манипулировать им,

я вижу, что у него ничего не выйдет.

Мир — это священный сосуд,

которым нельзя манипулировать

Лао-цзы, «Дао дэ цзин»

ПОРЯДОК ИЗ ХАОСА

А начиналось все с… вопиющего святотатства! На 66-м году жизни комендант приграничной крепости Шулян Хэ стоял на пороге катастрофы космического, религиозного и юридического масштаба. Как ни старалась его первая жена, катастрофу предотвратить она так и не смогла. Девять раз она рожала коменданту девочек. Девять раз подряд он надеялся на мальчика, пока окончательно не отчаялся. Такой плевок в душу со стороны Неба даже простолюдину нелегко было бы снести, что уж говорить об аристократе. Отсутствие потомка мужского пола ставило под угрозу посмертное существование предков, жертвоприношение которым мог осуществлять исключительно старший сын.

Его отсутствие означало не только отказ Неба в продолжении рода, но и необходимость отдать все нажитое имущество в казну, поскольку оно передавалось только по мужской линии. Шулян Хэ выбрал наименьшее из двух зол: совершить ритуальный грех и родить сына, но при этом дать предкам «кормильца» и спасти род от космического небытия. Он пытался исправить положение, зачав ребенка с наложницей, и снова столкнулся с неудачей — мальчик родился с деформацией ног, а по тогдашним законам калека не мог совершать родовые жертвоприношения предкам, наследовать имущество и чин.

В те времена ритуал регулировал брачные отношения до мельчайших деталей. Поэтому с матерью Конфуция, которой на тот момент было 18 лет, пришлось вступить в «дикий союз», который предполагал неритуальное соитие. Оно произошло на лоне природы во время паломничества на священную гору — никакого сватовства, никаких брачных покоев, никакого родительского благословения, обмена подарками, гадания и выбора даты. Позор от подобного осквернения святой горы был так велик, что семья девушки от стыда долго скрывала, кто именно был отцом ребенка, но удивительным образом такое вопиющее нарушение ритуала дало миру человека, который возвел почитание предков и ритуал в абсолютный закон. В итоге эта восточная история стала идеальной иллюстрацией к западной теории психоанализа.

«КОНФУЦИАНСТВО» ФРЕЙДА И ЛАКАНА

Превращение «сына, рожденного в грехе» в «отца мирового Порядка» обнажило механизм того, как индивид перерабатывает травму своего происхождения. С точки зрения Фрейда, мальчик, стыдящийся хаоса и греха своих родителей, испытывает колоссальную бессознательную тревогу: «Если правила нарушены, я не существую, я — ничто». Чтобы защититься от этой тревоги, он построил психологический панцирь и задним числом «отстирал» грех своего рождения, став «более святым, чем сам Закон». Он превратил правило в культ, создав систему, где ни один отец больше никогда не сможет совершить подобную ошибку.

Его фанатичная приверженность ли (ритуалу) — это попытка доказать роду: «Я не плод беспорядка, потому что я сам и есть Порядок». Чтобы не дать хаосу прорваться наружу, Конфуций окружил себя миллионом мелких предписаний: не садился на циновку, если она лежала непрямо, не ел мяса, если оно было соусировано не по правилам, не говорил за едой и в постели. По Жаку Лакану, Конфуций таким образом конструировал «Большого Другого» — невидимую, но тотальную систему правил, освященный Небом порядок, который должен стоять за каждым движением человека. Он сублимировал отсутствие реального отца, создав Идеального Отца для всей китайской цивилизации. Неслучайно психоанализ связал историю Конфуция с феноменом «семейного романа», встречающегося у детей, чье происхождение сомнительно или унизительно.

Ребенок, неспособный принять неприглядную правду о своих родителях, создает в фантазиях миф о том, что на самом деле он — сын царя, Бога или великого героя, а его текущая семья — лишь случайность. Этот феномен хорошо известен на другом конце Евразии — как минимум от Моисея до Александра Македонского. В полном соответствии с ним перед рождением Конфуция его матери явился единорог с пророчеством: «Сын владыки вод станет царем без царства». В ту ночь на крыше дома, где звучала музыка сфер, дежурили два дракона, и пять мировых старцев (духи пяти планет) спустились с небес, а в воздухе продолжала звучать божественная музыка, понятная лишь избранным.

НЕУДАЧНИК, СТАВШИЙ КУМИРОМ ВОСТОКА И ЗАПАДА

Но реальный Конфуций был далек от этого образа. Сам себя, вопреки сложившимся представлениям, он считал абсолютным неудачником. Его миссия провалилась — правители отвергли все, что он им предлагал. Зато после смерти «неудачник» стал главным архитектором китайской государственности на 2000 лет, пока Мао не объявил конфуцианство «феодальным пережитком». Но задолго до этого конфуцианство успело проникнуть на Запад. И за это в первую очередь нужно сказать спасибо ордену иезуитов, провернувшему в XVII—XVIII веках одну из самых успешных информационно-философских операций в истории. Ее целью было обратить китайскую элиту в христианство, доказав, что конфуцианская «естественная мораль» прекрасно совместима с Евангелием. В 1687 году в Париже вышло фундаментальное издание перевода его трудов на латынь.

С этого момента Кун Фу-цзы и стал Конфуциусом, кем-то вроде китайского Сократа или Сенеки. Впоследствии для Вольтера и других просветителей Конфуций станет примером того, как можно без примата католической церкви организовать общество на основе разума и морали. Поскольку все мистические аспекты из его учения изъяли еще иезуиты, то Конфуций стал представляться «идеальным» рационалистом, гуманистом и сторонником естественного права. Именно конфуцианская система экзаменов на чиновничий чин стала прототипом для создания современной государственной гражданской службы — сначала в Британии в XIX веке, а затем и во всей Европе. Конкурс знаний пришел на смену кумовству и продаже должностей. Так идеи Конфуция совершили нечто вроде «кругосветного путешествия». Современный «западный» Конфуций — это глубоко отрефлексированный продукт: сначала профильтрованный иезуитами для Европы, а затем возвращенный в Азию как инструмент глобальной мягкой силы.

ОТ СЛОМА УСТОЕВ — К СЛОМУ СМЫСЛОВ

Сегодня цифровая эпоха открывает нового, «своего» Конфуция. Девиз Кремниевой долины Move fast and break things («Двигайся быстро и ломай вещи») долгое время казался универсальным рецептом эволюции. Он подразумевал, что институциональный хаос, инерция права и хрупкость традиций — все это лишь досадные мелочи на пути экспоненциального технологического роста. И многим казалось, что это действительно так, пока не появился генеративный искусственный интеллект, субъектность которого ускользает от привычных определений. «Сломанным» оказалось само пространство человеческого смысла. Восходящая к Просвещению западная интеллектуальная традиция, встретила этот вызов с привычным инструментарием. В центре европейской и американской дискуссии об этике ИИ стоят такие категории, как индивидуальная субъектность, автономия воли, права личности, юрисдикция ответственности и утилитарный баланс вреда и пользы.

Мы упорно пытаемся ответить на вопросы: «кто виноват, если автономный алгоритм ошибся?», «обладает ли модель сознанием?», «как заставить нейросеть уважать индивидуальную приватность?» Но что, если сам каркас этих вопросов содержит в себе системную ошибку? Что, если индивидуалистический антропоцентризм Запада принципиально неспособен уловить природу технологии, которая по определению является не отдельным «агентом», а новой средой обитания? Если это так, то нужно переходить на какие-то другие принципы понимания, адекватные этой среде. В поисках этики, способной выдержать скорость цифрового «слома», европейской мысли приходится снова обратить свой взор к Востоку. Там, где Запад ищет границу между человеком и машиной, конфуцианско-даосская философская матрица предлагает нечто иное: этику отношений, социальной гармонии и динамического равновесия.

Вступая в клуб друзей Huxley, Вы поддерживаете философию, науку и искусство

Присоединиться к клубу друзей

ОТ АВТОНОМНОГО «Я» К СЕТИ СВЯЗЕЙ

Фундаментальный тупик западного подхода заключается в попытке наделить ИИ квазисубъектностью. Кантовская этика требует, чтобы разумный агент был способен к моральному самоопределению. И подобные «этические конституции» есть сейчас практически у всех больших языковых моделей. Однако нейросеть — продукт сложнейшей дистилляции миллиардов человеческих текстов и реакций. И попытка все это втиснуть в рамки «автономного индивида» порождает лишь юридические и экзистенциальные фантомы. Чем же тут может быть полезен Конфуций? Дело в том, что в конфуцианстве изначально отсутствовало понятие изолированного, атомизированного «я». Человек понимался не по-европейски — не как замкнутый в себе субъект, а как узел в сложной сети социальных связей (у-лунь).

Человек важен не сам по себе. Он существует лишь постольку, поскольку находится в правильных отношениях с Другим. Эти отношения и есть его содержание и смысл: родитель — ребенок, начальник — подчиненный, жена — муж. А что, если в этой оптике посмотреть и на технологии? Не изменит ли это радикальным образом вектор дискуссии о «моральности» ИИ? Давайте попробуем избежать двух крайностей, представляя ИИ или автономным агентом, или пассивным инструментом. Допустим, что он ни то ни другое. ИИ — это новый социальный медиум, который неизбежно будет как-то иначе пересобирать ткань человеческих отношений. Но тогда в этой оптике искать ответ на вопрос «насколько автономен алгоритм?» бесполезно. Вопрос должен звучать иначе: «что алгоритм делает с качеством связей между людьми?»

ЖЭНЬ И ЛИ ЦИФРОВОЙ ЭПОХИ

Для Конфуция ключевая добродетель — это человеколюбие (жэнь). И проявляется она через способность видеть в другом человеке равную ценность. С этой точки зрения мы можем давать оценку любым алгоритмическим системам: укрепляют они человечность в социуме или, наоборот, усиливают одиночество и взаимное отчуждение? Согласно конфуцианскому подходу искусственный интеллект, который максимизирует «кликабельность» за счет разжигания социальной розни, глубоко аморален! Но не потому, что его код сам по себе «зло», а потому, что он разрушает правильную и упорядоченную среду — жэнь. Или возьмем, например, конфуцианское понятие «ли». Обычно его представляют как нечто вроде набора «правил». Но все немного сложнее.

Ли — это скорее архитектоника общественного согласия. Это та ритуальная форма, которая снижает социальное трение и делает совместное существование осмысленным. В XXI веке роль такого «цифрового ритуала» выполняют интерфейсы, алгоритмы ранжирования и протоколы коммуникации. Сами по себе они не хорошие и не плохие. Однако в условиях нынешней «экономики внимания», в которой идет борьба за клики, они, по сути, монетизируют эскалацию конфликта. Если бы архитекторы систем были конфуцианцами, то создавали бы интерфейсы с «этическим ритуалом», который стимулирует сдержанность и уважение к контексту.

У-ВЭЙ И ПРЕДЕЛЫ АНТРОПОЦЕНТРИЗМА

Старый антропоцентризм европейской цивилизации постепенно превратился в «технологический гиперантропоцентризм». Западный человек убежден, что с помощью технологий может решить любые проблемы. В том числе и проблемы, связанные с усложнением самих технологий. Догадайтесь, как? Правильно, с помощью изобретения еще более сложных технологий. Сегодня многие осознают, что западная культура «радикального действия» с ее бесконечной гонкой вычислений, энергопотребления и регуляторных актов ведет прямиком в цивилизационный тупик. Но если ваши дела идут в неправильном направлении, самое время вспомнить о правильном порядке вещей и действий. Об этом говорит, кстати, не только Конфуций, но и Лао-цзы.

Предложенный им принцип у-вэй, или «деяние через недеяние», — это вовсе не пассивное самоустранение, а искусство не действовать вопреки естественному порядку вещей (Дао). В этом подходе максимальной эффективности противопоставлен принцип естественной меры, тотальному контролю — самовосстанавливающиеся системы, стремлению оцифровать все и вся — признание того, что в сфере духа не все подлежит улучшению. Вполне возможно, что алгоритмизировать и автоматизировать мы можем все что угодно, но вот должны ли? Возьмем, например, такие аспекты нашей жизни как воспитание детей или скорбь об утрате, экзистенциальный выбор или сопереживание герою романа. Цифровая «оптимизация» делает их бессмысленными, потому что само пространство для естественной, человеческой жизни принципиально «неэффективно». Для этого пространства принцип недеяния, пожалуй, адекватен больше всего.

«БЛАГОРОДНЫЙ МУЖ» В МИРЕ ПОСТПРАВДЫ

Конфуцианская философия много говорит об ответственности субъекта. Но что это за субъект? Это вовсе не абстрактный институт или алгоритм, а цзюнь-цзы — благородный муж, моральный лидер. Моральный аспект ответственности и лидерства в цифровую эпоху чрезвычайно важен. В мире постправды мы переживаем колоссальную экспансию синтетического контента в нашу жизнь. Фальсификация голосов и генеративные тексты окончательно подрывают доверие не только к цифровой реальности, но и к реальности вообще. Поэтому ключевым этическим ресурсом становится чэн — искренность, аутентичность, соответствие внутреннего состояния и внешнего проявления.

Это именно те качества, которыми должен обладать архитектор систем — «благородный муж» цифровой эпохи, когда риск от внедрения почти непросчитываем. Архитектура кода — это всегда форма прямого морального воздействия на миллионы людей. И это требует от цзюнь-цзы качеств, которые принципиально недоступны вычислительным моделям: сострадание, ответственность, самоограничение и моральное мужество. Ставка на научно-технологический прогресс привела западную культуру к доминированию на нашей планете. Однако сегодня ее двигатель работает на предельных оборотах, перегревая социальную и психическую реальность. Чем выше скорость, тем больше шанс не вписаться в поворот и сорваться в пропасть.

Китайская философская традиция предлагает притормозить на повороте, поставить во главу угла не скорость развития, а устойчивость, социальную гармонию и системную сдержанность. В любом случае человечеству в эпоху искусственного интеллекта придется ответить на вопрос: готовы ли мы жестко связать свое будущее исключительно со скоростью создания моделей с триллионной шкалой параметров? Или мы все-таки сможем встроить современные возможности в древний, непрекращающийся поиск гармонии между человеком, обществом и природой? Почему нет, если Конфуций однажды уже стал органической частью западного «идеала»?