СТІЙКІСТЬ ПРОТИ ШВИДКОСТІ: конфуціанська етика для епохи штучного інтелекту

Статуя Конфуція в Шанхаї, Китай / britannica.com

Конфуцій — унікальна постать у світовій історії. У ній парадоксальним чином нерозривно переплелися міф і прагматика. І цей «мікс» зрештою перетворив Конфуція з історичного персонажа на потужну культурно-економічну технологію. У цьому сенсі його значення для сучасного Заходу є анітрохи не меншим, ніж для Сходу. В епоху штучного інтелекту головна проблема майбутнього людства полягає не в тому, наскільки розумним стане алгоритм, а в тому, чи здатні ми зберегти якості природної, «нецифрової» людяності. Східні системи мислення дають на цей виклик XXI століття несподівану відповідь.

Якщо хтось хоче заволодіти світом

і маніпулювати ним,

я бачу, що у нього нічого не вийде.

Світ — це священна посудина,

якою не можна маніпулювати

Лао-цзи, «Дао де цзин»

ПОРЯДОК З ХАОСУ

А починалося все з… жахливого святотатства! На 66-му році життя комендант прикордонної фортеці Шулян Хе стояв на порозі катастрофи космічного, релігійного та юридичного масштабу. Хай як старалася його перша дружина, запобігти катастрофі їй так і не вдалося. Дев’ять разів вона народжувала комендантові дівчаток. Дев’ять разів поспіль він сподівався на хлопчика, допоки остаточно не зневірився. Такий плювок у душу з боку Неба навіть простолюдину було б несила стерпіти, що вже казати про аристократа. Відсутність нащадка чоловічої статі ставила під загрозу посмертне існування предків, жертвопринесення яким міг здійснювати виключно старший син.

Його відсутність означала не лише відмову Неба у продовженні роду, а й необхідність віддати все нажите майно до скарбниці, оскільки воно передавалося лише за чоловічою лінією. Шулян Хе обрав найменше з двох зол: скоїти ритуальний гріх і народити сина, але при цьому дати предкам «годувальника» і врятувати рід від космічного небуття. Він намагався виправити ситуацію, зачавши дитину з наложницею, і знову зіткнувся з невдачею — хлопчик народився з деформацією ніг, а за тодішніми законами каліка не міг здійснювати родові жертвопринесення предкам, успадковувати майно та чин.

У ті часи ритуал регулював шлюбні стосунки аж до найдрібніших деталей. Тому матері Конфуція, якій на той момент було 18 років, довелося укласти «дикий союз», що передбачав неритуальне злягання. Це сталося на лоні природи під час паломництва на священну гору — жодного сватання, жодних шлюбних покоїв, жодного батьківського благословення, обміну подарунками, ворожіння та вибору дати. Ганьба від такого осквернення святої гори була настільки великою, що родина дівчини від сорому довго приховувала, хто саме був батьком дитини, але дивним чином таке кричуще порушення ритуалу подарувало світові людину, яка піднесла шанування предків і ритуал до рівня абсолютного закону. Зрештою ця східна історія стала ідеальною ілюстрацією до західної теорії психоаналізу.

«КОНФУЦІАНСТВО» ФРОЙДА Й ЛАКАНА

Перетворення «сина, народженого в гріху» на «батька світового Порядку» оголило механізм того, як індивід опрацьовує травму свого походження. З точки зору Фройда, хлопчик, який соромиться хаосу та гріха своїх батьків, відчуває колосальну несвідому тривогу: «Якщо правила порушені, я не існую, я — ніщо». Аби захиститися від цієї тривоги, він збудував психологічний панцир і заднім числом «відмив» гріх свого народження, ставши «святішим, ніж сам Закон». Він перетворив правило на культ, створивши систему, де жоден батько більше ніколи не зможе припуститися подібної помилки.

Його фанатична відданість лі (ритуалу) — це спроба довести своєму роду: «Я не плід безладу, бо я сам і є Порядок». Щоб не дати хаосу прорватися назовні, Конфуцій оточив себе мільйоном дрібних приписів: не сідав на циновку, якщо вона лежала нерівно, не їв м’яса, якщо воно було приправлене соусом не за правилами, не розмовляв під час їжі та в ліжку. За Жаком Лаканом, Конфуцій таким чином конструював «Великого Іншого» — невидиму, але тотальну систему правил, освячений Небом порядок, який має стояти за кожним рухом людини. Він сублімував відсутність реального батька, створивши Ідеального Батька для всієї китайської цивілізації. Недаремно психоаналіз пов’язав історію Конфуція з феноменом «сімейного роману», що зустрічається у дітей, походження яких є сумнівним або принизливим.

Дитина, яка не здатна змиритися з непривабливою правдою про своє походження, створює у своїй уяві міф про те, що насправді її батько — цар, Бог чи видатний герой, а нинішня родина — лише випадковість. Цей феномен добре відомий на іншому кінці Євразії — принаймні від Мойсея до Олександра Македонського. У повній відповідності до нього перед народженням Конфуція до його матері з’явився єдиноріг із пророцтвом: «Син володаря вод стане царем без царства». Тієї ночі на даху будинку, де чутно було музику сфер, чергували два дракони, а п’ять світових старців (духи п’яти планет) спустилися з небес, і в повітрі лунала божественна музика, зрозуміла лише обраним.

НЕВДАХА, ЩО СТАВ КУМИРОМ СХОДУ ТА ЗАХОДУ

Проте реальний Конфуцій був далеким від цього образу. Всупереч усталеним уявленням, він вважав себе цілковитим невдахою. Його місія зазнала краху — правителі відкинули все, що він їм пропонував. Зате після смерті «невдаха» став головним архітектором китайської державності на 2000 років, доки Мао не оголосив конфуціанство «феодальним пережитком». Але задовго до цього конфуціанство встигло потрапити на Захід. І за це насамперед слід подякувати ордену єзуїтів, який у XVII—XVIII століттях провів одну з найуспішніших інформаційно-філософських операцій в історії. Її метою було навернути китайську еліту до християнства, довівши, що конфуціанська «природна мораль» чудово сумісна з Євангелієм. 1687 року в Парижі вийшло фундаментальне видання перекладу його праць на латину.

Відтоді Кун Фу-цзи і став Конфуцієм — кимось на зразок китайського Сократа чи Сенеки. Згодом для Вольтера та інших просвітителів Конфуцій стане прикладом того, як можна без примату католицької церкви організувати суспільство на засадах розуму та моралі. Оскільки всі містичні аспекти з його вчення вилучили ще єзуїти, то Конфуцій став видаватися «ідеальним» раціоналістом, гуманістом і прихильником природного права. Саме конфуціанська система іспитів на посаду чиновника стала прототипом для створення сучасної державної цивільної служби — спершу у Британії в XIX столітті, а потім і в усій Європі. Конкурс знань прийшов на зміну кумівству та продажу посад. Так ідеї Конфуція здійснили щось на кшталт «навколосвітньої подорожі». Сучасний «західний» Конфуцій — це глибоко осмислений продукт: спочатку профільтрований єзуїтами для Європи, а потім повернутий до Азії як інструмент глобальної м’якої сили.

ВІД РУЙНУВАННЯ ЗАСАД — ДО РУЙНУВАННЯ СМИСЛІВ

Сьогодні цифрова епоха відкриває нового, «свого» Конфуція. Девіз Кремнієвої долини Move fast and break things («Рухайся швидко і ламай речі») тривалий час здавався універсальним рецептом еволюції. Він передбачав, що інституційний хаос, інерція права та крихкість традицій — усе це лише прикрі дрібниці на шляху експоненціального технологічного зростання. І багатьом здавалося, що це справді так, доки не з’явився генеративний штучний інтелект, суб’єктність якого вислизає від звичних визначень. «Зламаним» виявився сам простір людського смислу. Західна інтелектуальна традиція, що сягає часів Просвітництва, зустріла цей виклик зі звичним інструментарієм. У центрі європейської та американської дискусії про етику ШІ стоять такі категорії, як індивідуальна суб’єктність, автономія волі, права особистості, юрисдикція відповідальності та утилітарний баланс шкоди й користі.

Ми наполегливо намагаємося відповісти на запитання: «хто винен, якщо автономний алгоритм припустився помилки?», «чи має модель свідомість?», «як змусити нейромережу поважати індивідуальну приватність?» Але що як сам каркас цих запитань містить у собі системну помилку? Що як індивідуалістичний антропоцентризм Заходу принципово не здатний осягнути природу технології, яка за визначенням є не окремим «агентом», а новим середовищем існування? Якщо це так, то слід переходити на якісь інші принципи розуміння, адекватні цьому середовищу. У пошуках етики, здатної витримати швидкість цифрового «зламу», європейській думці доводиться знову звернути свій погляд на Схід. Там, де Захід шукає межу між людиною та машиною, конфуціансько-даоська філософська матриця пропонує дещо інше: етику відносин, соціальної гармонії та динамічної рівноваги.

Вступаючи до клубу друзів Huxley, Ви підтримуєте філософію, науку та мистецтво

Приєднатися до клубу друзів

ВІД АВТОНОМНОГО «Я» ДО МЕРЕЖІ ЗВ’ЯЗКІВ

Фундаментальний глухий кут західного підходу полягає у спробі наділити ШІ квазісуб’єктністю. Кантівська етика вимагає, щоб розумний агент був здатний до морального самовизначення. І подібні «етичні конституції» зараз є майже у всіх великих мовних моделей. Однак нейромережа — це продукт надзвичайно складної дистиляції мільярдів людських текстів і реакцій. І спроба вмістити все це у рамки «автономного індивіда» породжує лише юридичні та екзистенційні фантоми. Чим же тут може бути корисним Конфуцій? Справа в тому, що в конфуціанстві спочатку не існувало поняття ізольованого, атомізованого «я». Людину розуміли не по-європейськи — не як замкнутого в собі суб’єкта, а як вузол у складній мережі соціальних зв’язків (у-лунь).

Людина важлива не сама по собі. Вона існує лише настільки, наскільки перебуває у правильних стосунках з Іншим. Ці стосунки й є її змістом та сенсом: батько — дитина, керівник — підлеглий, дружина — чоловік. А що як з цієї точки зору поглянути й на технології? Чи не змінить це радикальним чином вектор дискусії про «моральність» ШІ? Спробуймо уникнути двох крайнощів, уявляючи ШІ або як автономного агента, або як пасивний інструмент. Припустімо, що він ані те, ані інше. ШІ — це новий соціальний медіум, що неминуче якось інакше перезбиратиме тканину людських стосунків. Але тоді з цієї позиції шукати відповідь на запитання «наскільки автономний алгоритм?» марно. Запитання має звучати інакше: «що алгоритм робить із якістю зв’язків між людьми?»

ЖЕНЬ ТА ЛІ ЦИФРОВОЇ ЕПОХИ

Для Конфуція ключова чеснота — це любов до людей (жень). І вона проявляється через здатність бачити в іншій людині рівну цінність. З цього погляду ми можемо оцінювати будь-які алгоритмічні системи: чи зміцнюють вони людяність у соціумі чи, навпаки, посилюють самотність і взаємне відчуження? Згідно з конфуціанським підходом штучний інтелект, який максимізує «клікабельність» за рахунок розпалювання соціальної ворожнечі, є глибоко аморальним! Але не тому, що його код сам по собі є «злом», а тому, що він руйнує правильне й упорядковане середовище — жень. Або ж візьмімо, наприклад, конфуціанське поняття «лі». Зазвичай його уявляють як щось на зразок набору «правил». Але все трохи складніше.

Лі — це радше архітектоніка суспільної злагоди. Це та ритуальна форма, яка зменшує соціальне тертя й надає сенсу спільному існуванню. У XXI столітті роль такого «цифрового ритуалу» виконують інтерфейси, алгоритми ранжування та протоколи комунікації. Самі по собі вони не є ані хорошими, ані поганими. Однак в умовах нинішньої «економіки уваги», в якій точиться боротьба за кліки, вони, по суті, монетизують ескалацію конфлікту. Якби архітектори систем були конфуціанцями, то створювали б інтерфейси з «етичним ритуалом», який стимулює стриманість і повагу до контексту.

У-ВЕЙ І МЕЖІ АНТРОПОЦЕНТРИЗМУ

Старий антропоцентризм європейської цивілізації поступово перетворився на «технологічний гіперантропоцентризм». Західна людина переконана, що за допомогою технологій може розв’язати будь-які проблеми. У тому числі й проблеми, пов’язані з ускладненням самих технологій. Здогадайтеся, як? Правильно, за допомогою винаходу ще складніших технологій. Сьогодні багато хто усвідомлює, що західна культура «радикальних дій» з її нескінченною гонкою обчислень, енергоспоживання та регуляторних актів веде прямісінько в цивілізаційний глухий кут. Але якщо ваші справи рухаються в неправильному напрямку, саме час згадати про правильний порядок речей і дій. Про це, до речі, говорить не тільки Конфуцій, а й Лао-цзи.

Запропонований ним принцип у-вей, або «дія через бездіяльність», — це зовсім не пасивне самоусунення, а мистецтво не діяти всупереч природному порядку речей (Дао). У цьому підході максимальній ефективності протиставлено принцип природної міри, тотальному контролю — самовідновлювані системи, прагненню оцифрувати все й усіх — визнання того, що у сфері духу не все підлягає вдосконаленню. Цілком можливо, що ми можемо алгоритмізувати й автоматизувати все що завгодно, але чи повинні ми це робити? Візьмімо, приміром, такі аспекти нашого життя, як виховання дітей чи скорбота за втратою, екзистенційний вибір чи співчуття герою роману. Цифрова «оптимізація» робить їх безглуздими, бо сам простір для природного, людського життя є принципово «неефективним». Для цього простору принцип недіяння, мабуть, є найбільш адекватним.

«ШЛЯХЕТНИЙ ЧОЛОВІК» У СВІТІ ПОСТПРАВДИ

Конфуціанська філософія багато говорить про відповідальність суб’єкта. Але що це за суб’єкт? Це зовсім не абстрактна інституція чи алгоритм, а цзюнь-цзи — шляхетний чоловік, моральний лідер. Моральний аспект відповідальності та лідерства в цифрову епоху надзвичайно важливий. У світі постправди ми переживаємо колосальну експансію синтетичного контенту в наше життя. Фальсифікація голосів і генеративні тексти остаточно підривають довіру не лише до цифрової реальності, а й до реальності загалом. Тому ключовим етичним ресурсом стає чен — щирість, автентичність, відповідність внутрішнього стану та зовнішнього прояву.

Це саме ті якості, якими мусить володіти архітектор систем — «шляхетний чоловік» цифрової епохи, коли ризик від упровадження майже неможливо прорахувати. Архітектура коду — це завжди форма прямого морального впливу на мільйони людей. І це вимагає від цзюнь-цзи якостей, які принципово недоступні обчислювальним моделям: співчуття, відповідальність, самообмеження та моральна мужність. Ставка на науково-технологічний прогрес привела західну культуру до домінування на нашій планеті. Однак сьогодні її двигун працює на граничних обертах, перегріваючи соціальну та психічну реальність. Що вища швидкість, то більший шанс не вписатися в поворот і зірватися у прірву.

Китайська філософська традиція пропонує пригальмувати на повороті, поставити на перше місце не швидкість розвитку, а сталість, соціальну гармонію та системну стриманість. У будь-якому разі людству в епоху штучного інтелекту доведеться відповісти на запитання: чи готові ми жорстко пов’язати своє майбутнє виключно зі швидкістю створення моделей із трильйонною шкалою параметрів? Чи ми таки зможемо інтегрувати сучасні можливості в давній, безперервний пошук гармонії між людиною, суспільством і природою? Чом би й ні, якщо Конфуцій колись уже став органічною частиною західного «ідеалу»?