«ЕВАНГЕЛИЕ ОТ КУРЦВЕЙЛА»: технобоги или цифровая утопия?

Рэй Курцвейл. Автор фото: Грегг Сигал / fortune.com

Благодаря быстрому развитию технологий мы вплотную подошли к созданию гибрида людей и искусственного интеллекта. В своей новой книге «Сингулярность уже близко: когда мы сольемся с ИИ» знаменитый футуролог Рэй Курцвейл рассказывает о преимуществах такого слияния.

Однако в его утопии многие ученые видят псевдорелигию, замаскированную под технонауку. Она обещает невиданный прогресс ценой вымирания. Очередной раунд дискуссии вокруг сингулярности состоялся на страницах журнала Nature. Тезисы из нее мы представляем вашему вниманию.

ЦИФРОВОЙ ПОБЕГ ИЗ БИОЛОГИЧЕСКОЙ ТЮРЬМЫ

эй Курцвейл — американский ученый-компьютерщик и футуролог. Считается пророком трансгуманизма — движения, выступающего за радикальное технологическое вмешательство в природу человека с целью улучшения наших познавательных способностей и выхода за рамки человеческой биологии.

Новая книга является продолжением работы «Сингулярность уже близко», изданной в 2005 году. Курцвейл предсказывает наступление «постчеловеческой» эпохи, когда интеллект человека сольется с интеллектом искусственным. Для описания этого процесса он заимствует термин «сингулярность» из физики черных дыр.

Этой метафорой Курцвейл обозначает предполагаемую границу в развитии технологий, за которой вычислительные мощности обретут невероятные возможности. Их симбиоз с людьми приведет к переменам вселенского масштаба и потребует переосмысления того, что значит быть человеком.

ПРЕДЧУВСТВИЕ ЦИФРОВОГО «СВЕРХЧЕЛОВЕКА»

В новой книге Курцвейл делает смотр своим ранним предсказаниям. Он настаивает на том, что достижение технологической сингулярности неизбежно и даже желанно для человечества. Его прогнозы основаны в первую очередь на экспоненциальном росте количества вычислений в секунду, которые могут быть выполнены за 1 доллар.

Эту тенденцию он фиксирует, начиная с 1939 года. Футуролог ожидает, что тест Тьюринга будет пройден до 2030 года — компьютеры смогут демонстрировать интеллектуальное поведение, неотличимое от человеческого. А далее выйдут на уровень «сверхчеловеческих способностей» в самом широком спектре областей.

ТЕХНОУТОПИЯ «КОМПЬЮТРОНИУМА»

Техноутопическое мировоззрение Курцвейла таково, что позволяет увидеть будущее человечества, просто следуя за развитием информационных технологий. К концу этого десятилетия, как утверджает Курцвейл, большая часть одежды и других привычных для нас товаров будет напечатана на 3D-принтере; интерфейсы «мозга-компьютера» смогут передавать смоделированные сенсорные данные непосредственно в нервную систему человека. И в долгосрочной перспективе гибрид человека и ИИ откроет способ превращения обычной материи во Вселенной в «компьютрониум» — программируемый субстрат для сверхвысокоэффективных вычислений.

«ОМЕРЗИТЕЛЬНАЯ» СИНГУЛЯРНОСТЬ

В научном сообществе к пророчествам Курцвейла относятся по-разному. Его не раз критиковали известные философы, физики и айтишники. Наиболее резко, пожалуй, высказался Нассим Талеб, назвав теории сингулярности «глубоко омерзительными».

Свою оценку идеям Курцвейла дал и Алекс Гомес-Марин — испанский физик-теоретик и нейробиолог Института нейронаук в Аликанте. В статье, опубликованной журналом Nature, он утверждает, что Курцвейл «жонглирует» возможностями нейронауки, которые открывают большие языковые модели, постоянно путая вычисления с интеллектом и сознанием.

«Он заигрывает с материализмом, дуализмом и панпсихизмом, говоря, что сознание «схоже с фундаментальной силой Вселенной». Слова «сложность» и «возникновение» слишком часто появляются в контекстах, где с таким же успехом можно использовать любую абракадабру», — комментирует новую книгу Курцвейла Гомес-Марин.

ЭРА ЦИФРОВЫХ КЛОНОВ

По его мнению, Курцвейл продвигает технологию, способную заменить каждый бит мозга цифровой копией. При этом он игнорирует роль квантовых процессов, порожденных неопределенностью. Видимо, потому, что «невычислительные механизмы» опровергают его парадигму.

Он предсказывает, что наноботы внедрятся в мозг людей, скопируют их личность, их воспоминания и сохранят все это в «облаке». Однако кто сказал, что компьютерная копия будет вами? Как функционалист, Курцвейл считает «делание» более важным, чем «бытие».

В его представлении, если чат-бот действует, как человек, значит, это человек. Увы, копия оригинала, хотя и способна функционально заменить оригинал, оригиналом все же не является. Реальность — не симулякр, а сознание — не компьютерная функция.

МОЛИТВА О ДОЛГОЛЕТИИ

Испанский ученый обращает внимание на то, что технологический фетишизм Курцвейла не ограничивается «облаком». В его картине мира существует нечто вроде «цифровой души», которая может обитать в любом теле, имеющем чисто механические функции.

Гомес-Марин называет это литанией научной фантастики (литания — от греческого λιτή: молитва, просьба). Куцвейл «молится» о революции, которую произведет встреча ИИ с наноинженерией.

Она позволит нам перепроектировать и перестроить наши тела, мозг и миры, с которыми мы взаимодействуем. И тогда, примерно к 2030 году, мы с огромной скоростью прорвемся за определенный нам природой и Богом рубеж долголетия.

СЕКС С АВАТАРОМ: «ПОЛОВЫЕ ОРГАНЫ МИРА МАШИН»

Нейробиолог из Аликанте считает, что отношение Курцвейла к смерти — ключ к пониманию его идей. Он мечтает воскресить своего отца в форме виртуального аватара. Для этого Курцвейл собирает в оцифрованном виде все, что когда-либо было написано или сказано им.

Следующий шаг — вы можете завещать виртуальную копию личности вместе с копией физического тела. И тогда ваш роботизированный аватар продолжит общение с близким человеком, вплоть до сексуального.

Еще в далеком 1964 году культуролог Маршалл Маклюэн в книге «Понимание медиа» высказывался о том, что людям суждено стать «половыми органами мира машин». Если Курцвейл прав и сингулярность близка, то не за горами и коитус с вашим поддельным воскрешенным любовником.

ОТРЕДАКТИРОВАННАЯ РЕАЛЬНОСТЬ И СУРРОГАТ БОГА

Гомес-Марин обнаруживает у Курцвейла экзистенциальную уязвимость, идущую от разочарования, и даже отвращение к матери-природе и ее ограничениям. Он печалится, что не способен учиться быстрее, лучше запоминать или перепрограммировать свои страхи, травмы и сомнения.

Сингулярность должна освободить нас от всего этого. Курцвейл убежден: мы можем обращаться с реальностью как с текстом на экране — копировать жизнь, удалять смерть и редактировать себя, освобождая от биологических слабостей.

«Евангелие от Курцвейла» — это доктрина освобождения от плоти и обещание постчеловеческого бессмертия. Даже название книги перекликается с Новым Заветом: «Приблизилось Царство Небесное» (Матфея 4:17).

Говоря словами британского философа Джона Грея, мы имеем дело с «продолжением монотеизма другими средствами», с суррогатами Бога, выраженными в риторике научного прогресса.

ТЕХНОЛОГИЧЕСКОЕ ИДОЛОПОКЛОНСТВО

К сожалению, любая утопия на своем пути неминуемо встречается с антиутопией. Поэтому Курцвейл не может обойтись без упоминания об угрозах, которые несут человечеству технологии, — ядерное оружие, биоинженерия и тот же ИИ.

Но технологическое идолопоклонство Курцвейла приводит к тому, что его анализ затрат и выгод оказывается неизменно положительным: проблемы человечества решит то, что их же и создало!

Гомеса-Марина не устраивает такое предложение: сперва бездумно принять технологические изменения, а затем сформулировать социальные контракты по их использованию. Прогресс может дать нам антипригарные сковороды, но точно так же он может сделать нашу жизнь несчастной.

ДОБРОВОЛЬНО «СЛИВАТЬСЯ» ХОТЯТ НЕ ВСЕ

В целом Гомес-Марин, как и множество других критиков Курцвейла, не отвергает девиз «слейся с ИИ добровольно», раз уж все равно этого слияния не избежать. Он лишь указывает на то, что подобные техноутопические псевдорелигии могут легко выйти из-под контроля, сколько бы Курцвейл ни заверял нас в обратном.

«Мне кажется, что понимание Курцвейлом человечества и природы настолько странным образом неполноценно, что его пророчество — скорее проклятие, чем благословение. А его духовные поиски лишены духа», — подытоживает испанский нейробиолог.

Концепт «сингулярности» предлагает нам рассуждения о сверхчеловеческом бытии. Но за его фасадом скрывается лишь то, что является уникально человеческим.

Оригинальное исследование: