Новая мистика VS искусственный интеллект. Что победит в ближайшем будущем человечества? Интервью с философом Юком Хуэем. Часть III
Фото: colta
Юк Хуэй — гонконгский философ, автор книг и статей по философии техники, медиатеории и кибернетике.
Интервьюер — Андерс Данкер
АНДЕРС ДАНКЕР: Чтобы у нас был реальный выбор в отношении растущего влияния новых технологий, нам также необходимо исходить из того, что технологическая эволюция не является детерминированной, то есть что мы могли бы разработать радикально иные технологии, чем те, которые есть сегодня. Действительно ли мы свободны выбирать и формировать технологии будущего?
ЮК ХУЭЙ: История случайна, а это просто означает, что могло быть иначе. Если бы монголы завоевали весь мир, у нас была бы другая мировая история и, вероятно, другое понимание истории как таковой. В свете этого, важно быть открытым для разных вариантов будущего, чтобы увидеть многочисленные возможности.
То, что наше представление о технологическом будущем действительно имеет значение в наши дни, я могу проиллюстрировать на собственном опыте. Недавно я читал курс философии технологий в Германии, на котором было 25 студентов, в основном гуманитарных специальностей.
Я спросил их: «Каким вы видите будущее с учетом последних достижений в области искусственного интеллекта и генной инженерии?» Девяносто процентов из них заявили, что считают наши перспективы на будущее безнадежными.
Причина, очевидно, в том, что у них есть очень определенные представления о будущем — например, что они будут заменены машинами. Им придется обновиться, чтобы найти место в обществе. Лично я не думаю, что это единственный ответ. Мы не должны уступать таким взглядам, а должны активно им противостоять.
А. Д.: Разве технологический детерминизм, столь распространенный в Кремниевой долине, не является просто шумихой, как если бы он говорил: «Эти вещи уже в пути, так что лучше опередить события, чем утруждать себя сопротивлением»?
Ю. Х.: Эта риторика является причиной того, что все эти технологические компании нанимают футуристов. Хуже всего, конечно, Рэй Курцвейл, который утверждает, что так называемая сингулярность близка, и к 2025 году мы станем бессмертными. Я говорю во всех своих книгах: мы не должны поддаваться такой детерминистской пропаганде из Кремниевой долины.
А. Д.: Как насчет исследовательской программы Илона Маска Neuralink, которая направлена на подключение компьютеров к мозгу? Как вы ответите на его тезис о том, что люди должны обновляться, чтобы оставаться актуальными, когда искусственный интеллект начинает превосходить нас?
Ю. Х.: Очень расплывчато, если не нелогично, сказать, что мы должны опережать технологии, поскольку, если «мы» — это человечество, то оно состоит из этих технологий. Мы в этом случае всегда будем только опаздывать.
Исследования интерфейса человек-машина существуют уже давно, и желание усовершенствовать человека (включая интеллект, эмоции и продолжительность жизни) было основной мотивацией для этого види исследования, также известного как трансгуманизм.
В прошлом совершенствование человека осуществлялось через образование — эстетическое воспитание, физическую дисциплину, интеллектуальное развитие и так далее.
По мнению Маска, образование будет заменено аппаратом с микрочипом мозга
Это подрывает идею гуманизма Просвещения, согласно которой разум, а не микрочипы должен быть посредником между миром и человеком.
А. Д.: Так куда же нужно двигаться?
Ю. Х.: Люди приняли для себя проблемное решение: «разрезать» или «соединить». Биотехнология представляет новую евгенику, которая лежит в основе биополитики XXI века. Повышение интеллекта дает больше шансов на трудоустройство и успех.
Если вы помните знаменитое японское аниме «Призрак в доспехах» (1995 г.), там анархисты превратились в киборгов, то есть проиграли, по сути, свою битву.
А. Д.: Итак, что нам остается — общая идея о том, что у нас нет выбора, что невозможно отключиться от этих биополитических сетей и грядущих обновлений нашего тела и нашей жизни?
Ю. Х.: Именно потому, что наша идея «прогресса» подразумевает историческое движение к единой цели, она сопротивляется любой автономной тенденции и разнообразию в эволюции. Как следствие, свобода и демократия находятся под угрозой.
Вдобавок к этому идеология Кремниевой долины все чаще рассматривает свободу и демократию как несовместимые цели. Это, в частности, касается инвестора Питера Тиля: для него нет сомнений в том, что свобода в первую очередь означает экономическую независимость, свободу для транснациональных корпораций.
Огромные инвестиции в биотехнологии — это подготовка к тому времени, когда этические ограничения будут преодолены или отменены, чтобы технологии биологического вмешательства могли свободно циркулировать на рынке.
Это гигантская сила, которую каждый чувствует, но никто не знает, как она проявится, или как люди отреагируют. Для меня это тот момент, когда техногенное разнообразие становится важным и решающим. Если нам не удастся продемонстрировать, что есть другие альтернативы, трансгуманистическая идеология покорит весь мир. А это — шаг к гибели.
А. Д.: Должны ли глобализированные технологии стать универсальными в том смысле, что их будут рассматривать как истинные, необходимые и обязательные?
Ю. Х.: Если вы прочитаете статью Генри Киссинджера «Как заканчивается Просвещение», опубликованную в выпуске The Atlantic за 2018 год, он обсуждает, как Просвещение зависело от новой технологии печатного слова — для распространения своей философии.
Киссинджер говорит, что теперь у нас есть технология, которая распространяется, но которой не хватает философии. Это ведет к концу Просвещения.
Однако в этом аргументе есть слепое пятно, а именно то, что претензии Просвещения на универсальность сохраняются даже после его конца под видом «технологии». В этом смысле технология сама по себе становится универсальной.
Итак, что нам нужно сделать, так это радикализировать критику Киссинджера, отвергнув это понимание технологического развития как чего-то заданного и предопределенного, то есть как чего-то универсального.
А. Д.: Тем не менее разве мы не должны быть в состоянии принять лучшее из гуманизма Просвещения, которое приучает нас к разуму и позволяет нам перемещаться между нами и миром?
Ю. Х.: Понимание Киссинджером Просвещения ограничено тем, что мы называем Эпохой Разума, которая заключалась в борьбе с суевериями, несправедливостью и бедностью. Распространение идеалов Просвещения важно для понимания современных демократий. Мой ответ Киссинджеру не следует понимать как претензию по отношению к Просвещению.
Проблема, скорее, в том, что своей критикой он способствует универсализации сомнительного мышления. Статья Киссинджера — это приглашение осмыслить новую форму политики, новую форму технологической глобализации и новый мировой порядок.
Даже если его статья содержит критическую ноту, навязывает нам опасный образ мышления, политику, стремящуюся к технологической сингулярности, особенно в отношении военных технологий, наблюдения и управления.
В ближайшие годы все будет вращаться вокруг искусственного интеллекта. Китай, Россия и Америка стремятся быть лидерами в этой области
Это развитие нельзя рассматривать как продолжение Просвещения. Технологическая сингулярность — это совершенно апокалиптическая, чудовищная цель.
А. Д.: В этом отношении представляют ли глобализация и синхронизация технологий всемирно-исторический уровень риска? Влияют ли эти факторы на климатический кризис, учитывая, что атмосфера Земли поглощает побочные продукты современных технологий?
Можем ли мы назвать глобальное потепление отрицательной универсальностью, как это делает Дипеш Чакрабарти, определяя человечество как источник крупномасштабного комплекса проблем?
Ю. Х.: То, что мы сейчас называем антропоценом, является следствием технологической и промышленной экспансии после Второй мировой войны.
Основной предпосылкой этого периода роста была быстрая индустриализация. Индустриализация за последние 70 лет — прямая причина глобального потепления и начала антропоцена. Мы стали зависимыми от индустриальной формы жизни, поэтому единственное возможное решение — изменить наши отрасли.
Но мы не можем отбросить промышленность и технологии — это утопия. Единственный путь — дополнить их новой мистикой, открывающей радикально новые, не-технологические возможности жизни.
