Huxleў
Автор: Huxleў
© Huxleў – альманах о философии, бизнесе, искусстве и науке.
Philosophy
5 мин. на чтение

НОВАЯ МИРОВАЯ ФИЛОСОФИЯ: Андреа Роли, Иоханнес Егер, Стюарт Кауффман, США. Фундаментальные ограничения сильного искусственного интеллекта

НОВАЯ МИРОВАЯ ФИЛОСОФИЯ: Андреа Роли, Иоханнес Егер, Стюарт Кауффман, США. Фундаментальные ограничения сильного искусственного интеллекта
Поделиться материалом
Фото: Дмитрий Журавлев, digital collage, без названия, 100х67 см, печать на холсте, 2021 / Facebook «Сіль-Соль»

 

Мы намерены заявить следующее: вопреки господствующему мнению об искусственном интеллекте, он принципиально невозможен в текущих алгоритмических рамках исследований, поскольку алгоритмы не могут создавать и использовать новые возможности.

Важно понять: действительно неограниченная эволюция невозможна в алгоритмических системах, поскольку они не могут выйти за пределы своего предопределенного пространства возможностей. Фактически утверждение, что организменное поведение не является полностью алгоритмическим, было сделано Робертом Розеном еще в 1950-х годах.

Его аргумент основан на теории сложных систем и уместно дополняет наш способ рассуждений, подтверждая наши догадки. Это кратко изложено в книге Розена «Сама жизнь». В качестве доказательства принципа он разработал диаграмму композиционных отображений, демонстрирующих замыкание на эффективную причинно-следственную связь, что эквивалентно организационному замыканию.

Он видел эту диаграмму как весьма абстрактное представление процессов, составляющих живую систему. Розен сумел математически доказать, что мы не можем создать алгоритмические модели большинства способов поведения, которое может демонстрировать живая система.

Розен утверждает именно то, о чем мы здесь говорим: есть какие-то организменные поведения, которые не могут быть уловлены ранее существовавшей формальной моделью. Это аргумент неполноты, подобный тому, который Гёдель открыл в математике.

Мы никогда не придем к формальной модели, охватывающей все возможности. Описанное нами происходит потому, что эти возможности нельзя точно предсказать и определить заранее.

Подобные идеи накладывают довольно жесткие ограничения на то, чего традиционная механическая наука и инженерия могут достичь, когда дело доходит до обращения к живым системам и их эволюционным инновациям.

Это влияет на изучение любого типа самоорганизующейся системы в информатике, биологии и социальных науках, включая высокоуровневые системы, такие как экосистемы или экономика.

В этих областях исследования любой чисто формальный подход навсегда останется неполным. Это имеет важные последствия для философии науки: основная проблема в том, что в отношении познания мира, как только мы разделим его на бесконечный набор категорий, мы больше не сможем видеть за пределами этих категорий.

Обоснование смысла реальных объектов находится вне всякого алгоритмического подхода. И это уже философский уровень, точнее, онтология, которая ставит жесткие непреодолимые ограничения на возможность создания сильного искусственного интеллекта.

А это означает еще одну, малоприятную для большинства ученых речь. Мы имеем в виду, что исследования искусственного интеллекта привели к границе всей современной науки без исключения. Дальше — либо тупик и неминуемый кризис, либо переход к метамеханистической науке.

Как бы выглядела такая метамеханистическая наука? Это пока не совсем понятно. Ее методы и концепции только разрабатываются. Но одно кажется очевидным: это будет наука, серьезно относящаяся к свободе воли.

Это сделает возможным телеологическое поведение, коренящееся в самореференциальной замкнутости организации в живых системах. Цели, действия и предписания являются эмерджентными (т.е. возникающими как новое целое) свойствами агентов-агентов и их отношениями к умвельту*, миру значений, в котором они живут.

Описанное очень напоминает философию организма Альфреда Норта Уайтхеда. Он видит мир не столько как часовой механизм, сколько как развивающуюся экосистему, творческие процессы, сосредоточенные вокруг открытия новых таинственных путей развития.

Хотя такие метафизические соображения важны для понимания нас самих и нашего места в мире, этот аргумент также имеет в высшей степени практические последствия. Достижения в исследовании сильного искусственного интеллекта часто упоминаются как один из самых угрожающих экзистенциальных рисков для будущего человечества.

Наш анализ показывает, что такие опасения сильно преувеличены. Ни одна машина не способна заменить нас, поскольку она будет нуждаться в неалгоритмических проверках и системах. Это, конечно, не мешает практическим воплощениям искусственного интеллекта быть вредными, поэтому протоколы и правила для приложений искусственного интеллекта являются срочными и необходимыми.

Но этот интеллект не за горами, и мы не одиноки с такой оценкой. Ограничения существующих приложений искусственного интеллекта ставились под сомнение другими, подчеркивая, что этим системам не хватает автономности и возможностей понимания, которые мы, наоборот, находим в естественном интеллекте.

Истинная опасность ИИ заключается в социальных изменениях и лишении избирательных прав социальных агентов-индивидов, опасность заключается в подчинении и порабощении людей алгоритмами. Тут мы видим контуры нового тоталитаризма. Не Скайнет, а Фейсбук, вероятно, убьет нас.

 

Fundamental Limits On Articial General Intelligence Andrea Roli, Johannes Jaeger and Stuart Kauman. Review of Institute for Systems Biology, Seattle, USА, 2.11.2021

Перевод: Олесь Манюк (кандидат философских наук, консультант по опережающим исследованиям Jansen Capital Management)

 


*umwelt (нем.) — окружающий мир

Вступая в клуб друзей Huxleў, Вы поддерживаете философию, науку и искусство
Поделиться материалом

Если вы нашли ошибку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter.

Получайте свежие статьи
Уже уходите?Не забудьте подписаться на обновления и моментально узнавайте о выходе новых материалов!

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: