Андрей Чахоян: «Искусственный Интеллект: армагеддон или панацея?»

Андрей Чахоян, основатель и СЕО Strategic Narrative Consulting (Нидерланды), выпускник программы глобального лидерства (Global Leadership Fellow) в рамках Всемирного экономического форума (Швейцария), магистр государственного управления Гарвардского Университета (США)

 

ИИ будет ключевой технологией в достижении [человеческого] прогресса. У нас есть моральный долг воплотить это в жизнь, не забыв про риски

 

«Забудьте о Северной Корее — ИИ развяжет третью мировую войну» — гласит  заголовок статьи CNN, ссылаясь на заявление Элона Маска, которое обнажило страхи человечества перед неготовностью ответить на вопрос, сможем ли мы сохранить контроль над будущими технологиями и автономными алгоритмами, работа над которыми идет уже сейчас и ускоряется с каждым днем?

Как только изобретается и запускается новая технология, этот процесс невозможно повернуть вспять, отмечает Сэм Харрис в своей вирусной лекции TED. Он утверждает, что остановить темп прогресса просто невозможно, как бы человечество ни пыталось.

В то время, как позиции Билла Гейтса, Стивена Хокинга и многих других в целом совпадают с позицией Маска и Харриса, некоторые эксперты отрасли подчеркивают, что ИИ, как и любая другая технология, беспристрастен по отношению к человеческим ценностям.

Нейтральность является базовой характеристикой практически любой технологии. Производство пороха, например, первоначально было предназначено для фейерверков, а не оружия.

Рэй Курцвейл, например, утверждает, что «ИИ будет ключевой технологией в достижении [человеческого] прогресса. У нас есть моральный долг воплотить это в жизнь, не забыв про риски». По его мнению, у человечества достаточно времени для разработки этических установок и нормативных стандартов.

По мере того, как мир приближается к сингулярности, грядущие технологии неизбежно изменят жизнь людей к лучшему в той или иной мере.

Наша задача — убедиться в том, что перемены действительно к лучшему. Что объединяет и критиков, и апологетов ИИ, это то, что и те, и другие осознают, что стремительный рост ИИ изменит мир до неузнаваемости.

В моих исследованиях я наткнулся на яркую метафору, озвученную Вернером Винджи в подкасте Invisibilia на американском Национальном Общественном Радио (NPR): «Присутствие компьютеров во всех аспектах нашей жизни, их внедрение в наше тело изменит наши возможности настолько, что в один прекрасный день, будущие мы оценим интеллект сегодняшних нас на том же уровне, на котором мы его созерцаем у рыбок в аквариуме.»

Если это действительно и есть сущность технической эволюции, то наши современные нормы и ценности просто вылетают в трубу.

Даже если точные прогнозы на 50, 100, 200 лет вперед в принципе невозможны, мне кажется мы обязаны хотя бы попытаться посмотреть на сегодняшнюю реальность через призму экспоненциальных технологий, чтобы переосмыслить наши основные предположения, пересмотреть основы человеческого поведения и организацию нашего общества.

Наше будущее с ИИ может обернуться апокалипсисом, идиллией, или, скорее всего, чем-то средним. А строя догадки, мы неизбежно проецируем наше современное ценностное мировосприятие на будущее. Именно поэтому важно научиться распознавать эту нашу склонность к предубеждениям, которые мы применяем, пытаясь осмыслить будущее.

 

Присутствие компьютеров во всех аспектах нашей жизни, их внедрение в наше тело изменит наши возможности настолько, что в один прекрасный день, будущие мы оценим интеллект сегодняшних нас на том же уровне, на котором мы его созерцаем у рыбок в аквариуме

 

Помещая войну и ИИ в одно предложение, мы антропоморфизируем последнее.

Когда мы тревожимся о том, что роботы и машинный интеллект приведут к массовой безработице, мы не должны забывать, что такое беспокойство оправдано только в том случае, если человеческий труд останется экономической необходимостью.

Когда мы говорим, что неконтролируемый технический прогресс приведет к еще большему неравенству, мы предполагаем, что такие понятия, как частная собственность, материальные ценности и деньги, переживут четвертую индустриальную революцию.

Трудно дать определение аксиомам и фундаментальным терминам, а тем более подвергнуть их сомнению. Но, возможно, разыграв несколько сценариев, мы смогли бы обойти наши предубеждения в попытках прогнозировать будущее.

 

КОНКУРЕНЦИЯ И СОТРУДНИЧЕСТВО

 

С другой стороны, мы — по словам Эдварда О. Уилсона — «одна из двух десятков или около того эволюционных ветвей животного мира, которые смогли развить эусоциальность, следующий уровень биологической организации после организмической.

На этом уровне члены группы из двух или более поколений остаются вместе, сотрудничают, ухаживают за молодыми и разделяют труд…».

Другими словами, очень вероятно, что мы обязаны ошеломляющему успеху нашего вида тому тонкому балансу, который мы поддерживали между инстинктами конкуренции и сотрудничества.

 

Независимо от того, является ли машинный интеллект на уровне человеческого неизбежным или даже достижимым, идея пост-дефицитной экономики набирает силу

 

Независимо от того, является ли машинный интеллект на уровне человеческого неизбежным или даже достижимым, идея пост-дефицитной экономики набирает силу. Если тотальная автоматизация создаст общество, в котором человеческий труд не будет востребован, каковы будут более широкие последствия для системы человеческих ценностей и организации этого общества? Когда алгоритмы научатся лучше людей принимать решения, и мы отдадим им большую часть своей собственной автономии, какова будет участь нашего конкурентного инстинкта?

Какой будет смысл в конкуренции за ресурсы в эпоху изобилия? Возможно ли, что наш инстинкт конкуренции постепенно утратит свою актуальность? Возможно ли, что мы сможем обойтись без него в будущем? В отличие от муравьев и пчел, которые взаимодействуют на основе жестких протоколов, люди удивительно гибки в адаптации своих способностей к сотрудничеству.

По словам Юваля Харари именно эта гибкость и привела в конечном итоге к доминированию сапиенсов на Земле. Возможно ли, что потребность в конкуренции превратится в атавизм, как только технологические преобразования, описанные Курцвейлом, начнут материализироваться?      

                                       

ЭКОНОМИКА

 

Как мы можем быть уверенными, что основные столпы нашего экономического мышления (частная собственность, материальные ценности, деньги и т.д.) выживут в условиях пост-дефицита?

Кого будет волновать производительность труда через 100 лет?

Насколько уместной может быть политика, стимулирующая занятость, если человечество начнет «бесплатно кататься» на «усилиях» машин?

Что мы сможем себя занять, когда система спроса и предложения пошатнется?

Для сегодняшнего человека, занятого оплачиваемой работой, перспектива неограниченного свободного времени может показаться скорее проклятием, чем благословением.

Если смотреть сквозь призму естественного отбора, это чувство логично: в прошлом, экономический вклад тех, кто мог это сделать, был бы предпочтительнее массового стремления к праздности.

Однако, можем ли мы проецировать ту же самую тенденцию в будущее? То, что сейчас может звучать для нас как упадок и загнивание, может быть истолковано совершенно иначе в мире, который больше не поддерживается известными нам, в настоящее время, экономическими силами.

Рабочая гипотеза состоит в том, что, несмотря ни на что, кто-то все равно будет владеть машинами и платить за товары и услуги. И все же, собственность и деньги – не что иное как социальные конструкции. Если право собственности утратит смысл, а деньги перестанут быть релевантной единицей обмена, каким образом можно будет определить социальный статус?

 

Для сегодняшнего человека, занятого оплачиваемой работой, перспектива неограниченного свободного времени может показаться скорее проклятием, чем благословением

 

Действительно, вопросов много, а ответов мало. Откровенно говоря, я не в состоянии выдвинуть конкретные предложения или обосновать мои, без сомнения, спекулятивные доводы.

Но факт остается фактом, что мы однозначно стоим на пути к низвержению сил эволюции, которые с незапамятных времен были основными движущими силами нашего поведения.

Несмотря на то, что политические и религиозные догмы со временем изменились, основной экономический принцип — удовлетворять человеческие потребности и желания, продиктованные человеческими же усилиями — остался прежним.

Тем не менее, этим фундаментальным силам явно угрожают ускоряющиеся темпы технического прогресса, не говоря уже о сингулярности.

Представленные мною идеи могут показаться утопическими и наивными. И все же, Элон Маск, возможно прав, когда говорит, что изобретение ИИ может означать конец человеческой расы.

Поэтому человечество несет огромную ответственность за разработку адекватного управления искусственным интеллектом и должно это основательно продумать, прежде чем предпринимать решительные шаги. Тем не менее, мы должны осознавать пределы нашего понимания и апеллировать к нашему воображению; ведь воображение — это исключительно человеческая черта. По крайней мере, пока.