ЭКЗИСТЕНЦИАЛЬНЫЕ РИСКИ И ГЛОБАЛЬНОЕ УПРАВЛЕНИЕ: интервью с инвестором и филантропом Яаном Таллинном (Часть III)
Фото: Анника Мецла
Елена Бойцун: Когда Вы говорите об управлении, Вы имеете в виду администрирование системы развития ИИ или вопросы, как с помощью ИИ возможно выстроить системы управления? Например, использовать ИИ как механизм для глобальной координации.
Яан Таллинн: Наша общая цель, по сути, такая: определить, как мы можем учитывать мнение более крупных стейкхолдеров (это сейчас популярное слово). Почти 8 миллиардов человек сегодня имеют право на будущее, и, похоже, это несправедливо, что почти никто из них не будет иметь право голоса в процессах, которые в настоящий момент происходят.
Поэтому, на мой взгляд, вопросы управления ИИ на философском уровне, действительно пытаются решить проблему — как дать людям право голоса в формировании их будущего, а не оставлять это право за программистом на серверной ферме. По моему мнению, в этом есть логика и это стратегический философский вопрос.
Тактический и прагматический вопрос заключается в том, какие механизмы мы можем использовать для того, чтобы реализовать право голоса. Некоторые люди говорят, что нам необходимо демократизировать развитие ИИ. Конечно, но если искать наиболее эффективный способ решения такой проблемы, то обучить все 8 миллиардов человек разрабатывать ИИ, скорее всего, не получится.
Так что гораздо лучше, чтобы люди, которые заинтересованы и хорошо подготовлены к разработке ИИ, могли опираться при этом на какие-то механизмы, с помощью которых либо ИИ сможет обеспечивать правильное регулирование самостоятельно, либо будут введены определенные нормативные акты или другие механизмы системы координации для того, чтобы разработчики также могли учитывать интересы людей, которые не участвуют в создании ИИ.
Е.Б.: Возникает вопрос, почему эта группа может считать, что способна разработать самую лучшую систему для человечества? Мне все же кажется – шансы, что случайный программист за одну ночь создаст общий искусственный интеллект, не настолько велики. Возможно, вероятнее, что какой-либо миллиардер решит проинвестировать проект и будет подталкивать всю команду программистов к разработке такого продукта, результаты внедрения которого он в будущем, к сожалению, не сможет контролировать.
Я.Т.: Вы говорите о том же, о чем и я, только на другом уровне. Из кого будет состоять такая команда? Она будет состоять из программистов, работающих ночью на серверных фермах. Вы можете это представлять как инициативу миллиардера, но, в конце концов, он не будет тем, кто непосредственно запустит процесс.
Было бы очень ценно, если бы существовали механизмы для делегирования важных решений, чтобы инженеры, работающие уже сейчас, знали о процедурах, например, для информирования о нарушениях и незаконной деятельности.
Если сумасшедший миллиардер или, что более вероятно, просто какая-нибудь корпорация, во главе которой находятся люди, главной задачей которых является максимизация прибыли, будут настаивать на продолжении разработки потенциально опасной технологии, то инженеры могли бы сказать: «Разве мы не должны соблюдать глобальные правила регулирования ИИ?» Для таких случаев, иметь регулирующие механизмы было бы также очень полезно.
Е.Б.: В одном из своих выступлений Вы сказали, что капитализм создал ощущение безопасности (safety feeling) для развития технологий, что, как мне кажется, хорошо подходит к нашей дискуссии о миллиардерах и программистах. Считаете ли Вы, что отсутствие регулирования может быть проблемой?
Я.Т.: Я вырос в Советском Союзе, при постоянной пропаганде о вроде бы разбитом вдребезги капитализме, но, к счастью, в Эстонии мы могли смотреть и финское телевидение, и несколько сомневаться в том, сколько правды было в пропаганде.
Капитализм явно превосходит то, чем когда-либо была советская плановая экономика, и важным фактором в этом является то, что между потребителями и производителями существует положительная обратная связь.
Не очень эффективно разрабатывать технологии, которые не нужны потребителям, а потребители могут голосовать своими деньгами, тем самым подталкивая экономику к тому, что полезно и ценно для людей. Но важно понимать, что это не решает все возникающие вопросы из-за двух моментов: внешних факторов, которые рынок не поощряет включать в расчеты естественным путем (например, воздействие на окружающую среду), и таких вещей, которые не зависят от потребителей (например, военные технологии).
Капитализм создает почти полную иллюзию, что будущее будет становиться все лучше и лучше, потому что компании всегда на стороне потребителей. И вот здесь в игру вступают важные внешние факторы, к примеру, внезапные масштабные катастрофы, которые не были учтены рынком, жили другие сильные ограничители.
Я могу наблюдать и сравнивать США и Китай: в одной из стран, хотя бы номинально, — коммунистический режим, а в другой — капитализм свободного рынка. И когда я задумываюсь о том, как устранить потенциальные риски, связанные с передовыми технологиями, я вижу, что Китай сейчас находится в гораздо лучшем положении для регулирования, потому что там и в целом более жесткая система регулирования.
Если возникнет действительно опасная ситуация, то они смогут остановить развитие, в то время как в США почти все могут согласиться с тем, что ситуация опасна, но им могут понадобиться десятилетия, чтобы остановить процесс. Неэффективное устранение воздействия таких внешних факторов — это дополнительное свидетельство слабости капитализма.
Е.Б.: Сейчас среди экономистов ведется много дебатов по поводу преимуществ разных систем. Выделяют, в частности, китайскую систему, которую называют государственным капитализмом (state capitalism), в противопоставление традиционному рыночному капитализму. Но если капитализм имеет свои недостатки, а плановая советская экономика, как мы точно знаем, не работает, то какая же система, по вашему мнению, была бы наилучшей для отдельной страны или даже для глобального уровня координирования?
Я.Т.: У меня пока нет какого-либо сформированного мнения по этому поводу. Как технологический специалист, я считаю блокчейн очень интересной технологией. В рамках вопроса, за последние лет десять блокчейн принес самое важное — возможность глобально достичь согласия по поводу каких-либо данных без того, чтобы доверять кому-либо хранение этих данных.
Я организовал несколько рабочих сессий между специалистами по блокчейну и по безопасности ИИ, чтобы подумать, есть ли какие-либо позитивные практические примеры, которые можно использовать для помощи в координировании наиболее эффективным способом и для того, чтобы людям было легче доверять системе.
В целом я считаю, что в глобальном управлении такие понятия как сотрудничество и прозрачность процессов важны, и блокчейн хотя бы на каком-то уровне, с какой-то стороны привносит эти две вещи.
Но при этом я действительно не придерживаюсь какого-либо определенного мнения по поводу конкретной системы, я просто считаю, что для нас важно повысить нашу способность сотрудничать.
Е.Б.: Вы считаете, что пока еще не выкристаллизовалась хорошая идея для глобального механизма управления?
Я.Т.: На глобальном уровне до сих пор еще никогда не было мировой координации. Между государствами происходит «трагедия общин», «трагедия ресурсов общего пользования» (tragedy of commons — под этим термином понимают явления, которые связаны с противоречием между интересами индивидов относительно блага общего пользования).
Возьмем, к примеру, гонку вооружений. Причина, по которой вы участвуете в гонке вооружений заключается в том, что в ней принимают участие другие люди, так что это замкнутый круг. Вот почему так важно иметь международные договоры, чтобы ограничивать моменты, которые могут подтолкнуть к конкурирующим интересам. Это классическая «дилемма заключенного», или «трагедия общин».
В общих интересах всех людей, чтобы все бездействовали, например, чтобы никто не вкладывался во все более мощное оружие, но при этом членам отдельной группы еще более выгодно быть единственными, кто делает это. Это означает, что вы в ситуации без равновесия Нэша, или с плохим равновесием Нэша (понятие из теории игр, стратегия в игре для двух и более игроков, в которой ни один участник не может увеличить выигрыш, изменив свою стратегию, если другие участники своих стратегий не меняют).
Если вы нашли ошибку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter.