ГРАНИ СОЗНАНИЯ: ученые спорят о том, может ли чувствовать искусственный интеллект
Джонатан Берч — профессор философии Лондонской школы экономики и политических наук / academicspeakersbureau.com
Являемся ли мы единственной разумной формой жизни на планете? Ответить на этот вопрос не так-то просто. Все больше данных говорят об удивительных способностях многих видов птиц, рыб и млекопитающих. Недавно к дискуссии подключился еще один претендент на разум — искусственный интеллект. Насколько он вообще «интеллект»? Чем отличается его «разумность» от того, что мы наблюдаем в мире людей и животных? На эти и другие вопросы попытался найти ответ британский философ Джонатан Бирч.
ТЕСТ НА ЧЕЛОВЕЧНОСТЬ
Джонатан Бирч — профессор Лондонской школы экономики и политических наук, который специализируется на проблемах эволюции социального поведения. В своей новой книге «Грань сознания: риск и меры предосторожности у людей, других животных и искусственного интеллекта», увидевшей свет в издательстве Оксфордского университета, философ поднимает целый ряд очень необычных на первый взгляд вопросов.
Например, может ли искусственный интеллект (ИИ) испытывать стресс? Страдают ли лобстеры в кастрюле, пока она кипит? Может ли 12-недельный плод чувствовать боль? Просто так отмахнуться от подобных вопросов не получится, поскольку от ответов на них зависит содержание того, что мы называем человечностью, сам смысл нашей цивилизации.
НЕ ТОЛЬКО ЛЮДИ УМЕЮТ ЧУВСТВОВАТЬ
Если некая сущность обладает «чувствительностью», значит, она требует к себе определенного отношения, ей необходима защита. Под чувствительностью Бирч понимает способностью ощущать себя хорошо или плохо. Философия и религия могут по-разному оценивать то, насколько чувствительность важна для нас.
Однако, наделяя кого-то чувствительностью, мы сразу же оказываемся в этическом смысловом поле и сталкиваемся с проблемой различения добра и зла. У нас нет никаких оснований полагать, что мы можем говорить на этот счет исключительно в отношении людей. Это могут быть сельскохозяйственные животные, наборы клеток, насекомые или роботы — любые существа, у кого мы можем обнаружить чувствительность.
РАЗНЫЕ СУЩЕСТВА — РАЗНЫЕ МОДЕЛИ РАЗУМНОСТИ
Проблема лишь в том, как это установить. Как определить, является ли нечто разумным? На сегодняшний день не существует непротиворечивой научной или философской концепция разумности. Вместо нее мы имеем массу фундаментальных разногласий. Интерпретация экспериментальных данных различается.
Люди не проводят постоянных исследований разумных способностей многих существ, включая животных и ИИ. Кроме того, возникает проблема измерения. У млекопитающих модели поведения и мозговая активность могут существенно отличаться от разума брюхоногих моллюсков. Соответственно, и тест на разумность для них должен быть другим. А как нам измерить разумность систем ИИ, у которых вообще нет мозга или физических проявлений чувств?
Бирч предлагает не надеяться на то, что со временем эта неопределенность разрешится сама собой, и сыграть на опережение: выработать подход, который при первых подозрениях в разумности существа запускает два процесса.
МЕТАКОНСЕНСУС И ТЕСТ НА ЧУВСТВИТЕЛЬНОСТЬ
Первый предполагает, что эксперты определяют перспективы сущности — насколько она в принципе может быть разумной. При этом речь не идет о консенсусе. Требовать здесь консенсуса — несправедливо, потому что его поиск потенциально может обрекать чувствительное существо на длительные страдания. Вместо этого Бирч предлагает «научный метаконсенсус», который бы запускал защиту.
Под этим философ понимает взгляд на разумность не как на некие измеримые данные, а как на «правдоподобную возможность», с которой согласны даже сомневающиеся. Заключение о таком правдоподобии может быть сделано на основе доказательств и последовательных теоретических построений. Если же метаконсенсус отсутствует, существа могут быть определены как приоритетные для исследования или отклонены как неразумные.
БОЛЬШИЕ ЯЗЫКОВЫЕ МОДЕЛИ — РАЗУМ ИНОГО ТИПА?
После вышеописанных экспертных процедур запускается второй процесс: инклюзивные, информированные гражданские комиссии разрабатывают защитные политики в отношении кандидата на чувствительность. Они должны быть пропорциональны рискам чувствительности такого субъекта, учитывать различные ценности и компромиссы, а также пересматривать свои оценки по мере накопления новых доказательств.
По мнению Бирча, есть три области, которые бросают вызов нашим определениям чувствительности. Первая — это человеческий мозг (люди с расстройствами сознания, эмбрионы, нейронные органоиды и синтетические модели мозговых систем). Вторая — это животный мир (млекопитающие, рыбы, птицы, моллюски, насекомые, черви, пауки). И, наконец, третья область — это искусственный интеллект (LLM, большие языковые модели).
РАЗРАБОТКА НОВЫХ КРИТЕРИЕВ
В каждой из этих трех областей есть нерешенные проблемы, которые сопровождаются философскими и научными спорами. Стоит согласиться, что мы очень мало знаем о разумности всего того, что нас окружает. Так, например, изучая ИИ, мы сталкиваемся с проблемой разработки тестов на чувствительность. LLM генерирует некий текст о том, как он «чувствует».
Однако он делает это не потому, что он действительно так себя чувствует, а потому, что алгоритм вознаграждается за имитацию чувствительности. В такой ситуации поведенческие маркеры для определения чувствительности явно не подходят. Вместо них Бирч предлагает начать поиск других, «глубинных вычислительных маркеров» чувствительности.
ГДЕ ГРАНИЦЫ РАЗУМНОСТИ?
В своей рецензии на книгу Бирча Джонатан Киммельман, биоэтик канадского Университета Макгилла (Монреаль), задает справедливый вопрос: почему бы нам не посмотреть на сформулированную философом проблему еще шире? Киммельман напомнил, как в 1995 году тогдашний президент США Билл Клинтон описал США как общество, находящееся «в унынии».
То есть чувствительностью, «настроением» может обладать не только отдельный человек, но и страна. То же самое можно сказать и о других коллективных образованиях — пчелином рое, стае рыб, корпорации, нации. Их тоже можно описать таким образом, как будто они обладают своего рода сознанием? А что, если мы будем интерпретировать в этом стиле поведение больших экосистем или планеты Земля в целом?
ЗАЩИТА ЧУВСТВ: ВСЕ ОЧЕНЬ НЕПРОСТО
Киммельман также указывает на проблему «соразмерности методов защиты». Найти компромисс между всеми чувствующими существами чрезвычайно сложно. Люди неважно справляются с необходимостью поступиться своими интересами в пользу других чувствующих существ, например, таких как животные на фермах.
Может ли определенная форма и интенсивность чувства иметь какие-то преимущества перед другой формой или чувством? Приобретает ли чувство большее значение в связке с другими атрибутами, такими как интеллект? Могут ли чувствующие и разумные существа предъявлять более высокие требования к мерам защиты, чем существа чувствующие, но неразумные?
Книга Бирча ставит массу вопросов, на которые сегодня вряд ли возможно найти однозначный ответ. Однако в любом случае науке и философии рано или поздно придется на них отвечать, чтобы утолить интеллектуальный голод, порожденный неопределенностью.
Оригинальное исследование: