ИИ ПРОТИВ НАУКИ: ускоритель идей или разрушитель мировых устоев?

Photo by Google DeepMind on Unsplash

В последние годы искусственный интеллект стал неотъемлемой частью научного процесса. Он помогает набирать текстовые отчеты и обрабатывать данные, предсказывать белковые структуры и открывать новые материалы. Однако парадокс в том, что его влияние на науку — двойственное: ИИ усиливает позиции отдельных исследователей, но одновременно с этим сужает коллективное поле научных открытий.

ИИ ТРАНФОРМИРУЕТ НАУЧНЫЙ ПРОЦЕСС

Исследование, недавно опубликованное в Nature, анализирует данные более 41,3 миллиона научных публикаций из разных областей естественных наук за последние десятилетия — от биологии и медицины до физики и геологии. Этот объем охватывает период с раннего развития машинного обучения до недавней экспансии генеративных ИИ-инструментов. Авторы применили обученную языковую модель для автоматического выявления работ, которые были «усилены» ИИ-инструментами, получив таким образом довольно масштабное представление о влиянии искусственного интеллекта на научную биографию и научное поле в целом.

ИИ ДЕЛАЕТ ПРОДУКТИВНЕЕ ОТДЕЛЬНЫХ УЧЕНЫХ

Результаты поражают своей неоднозначностью. Они свидетельствуют о том, что использование ИИ может вести к индивидуальному успеху и одновременно с этим — к коллективной стагнации. Ученые, активно использующие ИИ-инструменты, демонстрируют впечатляющие личные достижения. Они публикуют в 3,02 раза больше научных работ, чем коллеги без ИИ-поддержки. Их статьи получают в среднем почти в 4,85 раза больше цитирований. Молодые исследователи, активно привлекающие ИИ, достигают руководящих позиций на 1,4 года раньше своих сверстников. Это означает, что искусственный интеллект действительно расширяет индивидуальные возможности — делает научную работу быстрее, продуктивнее и заметнее.

НАУКА КАК СИСТЕМА ДЕГРАДИРУЕТ

Однако коллективная наука как система реагирует на ИИ иначе. В последнее время объем изучаемых тем сократился на 4,63 %. Взаимодействие между учеными (например, цитирование и совместные обсуждения) снизилось примерно на 22 %. Вместо того чтобы открывать новые горизонты, коллективная научная деятельность все чаще концентрируется на областях с большим массивом данных, где ИИ показывает максимальную эффективность. Это приводит к тому, что значительные зоны «научного поля» оказываются слабо исследованными или вовсе игнорируемыми. Но в чем причины этого феномена?

ЭФФЕКТ СЖИМАЮЩЕЙСЯ НАУКИ

Смещение в сторону исследовательских областей с обилием данных — почти неизбежный побочный эффект самих алгоритмов. ИИ-модели ориентированы на то, что можно легко измерить и оптимизировать, а не на то, что трудно формализовать или описать количественно. В результате отдельные исследователи могут достигать быстрых успехов, но этот успех мало похож на то, что уже традиционно считалось коллективным продвижением науки, поскольку исторически она развивалась через открытие новых концептуальных областей или радикальных идей. Этому феномену уже дали название — «эффект сжимающейся науки». Суть его в том, что технологии, призванные расширять наши когнитивные способности, на самом деле фокусируют наши усилия в узких областях, где уже есть богатые данные и ясные метрики.

Вступая в клуб друзей Huxley, Вы поддерживаете философию, науку и искусство

Присоединиться к клубу друзей

ИЛЛЮЗИЯ ПОНИМАНИЯ

Проблема усугубляется тем, что многие ИИ-подходы — особенно основанные на глубоких нейросетях — ведут себя как «черные ящики». То есть выдают предсказания высокой точности, но не объясняют, почему именно так происходит то или иное физическое или биологическое явление. Существует дилемма статистики и машинного обучения: первая стремится к объяснению, второе — к успешному прогнозу. Ставка на сугубо предсказательные функции вместо глубокого объяснения и понимания все чаще критикуется учеными. Ведь цель науки — не только предсказание результата, но в первую очередь понимание причин и механизмов явлений. Используя ИИ, мы получаем «иллюзию понимания». Мы можем думать, будто продвинулись дальше, но на самом деле этого не происходит.

ЛОЖНОЕ ОЩУЩЕНИЕ ПРОГРЕССА

Ничего необычного в этом нет. История науки знает немало примеров, когда технологические трюки казались серьезными прорывами, хотя в реальности лишь маскировали глубокие пробелы в понимании. Та скорость и легкость, с которыми в науке применяется ИИ, создает ложное ощущение прогресса, когда модели просто подбирают корреляции, а не конструктивно проверяют гипотезы или механизмы. Добавьте к этому еще и ошибки в моделях. Например, утечка информации между обучающим и тестовым набором может привести к тому, что работа выглядит убедительной, но на деле не отражает реальных механизмов. Анализ сотен медицинских приложений ИИ показал, что лишь в небольшой части работ соблюдались базовые стандарты качества, а многие модели просто «угадывали» за счет статистических связей в данных, а не по-настоящему распознавали болезнь.

НАУКА ПЕРЕСТАЕТ «ПОНИМАТЬ МИР»

Наука — это не только набор данных и инструмент для прогнозов. Она обеспечивает возможность формулировать понятия, строить теории и понимать связи, которые выходят за рамки измеримых переменных. Низведение науки до набора предсказательных моделей не способствует расширению научных горизонтов: быстрее не всегда означает глубже. Если ИИ вытеснит на периферию науки объяснительную и познавательную часть научной деятельности — постановку вопросов, объяснение механизмов и поиск новых концептуальных направлений — мы рискуем создать науку, которая умеет предсказывать, но плохо понимает мир. Авторы опубликованного в Nature исследования предлагают решения, которые могли бы смягчить негативные эффекты от использования ИИ.

НАУКЕ ВАЖНА НЕ СКОРОСТЬ, А СМЫСЛ

Среди них — разработка стандартов контроля за работой моделей и проверки их на предмет ошибок и утечек данных. Акцент должен делаться на синтезе доказательств и критическом переосмыслении результатов. Также следует создать систему, которая поощряла бы исследования в областях с малым количеством данных. Это поможет сохранить не только продуктивность, но и глубину научного исследования, чтобы ИИ действительно служил развитию знания, а не только карьерному росту. XXI век может войти в историю как эпоха, когда человечество научится эффективно сочетать искусственное и человеческое мышление, извлекая из этого сочетания не только прогнозы, но и истинное понимание мира. Однако для этого потребуется более осознанный подход к роли ИИ в науке — тот, который ставит во главу угла не скорость, а смысл.

Оригинальное исследование: