ШІ ПРОТИ НАУКИ: прискорювач ідей чи руйнівник світового ладу?

Photo by Google DeepMind on Unsplash

Останніми роками штучний інтелект став невід’ємною частиною наукового процесу. Він допомагає створювати текстові звіти та обробляти дані, прогнозувати білкові структури й відкривати нові матеріали. Однак парадокс полягає в тому, що його вплив на науку є двояким: ШІ посилює позиції окремих дослідників, але водночас звужує колективне поле наукових відкриттів.

ШІ ТРАНСФОРМУЄ НАУКОВИЙ ПРОЦЕС

Дослідження, нещодавно опубліковане в журналі Nature, аналізує дані понад 41,3 мільйона наукових публікацій з різних галузей природничих наук за останні десятиліття — від біології та медицини до фізики та геології. Цей обсяг охоплює період від раннього розвитку машинного навчання до нещодавньої експансії генеративних ШІ-інструментів. Автори застосували навчену мовну модель для автоматичного виявлення робіт, що були «підсилені» інструментами ШІ, отримавши таким чином досить масштабне уявлення про вплив штучного інтелекту на наукову біографію та наукову сферу в цілому.

ШІ РОБИТЬ БІЛЬШ ПРОДУКТИВНИМИ ОКРЕМИХ НАУКОВЦІВ

Результати вражають своєю неоднозначністю. Вони свідчать про те, що використання ШІ може привести до індивідуального успіху і водночас — до колективної стагнації. Науковці, що активно використовують інструменти ШІ, демонструють вражаючі особисті досягнення. Вони публікують у 3,02 раза більше наукових праць, ніж колеги без підтримки ШІ. Їхні статті отримують у середньому майже в 4,85 раза більше цитувань. Молоді дослідники, які активно залучають ШІ, досягають керівних посад на 1,4 року раніше за своїх однолітків. Це означає, що штучний інтелект дійсно розширює індивідуальні можливості — робить наукову роботу швидшою, продуктивнішою та помітнішою.

НАУКА ЯК СИСТЕМА ДЕГРАДУЄ

Однак колективна наука як система реагує на ШІ інакше. Останнім часом обсяг досліджуваних тем скоротився на 4,63 %. Взаємодія між науковцями (приміром, цитування та спільні обговорення) зменшилася приблизно на 22 %. Замість того щоб відкривати нові горизонти, колективна наукова діяльність дедалі частіше концентрується на галузях із великим масивом даних, де ШІ демонструє максимальну ефективність. Це призводить до того, що значні зони «наукового поля» виявляються слабо дослідженими або взагалі ігнорованими. Але в чому причини цього феномену?

ЕФЕКТ СТИСКАННЯ НАУКИ

Зсув у бік дослідницьких галузей з великою кількістю даних — майже неминучий побічний ефект самих алгоритмів. Моделі штучного інтелекту орієнтовані на те, що можна легко виміряти й оптимізувати, а не на те, що важко формалізувати чи описати кількісно. У підсумку окремі дослідники можуть досягати швидких успіхів, проте цей успіх мало схожий на те, що вже традиційно вважалося колективним просуванням науки, оскільки історично вона розвивалася через відкриття нових концептуальних сфер або радикальних ідей. Цьому феномену вже дали назву — «ефект стискання науки». Суть його в тому, що технології, покликані розширювати наші когнітивні здібності, насправді фокусують наші зусилля у вузьких сферах, де вже є багаті дані й чіткі метрики.

Вступаючи до клубу друзів Huxley, Ви підтримуєте філософію, науку та мистецтво

Приєднатися до клубу друзів

ІЛЮЗІЯ РОЗУМІННЯ

Проблема ускладнюється тим, що багато ШІ-підходів — особливо тих, що базуються на глибоких нейромережах, — поводяться як «чорні скриньки». Тобто вони дають прогнози з високою точністю, але не пояснюють, чому саме так відбувається те чи інше фізичне або біологічне явище. Існує дилема статистики та машинного навчання: перша прагне до пояснення, друге — до успішного прогнозу. Ставка на суто прогностичні функції замість глибокого пояснення та розуміння дедалі частіше піддається критиці вчених. Адже мета науки — не лише прогнозування результату, а насамперед розуміння причин і механізмів явищ. Використовуючи ШІ, ми отримуємо «ілюзію розуміння». Ми можемо вважати, ніби просунулися далі, але насправді цього не відбувається.

ХИБНЕ ВІДЧУТТЯ ПРОГРЕСУ

У цьому немає нічого незвичайного. Історія науки знає чимало прикладів, коли технологічні трюки здавалися серйозними проривами, хоча насправді лише маскували глибокі прогалини в розумінні. Та швидкість і легкість, з якими в науці застосовується ШІ, створює хибне відчуття прогресу, коли моделі просто підбирають кореляції, а не конструктивно перевіряють гіпотези чи механізми. Додайте до цього ще й помилки у моделях. Наприклад, витік інформації між навчальним і тестовим набором може призвести до того, що робота виглядає переконливою, але насправді не відображає реальних механізмів. Аналіз сотень медичних застосунків ШІ показав, що лише у невеликій частині робіт дотримувалися базових стандартів якості, а багато моделей просто «вгадували» за рахунок статистичних зв’язків у даних, а не дійсно розпізнавали хворобу.

НАУКА ПЕРЕСТАЄ «РОЗУМІТИ СВІТ»

Наука — це не лише набір даних та інструмент для прогнозів. Вона дає змогу формулювати поняття, будувати теорії та розуміти зв’язки, що виходять за межі вимірюваних змінних. Зведення науки до набору прогнозних моделей не сприяє розширенню наукових горизонтів: швидше не завжди означає глибше. Якщо ШІ витіснить на периферію науки пояснювальну та пізнавальну частину наукової діяльності — постановку запитань, пояснення механізмів і пошук нових концептуальних напрямів — ми ризикуємо створити науку, яка вміє передбачати, але погано розуміє світ. Автори опублікованого в Nature дослідження пропонують рішення, які могли б пом’якшити негативні ефекти від використання ШІ.

НАУЦІ ВАЖЛИВА НЕ ШВИДКІСТЬ, А СЕНС

Серед них — розробка стандартів контролю за роботою моделей та перевірка їх на наявність помилок і витоків даних. Акцент слід робити на синтезі доказів та критичному переосмисленні результатів. Також слід створити систему, яка б заохочувала дослідження в галузях з невеликим обсягом даних. Це допоможе зберегти не лише продуктивність, а й глибину наукового дослідження, щоб ШІ дійсно служив розвитку знань, а не лише кар’єрному зростанню. XXI століття може увійти в історію як епоха, коли людство навчиться ефективно поєднувати штучне та людське мислення, отримуючи від цього поєднання не лише прогнози, а й справжнє розуміння світу. Однак для цього знадобиться більш усвідомлений підхід до ролі ШІ в науці — такий, що ставить на перше місце не швидкість, а сенс.

Оригінальне дослідження: