МАШИНА ГАБЕРМАСА: ШІ може знизити конфліктність у суспільстві

Юрґен Габермас — німецький філософ і соціальний теоретик, який працює в традиціях критичної теорії та прагматизму. Теоретична система Габермаса присвячена розкриттю можливості розуму, емансипації та раціонально-критичній комунікації, схованій у сучасних інститутах і в людській здатності міркувати та переслідувати раціональні інтереси / wikipedia.org

Людям часом буває дуже складно досягти компромісу: у всіх різні смаки, погляди на майбутнє і минуле, культурні уподобання, релігійні та політичні ідентичності… Але, як виявилося, штучний інтелект може допомогти нам і в цьому. Велика мовна модель здатна чудово справлятися з роллю посередника, що допомагає досягати групового консенсусу.

ГЕНЕРАТОР СУСПІЛЬНОЇ ЗЛАГОДИ

е встигли два програмісти Google DeepMind отримати Нобелівську премію з хімії «за передбачення структур білків», як компанія знову здивувала світ. Журнал Science розповів, що її фахівці поставили незвичайний експеримент з онлайн-дискусійними групами. У них об’єднували людей з різними, часом навіть протилежними точками зору на досить складну проблему.

Завдання полягало в тому, щоб знайти консенсус, який мав бути формалізований у вигляді якогось резюме. Над формулюванням компромісних рішень працювали два типи посередників: люди і ШІ. Яке ж було здивування дослідників, коли учасники експерименту віддавали перевагу резюме, створеному штучним, а не людським інтелектом. Що ж це означає на практиці?

Ми вже знаємо, що ШІ здатен замінити людину у сферах бухгалтерії та фінансів, реклами та маркетингу, дизайну та копірайту. Однак тепер він може обслуговувати й сферу «суспільної згоди», без якої неможливі ефективні колективні дії. Зокрема, великі мовні моделі здатні перебрати на себе функції, які зараз виконують нинішні громадянські зібрання. Поки що частково, а згодом, можливо, й повністю.

МАШИНА ГАБЕРМАСА: ВІД ТЕОРІЇ ДО ПРАКТИКИ

Нам відомо, що різні групи людей висловлюють свою думку з питань державної політики на громадських зборах. Вбачається, що політики мають почути і врахувати найрізноманітніші точки зору. Однак масштабувати такі демократичні ініціативи складно. Тому зазвичай ці обговорення обмежуються невеликими групами.

Але Крістофер Саммерфілд, директор з досліджень у UK AI Safety Institute, одного разу поставив собі питання: чи не можуть нам допомогти в проведенні подібних дискусій LLM — великі мовні моделі? Для цього він задіяв доопрацьовану версію попередньо навченої програми DeepMind LLM Chinchilla.

Модель отримала вельми знакову назву — «Машина Габермаса». Вибір імені невипадковий: 95-річний Юрґен Габермас є, мабуть, найвпливовішим політичним і соціальним філософом з усіх тих, хто нині живе. Його авторству належить теорія комунікативної дії та етики дискурсу, на підставі якої можна раціонально розв’язати конфлікт. Тепер цю філософську теорію можна втілити на практиці — за допомогою Машини Габермаса!

Вступаючи до клубу друзів Huxley, Ви підтримуєте філософію, науку та мистецтво

Приєднатися до клубу друзів

ШІ — НАЙКРАЩИЙ «ПОСЕРЕДНИК»

Для перевірки моделі дослідники задіяли загалом 439 британців, яких розділили на невеликі групи. Кожній групі було запропоновано для обговорення 3 питання, пов’язані з державною політикою Великої Британії.

У процесі дискусії члени групи висловлювали свою особисту думку з приводу кожного з них. При цьому учасники експерименту могли критикувати і ранжувати думки один одного. А далі наприкінці дискусії ШІ обробляв усю цю інформацію і на її основі генерував підсумкове твердження.

Завдання полягало в тому, щоб воно об’єднувало точки зору всіх учасників таким чином, аби отримати максимальну підтримку групи. Точно таке саме завдання ставили і перед людським «посередником». Учасникам пропонувалося оцінити обидва варіанти підсумкового резюме й визначити, наскільки воно враховує їхню думку.

Більшість учасників (56%) оцінили резюме, написані ШІ, як більш якісні. 44% віддали перевагу резюме, написаному людиною. Крім учасників оцінити два резюме попросили і зовнішніх рецензентів. Вони також поставили резюме ШІ вищі оцінки за чесність, якість та ясність.

НОВІ МОЖЛИВОСТІ — НОВІ ЗАГРОЗИ

На наступному етапі дослідження було сформовано ще одну групу, яка відповідала соціально-демографічній структурі населення Великої Британії. У рамках цієї групи було проведено віртуальні збори громадян. Природно, без спірних тем не обійшлося. Однак після взаємодії з ШІ групова згода істотно зросла.

Це означає, що подібні моделі і в реальному світі здатні допомогти лідерам розробляти такі політичні пропозиції, які враховують різні точки зору. Це суттєво знизить конфліктний потенціал соціальних та політичних процесів.

Автори експерименту вважають, що ШІ може зробити значний позитивний внесок у розвиток дорадчої демократії. Утім, вони вказують і на обмеження, пов’язані з подібними технологіями, які ігнорують потребу людей у живому спілкуванні та звужують певні види комунікаційних просторів.

Крістофер Саммерфілд вказує також і на іншу небезпеку: моделі не навчені спробам втручатися в обговорення, а це значить, що твердження моделі може містити в собі екстремістські чи інші небезпечні переконання.

Оригінальне дослідження: