Все врут: почему самый совершенный детектор лжи все равно ошибается

Иллюстрация Alexey Lipatov

Многочисленные исследования показывают, что полиграф — не лучший способ вычислить лжеца. Однако вера в его точность настолько непоколебима, что ежегодно проводится больше 2,5 млн проверок по всему миру и тратится около 2 млрд долларов. Многие правительственные учреждения и частные компании используют это устройство для оценки честности потенциальных сотрудников.

Казалось бы, это отличное применение для искусственного интеллекта. Он мог бы сделать детекторы лжи более точными, а главное — менее громоздкими и дорогими. Тогда полиграф стоял бы в каждом аэропорту, на каждой государственной границе и даже в кабинете рекрутера или психолога. Но у этого есть и обратная сторона.

Ложь гораздо сложнее, чем кажется машинам. Многие невиновные люди нервничают при допросе. К примеру, Эммануэль Мервилус из Нью-Джерси был обвинен в вооруженном нападении, которого не совершал. Он сам предложил пройти тест на полиграфе, однако за несколько дней до этого умерла его мать. Взволнованный и подавленный, он провалил испытание и был признан преступником. Мервилуса приговорили к 11 годам тюрьмы, и у него ушло три года, чтобы доказать свою невиновность.

Одним из первых коммерческих проектов, занятых созданием детектора лжи на основе ИИ, стал Silent Talker в США. Он основан на нейросети, которая обработала миллионы видео с людьми, которые отвечают на вопросы — кто-то честно, а кто-то врет. Поначалу, в 2000-е годы, точность устройства едва достигала 80%, поэтому его покупали только частные компании, которые использовали полиграф при найме.

Сейчас компания называет свое устройство одним из самых точных. При этом Silent Talker действительно не дорогой: минута видео обходится клиенту в 10 долларов. За эти деньги данные отправляются на сервер, анализируются и возвращаются в виде графика вероятности обмана. Система обрабатывает 40 физических показателей — от наклона головы до скорости моргания.

Однако статистические данные не учитывают индивидуальных реакций, а также того, что большинство тестовых испытуемых, на которых обучался алгоритм, были белыми мужчинами. Не только пол и цвет кожи, но даже ношение очков делает тест менее точным.

Компания Neuro-ID анализирует риски мошенничества по движению мыши и нажатию клавиш. Ей пользуются банки и страховые компании, присваивая соискателям баллы от 1 до 100. Однако если человек отвлекается — на закипающий чайник или вошедшего в комнату члена семьи — система снижает оценку так, как если бы он солгал.

Тем не менее в 2018 году было объявлено о возможном запуске проекта iBorderCtrl, который позволил бы быстро проверять путешественников, пересекающих границы. Такие организации как Privacy International осудили эту идею: «Это часть тенденции, которая ведет к использованию несовершенных автоматизированных систем для оценки и классификации людей».

Мир, в котором человеку придется пользоваться такими системами, чтобы получить кредит или водительские права, вряд ли будет хорошим и справедливым. Однако, как сказано в статье MIT Technology Review, человечество не откажется от идеи детектора лжи, потому что очень сложно отбросить мечту о чтении мыслей.