Ваш друг — Бот: или как нейросети Facebook находят миллиарды фейковых аккаунтов

Фейковые аккаунты в соцсетях используются не только для распространения спама, но и для создания иллюзии поддержки определенных политических сил, рассылки вредоносных программ и мошенничества.

За год только Facebook удалил 6,6 млрд таких аккаунтов. При том что ежемесячная активность реальных людей в этой соцсети оценивается в 2,5 млрд человек. Это означает, что боты есть в друзьях буквально у каждого из нас, а многие группы, в которых мы состоим, растут за счет покупки фейков.

Facebook часто приходится иметь дело не только с мошенничеством, но и с профилями, которые на самом деле должны быть группами. Например, странички коммерческих компаний или домашних животных. С ними поступают просто: меняют тип страницы и оставляют в покое. А вот аккаунты, которые созданы с нечестными целями, нужно обнаружить и удалить до того, как они добавят в друзья тысячи реальных людей.

Для этого была создана система машинного обучения Deep Entity Classification. Она учится различать фейковых и настоящих пользователей по шаблонам поведения в сети. Программа выделяет более 20 тысяч характеристик и оценивает каждую учетную запись. Среди критериев, например, средний возраст и гендерное распределение друзей пользователя.

После того, как система изучила множество реальных аккаунтов, с ней вручную работали люди, которые понимают культурные особенности разных стран. И только затем она прошлась по всему массиву пользователей.

Тем не менее, по данным компании, ежемесячно создается около 125 млн поддельных аккаунтов. А программы и люди, которые их генерируют, становятся все изобретательнее. Нейросети позволяют создавать правдоподобные фотографии и развивать странички, которые по контенту и активности почти не отличаются от настоящих пользователей. Какой бы механизм ни использовали соцсети, им никогда не удастся выловить все фейковые аккаунты. Не говоря уже о том, что эта проблема актуальна не только для Facebook, но и для любого сайта, где доступна регистрация.

Поэтому нам приходится жить в мире, где не всегда понятно, с реальным ли человеком ты говоришь и действительно ли у фаворитов президентских гонок десятки миллионов онлайн-поклонников.