Искусственный интеллект учится распознавать травлю и домогательства

В компании AI NexLP, которая разработала #MeTooBots, честно говорят, что отличить травлю  и приставания от неформального общения непросто. Тут и нюансы языка, и полунамеки, и определенный эмоциональный окрас сообщений

Программа #MeTooBots, названная в честь известного флешмоба, в котором женщины рассказывали о своем опыте домогательств со стороны мужчин, способна распознавать неадекватное поведение в переписках.

Уже сейчас проект используется пятьюдесятью корпоративными клиентами, среди которых — торговые и фармацевтические компании, а также — юридические фирмы в Лондоне. Для юристов проблема домогательств особенно актуальна: примерно треть британских женщин-адвокатов сообщают о приставаниях со стороны коллег и клиентов.

Бот умеет выявлять прямые оскорбления и неприличные намеки в документах компании, письмах и чатах. Все, что искусственный интеллект отмечает как некорректное поведение, отправляется менеджеру по персоналу.

В компании AI NexLP, которая разработала #MeTooBots, честно говорят, что отличить травлю и приставания от неформального общения непросто. Тут и нюансы языка, и полунамеки, и определенный эмоциональный окрас сообщений.

Поэтому сама идея программы подвергается критике. Бот научен на определенных примерах. В отличие от человека он не понимает ни культурных особенностей, ни уникальной межличностной динамики. То есть он рискует пропустить неадекватные сообщения, или наоборот — принять невинную шутку за нарушение границ.

Проект критикуют и за нарушение приватности. Сэм Сметерс, исполнительный директор Общества Фосетта, неправительственной организации по защите прав женщин, сказала: «Мы хотели бы понимать, как разрабатывалась эта технология и действительно ли она способствует равенству. Или это просто очередной способ контролировать своих сотрудников».

Тем не менее, она же отмечает, что бот может создать базу оскорбительных сообщений, которая будет использована для обучения более совершенного ИИ.

Morgan Lewis — одна из юридических фирм, которая специализируется на трудоустройстве в США. Она успешно использует эту технологию. По словам руководства компании, они не стремятся контролировать своих работников, а пытаются защитить их от некорректного поведения со стороны клиентов.

Источник: The Guardian