Дмитрий Волконский
Основатель и президент UATECH, член совета CEO Club
Liberal Arts
4 мин. на чтение

Критическое мышление в эпоху дипфейков. Почему это второй важный навык в десятке навыков будущего?

Поделиться материалом

Фотоколлаж: Huxleў 

Благодаря интернету и технологиям, мы смогли общаться с людьми из любой точки земного шара, получать мгновенный доступ к информации, работать удаленно и делать еще много вещей, которые раньше для человечества были невозможны.

Но в то же время, интернет сделал нас более уязвимыми. Мошенники получили больше возможностей украсть наши данные и деньги, а заинтересованные стороны — убедить в неправдивой информации.
«Фейк ньюз» считают одной из главных угроз для человечества в будущем, и неспроста: технологии развились настолько, что могут обмануть даже самых опытных пользователей. Как же сохранить критическое мышление в эпоху новой реальности?

Онлайн-мошенничество

В одной только Америке в 2019 году от киберпреступлений пострадало минимум полмиллиона человек — это только официальные кейсы. По прогнозам Cybersecurity Ventures, в 2021 году мировая экономика потеряет $6 млрд от мошенничества в сети — как с компаниями, так и с людьми.

В ФБР отмечают, что самыми распространенными способами преступлений остаются фишинг — рассылка фейковых писем с целью получить конфиденциальные данные вроде логинов и паролей — и вымогательство. Статистика это подтверждает: в исследовательской компании Accenture подчеркивают, что фишингу подвергаются 85% компаний, а их число ежегодно растет.

Среди других способов мошенничества, с которыми сталкиваются многие люди — фейковые объявления о продаже товара или поиске сотрудника; а также — лотереи. Не стоит также забывать и о ботах на сайтах знакомств, несуществующих докторах и нелегальных казино с нулевым возвратом.

В 2019 году ФБР получило почти 20 000 обращений по поводу мошенничества в дейтинговых приложениях — потери жертв составили $475 млн.

Другой способ обмана — фейковая информация, и в некоторых случаях она может привести к более губительным последствиям. Свежий пример — смерть мужчины в США, который выпил средство для чистки аквариумов, прочитав, что оно может предотвратить коронавирус.

Люди подвергаются мошенническим схемам и выдумкам из-за нехватки критического мышления: способности оценить подлинность собеседника или достоверность информации. И сейчас эта проблема только усугубляется — из-за появления технологий, которые позволяют создавать все более изощренные способы обмана.

Дипфейки

В конце 2017 года СМИ и общественность потрясла история с интернет-сервиса Reddit. Пользователи нашли аккаунт, который регулярно выкладывал порноролики, где лица актрис были заменены лицами Галь Гадот, Скарлетт Йоханссон, Тейлор Свифт и других знаменитостей. Поразило то, насколько натурально и правдоподобно выглядела подмена людей.

Эту и другие подобные технологии обобщают термином «дипфейк». Они начали появляться несколько лет назад, но общественность обратила на них внимание сравнительно недавно. Дипфейки — это сфабрикованные с помощью искусственного интеллекта (ИИ) аудио- или видеоматериалы, на которых «оригинальный» человек заменен другим.

Появление дипфейков стало возможным, именно благодаря активному развитию ИИ, в частности — технологии «глубинного» обучения, которая включает в себя, собственно, обучение нейронных сетей. Легче разобраться на конкретном примере: как объяснил пользователь Reddit, который публиковал дипфейк-порно, он использовал открытые библиотеки для создание нейросети, и базу фотографий и видео из интернета для ее обучения.
Сейчас с помощью дипфейков можно делать многие вещи: создавать аудиозапись с речью человека, которую он никогда не говорил; «натурально» редактировать мимику или тембр голоса спикера на видео; или даже полностью заменять лицо на ролике другой личностью.

За последнее время появился ряд дипфейков, которые пугают своей натуральностью. Один из пользователей создал фальшивое видео с CEO Facebook Марком Цукербергом, где тот говорит о намерениях манипулировать людьми; Музей Сальвадора Дали в США «воскресил» художника для рекламного видеоролика.

Интересный кейс случился с новогодней речью президента Габона Али Бонго Ондимба. Накануне он не появлялся на публике, и ходили слухи о проблемах с его здоровьем. Видеопоздравление должно было рассеять сомнения, но местная оппозиция заявила, что видео на самом деле является дипфейком. Это до сих пор доподлинно неизвестно, но кейс показывает новую реальность: то, что мы уже знаем о существовании подобной технологии, заставляет нас смотреть на каждое странное видео, как на фейк.

Будущее дипфейков

Государства и эксперты считают технологию серьезной угрозой для будущего. Сейчас все предложения по борьбе с дипфейками сводятся к четырем направлениям: госрегулирование, корпоративная политика и волонтерство, образование и специальные инструменты для автоматического определения.

Страны постепенно начинают двигаться в сторону запретов дипфейков на законодательном уровне.

Китай принял закон, который обязывает создателей мультимедиа-материалов с использованием искусственного интеллекта, помечать их соответствующей маркировкой.

Штат Вирджиния включил в свой акт о «порномести» положение о незаконности распространения фейковых видео и изображений.

В борьбу с дипфейками включились и технологические компании. В начале года Facebook начал блокировать видеоматериалы, сфабрикованные с помощью ИИ. В YouTube подчеркнули, что будут удалять подобные видео на политическую тематику во время президентских выборов в США 2020 года.

В то же время Facebook и Microsoft запустили конкурс на создание инструментов для автоматического определения дипфейков. Google, в свою очередь, опубликовала гигантскую базу данных подобных видео для исследователей.

Важность критического мышления

Несмотря на все попытки обезопасить людей от мошенничества посредством технологий и регулированием, главная ответственность лежит на самом человеке и, в частности, — его способности мыслить критически. Распространение фейковых новостей в интернете показывает, что часто многие не справляются с этой задачей.

В опросе британского Университета Лафборо больше 40% респондентов признали, что хотя бы раз распространяли неправдивую информацию.

Почему люди верят фейковым сведениям? Кристофер Дуайер, преподаватель Ирландского национального университета и автор книги «Критическое мышление», выделяет несколько факторов: стремление подтвердить свою точку зрения, недостаточная оценка источника, эмоциональность и банальная когнитивная лень. На мой взгляд, важную роль также играет «эффект голубого ящика», когда мы склонны верить людям на экране телевизора или смартфона.

С распространением дипфейков и других, ранее невиданных технологий, важность критического мышления как никогда актуальна. Как определить правдивость информации в интернете?

Вот несколько советов, опубликованных Гарвардским университетом:

  • Проанализируйте надежность источника.
  • Обратите внимание на домен (авторитетные СМИ и организации обычно используют домены верхнего уровня), прочитайте раздел «О нас», проверьте предыдущие публикации автора.
  • Оцените качество. Если видите ошибки или огрехи в оформлении — смело закрывайте страничку.
  • Обратите внимание на источники. Проверьте, есть ли в тексте активные ссылки на оригинальное сообщение или поищите в сети публикации на эту тематику на других ресурсах.

Эти пункты будут актуальны и для дипфейков. Если увидите видео с громкими, противоречивыми высказываниями известной личности, не поленитесь и поищите дополнительную информацию в сети. Возможно, найдете новость о том, что по интернету «гуляет» новый дипфейк.

Всемирный Экономический форум в своем отчете о работе в будущем, поставил критическое мышление на второе место в списке десяти самых необходимых навыков для специалистов будущего.

Но это актуально не только для поиска работы. Возможность поставить под сомнение получаемую информацию поможет во всех ситуациях — от потребления новостей до взаимодействия с потенциальными мошенниками.


Поделиться материалом

Если вы нашли ошибку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter.

Получайте свежие статьи

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: