Что такое дипфейки и как с ними бороться?

Как развитие технологий влияет на доверие людей СМИ?
Будущее фейков
Что такое дипфейки и как с ними бороться?

Как развитие технологий влияет на доверие людей СМИ?
Будущее фейков
В мае этого года в интернете появилось видео, где Дональд Трамп призывает Бельгию выйти из Парижского климатического соглашения: «Как вы знаете, мне хватило смелости выйти из Парижского соглашения. Вы должны поступить так же».

У бельгийцев этот ролик вызвал бурю негодования. В тысячах гневных комментариев люди писали, что Трампу, мягко говоря, не стоит вмешиваться в дела Бельгии.
Трамп, дипфейк
Это видео оказалось подделкой. Его сделала политическая партия Бельгии, Socialistische Partij Anders (sp.a), чтобы привлечь внимание людей к проблеме изменения климата. Как объяснили представители партии, они думали, что бельгийцы не поверят фейковому видео плохого качества.

Дипфейки

В 2014 году магистрант Ян Гулфеллоу создал генеративно-состязательную сеть (GAN). Это алгоритм, который генерирует новую информацию из уже имеющихся данных. Проанализировав тысячи фотографий Барака Обамы, эта сеть способна создать уникальное фото Обамы. Из аудиозаписей алгоритм сделает новое аудио, а из текста – новый текст.
В конце 2017 года на социальном новостном ресурсе Reddit пользователь под ником «DeepFakes» стал постить порнографические видео, изменённые с помощью GAN. Пользователя заблокировали, а видео, сгенерированные искусственным интеллектом, стали называть «deep fakes», глубокими фейками.
Теперь любой, кто имеет доступ к технологии GAN, может сам генерировать фейковые видео. Таким образом он может шантажировать и унижать людей, влиять на ход выборов и сеять панику.

В этом видео искусственный Обама публично оскорбляет Дональда Трампа.

Учёные работают над тем, чтобы научиться распознавать глубокие фейки. Они заметили, что на дипфейках люди моргают недостаточно часто. Взрослые люди моргают в среднем один раз в 2-10 секунд. В настоящем видео это будет заметно.
Алгоритмам трудно найти в интернете подходящее количество фото людей с закрытыми глазами. Поэтому в видео, созданных искусственным интеллектом, есть подобные уязвимости.

Ещё одной зацепкой учёных стало то, что лицо человека меняет оттенки из-за притоков и оттоков крови. На глубоких фейках этих изменений нет, потому что искусственный интеллект ещё не научился улавливать сигналы такого уровня.
Ещё одна опасность заключается в том, что нечестные люди могут выставлять правдивые новости за фейки.
Самая большая угроза, которую несут с собой дипфейки, состоит даже не в содержании. Скорее, в самом их существовании. Постоянный поток ложной информации вынуждает людей перестать верить в то, что они видят и слышат.

Доверие СМИ

Исследователи уверены, что уровень доверия медиа с распространением глубоких фейков будет падать.
Reuters Institute подготовил ежегодный отчёт Digital News Report 2018. В исследовании института участвовали свыше 74 000 человек из 37 стран мира.
Процент людей, которые считают, что большинству новостей можно доверять, сильно варьируется. Финляндия и Португалия занимают верхние строчки (62%), а Греция (26%) и Южная Корея (25%) остаются внизу списка.

Часто падение уровня доверия связывают с политической обстановкой в стране. Так, после выборов в Австрии этот уровень упал на 4% (с 45% в 2017 году до 41% в 2018), а после Каталонского референдума в Испании – на 7% (с 51% до 44%).
Доверяют СМИ меньше половины респондентов, однако большее количество людей верят медиа, которые читают регулярно. Только треть респондентов доверяет новостям, которые находят в поисковых системах (34%).

Дела в социальных сетях обстоят гораздо хуже – 23%. Последние семь лет процент людей, которые читали там новости, увеличивался. Сейчас же рост остановился, а в некоторых странах этот уровень стал падать.

Одна из причин состоит в том, что репутацию Facebook подпортили недавние скандалы с утечкой информации, распространением фейков и хейтспича. Facebook был вынужден изменить свои алгоритмы. Теперь пользователи этой социальной сети видят больше постов от друзей, а новости страниц появляются гораздо реже.

Люди стали чаще пользоваться WhatsApp, Instagram и Snapchat, потому что считают их более удобными и конфиденциальными, чем Facebook.

Доверяют СМИ меньше половины респондентов, однако большее количество людей верят медиа, которые читают регулярно. Только треть респондентов доверяет новостям, которые находят в поисковых системах (34%).

Дела в социальных сетях обстоят гораздо хуже – 23%. Последние семь лет процент людей, которые читали там новости, увеличивался. Сейчас же рост остановился, а в некоторых странах этот уровень стал падать.

Одна из причин состоит в том, что репутацию Facebook подпортили недавние скандалы с утечкой информации и распространением фейков и хейтспич. Facebook был вынужден изменить свои алгоритмы. Теперь пользователи этой социальной сети видят больше постов от друзей, а новости страниц появляются гораздо реже.

Люди стали чаще пользоваться WhatsApp, Instagram и Snapchat, потому что считают их более удобными и конфиденциальными, чем Facebook.
Правда, что есть программы, которые автоматически генерируют новости?
Да, искусственный интеллект уже генерирует спортивные новости высокого качества, потому что писать спортивные новости проще. Думаю, год-два, и поддельные новости будут выглядеть как настоящие и их можно будет генерировать массово. Другой вопрос состоит в том, сколько это будет стоить и сколько люди будут готовы за это платить.
Николаи Кванталиани
Digital Communication Network Ambassador
Вероятно, дипфейки не станут причиной ужасающих событий, поскольку технологии их выявления также развиваются. В распознавании фейков такого уровня вопрос состоит в том, сколько времени займёт верификация.

Однако фейки не обязательно должны быть идеальными, чтобы в них поверили люди. К сожалению.