Профили в социальных сетях, содержащие явные признаки подделки, по-прежнему убеждают большое количество пользователей принимать запросы о дружбе, и это свидетельствует о том, что люди чрезмерно доверяют тому, что они видят в интернете.

Технологией Deepfake, которая может генерировать изображения несуществующих людей с помощью искусственного интеллекта, научились пользоваться мошенники для создания поддельных аккаунтов в социальных сетях. Представители разведки США утверждают, что иностранные шпионы используют профили с поддельными изображениями для установления контактов и сбора информации в деловой социальной сети LinkedIn, пишет 22 февраля научный журнал New Scientist.

Чтобы проверить, насколько легко людей можно обмануть с помощью манипулируемых профилей, Джарон Минк из Университета Иллинойса в Урбана-Шампейн (UIUC) и его коллеги попросили каждого из 286 участников эксперимента просмотреть по три профиля LinkedIn. Два из трех содержали информацию, сгенерированную компьютером, либо в виде изображения профиля, созданного программой Deepfake, либо текста, сгенерированного искусственным интеллектом.

Исследователи создали пять широких типов профилей: один, где изображение и текст были логически связаны и не содержали ошибок; один, где изображение содержало очевидные признаки подделки; один, где человек выглядел намного моложе, чем было упомянуто в тексте; один, где текст был усеян грамматическими ошибками; и один, где текст содержал фактические несоответствия.

Участники приняли запросы «на добавление в друзья» от 90 процентов профилей Deepfake, которые укладывались в логический ряд, и от 79 до 85 процентов из них, имевших очевидные ошибки. При этом на возрастные несоответствия они явно не обращали внимания, а к грамматическим ошибкам отнеслись с меньшим подозрением, чем к качеству изображений.

Когда некоторым подсказали, что «произведения» Deepfake ранее использовались для обмана людей, уровень принятия в друзья противоречивых профилей снизился до 43 процентов. «Эти „обученные“ пользователи немного лучше обнаруживают поддельные профили, но общая статистика показывает, что они все еще не очень хорошо разбираются в них», — говорит Ган Ван, соавтор исследования.

Вызывает беспокойство то, что некоторые участники переоценивают свои возможности, с подозрением относясь к настоящим профилям. Один из них отметил данные о чернокожей женщины как поддельные, только потому что у нее было «нетипичное» имя Крис.

Мошенники могут использовать доверчивость людей, выманивая у них деньги с помощью приложений для знакомств, хотя суммы, вращающиеся в LinkedIn, относительно невелики, комментирует независимый эксперт, профессор Агнес Венема из Мальтийского университета. «Но вот для областей, в которых ставки высоки, а доверие играет ключевую роль, результаты исследования не сулят ничего хорошего», — сказала она.

Представление работы ученых запланировано на симпозиуме по безопасности USENIX в Бостоне в августе нынешнего года.