Нейросеть научили разоблачать мошенников, использующих дипфейки

Ученые Санкт-Петербургского федерального исследовательского центра Российской академии наук разработали прототип нейросети для дипфейков, созданных технологией фейс-свап. Об этом сообщили ТАСС в пресс-службе СПб ФИЦ РАН.

Методика фейс-свап заключается в том, что на оригинальную фотографию человека накладывается поддельное лицо. Она достаточно активно используется кибермошенниками. Разработку ученых СПб ФИЦ РАН можно будет встроить в системы защиты видеозвонков для противодействия аферистам.

«Мы разработали программу, которая, используя нейросеть, может автоматически распознать фейс-свап, созданный с применением технологии дипфейк», - объяснил руководитель Международного центра цифровой криминалистики СПб ФИЦ РАН Андрей Чечулин.

В отличие от обычного визуального восприятия, объяснил он, когда человеку сложно заметить подделку, система анализирует множество скрытых параметров изображения. Также она выявляет характерные искажения.

Как отметили в учреждении, серьезной проблемой цифровой среды является мошенничество в Интернете. За 2024 год от деятельности киберпреступников россияне потеряли около 300 миллиардов рублей. В последние годы мошенники стали активно использовать сервисы ИИ, и одной из популярных технологий является фейс-свап - замена лица на фото или видео. С ее помощью мошенники выдают себя за других людей.

По данным пресс-службы СПб ФИЦ РАН, на первом этапе проекта ученые составили базу данных с лицами, сделанными при помощи технологии фейс-свап. Для создания этих изображений они использовали технологии ИИ, находящиеся в свободном доступе. Именно такими, как правило, и пользуются злоумышленники.

Всего исследователи собрали более 30 тысяч картинок. На основе собранной базы данных обучили нейросеть. При этом ученые обращали внимание на целый комплекс признаков фейс-свапа. Среди них, например, изменение геометрии головы или искажение отдельных элементов лица.

«Наши эксперименты на фотографиях, созданных с помощью фейс-свапа, показали высокую точность распознавания», - сообщил старший научный сотрудник Лаборатории интегрированных систем автоматизации СПб ФИЦ РАН Алексей Кашевник.

Он рассказал, что на основе разработки появится библиотека, которую можно будет встраивать в мессенджеры. Пользователь автоматически получит информацию, если по видеосвязи в диалог с ним вступит не реальный человек, а мошенник под прикрытием фейс-свапа.

Ранее эксперт сервиса «Мошеловка» Алла Храпунова в беседе со «Звездой» объяснила, как мошенники записывают голоса, чтобы затем применять как дипфейк. Для этого ими используется схема звонков со сбросом - аферисты звонят и сбрасывают номер телефона, чтобы жертва им перезвонила.