На территории России зафиксирована тревожная тенденция применения нейросетевых двойников в мошеннических схемах. Как сообщил Life.ru член Комитета Госдумы по информационной политике и федеральный координатор проекта «Цифровая Россия» Антон Немкин, современные инструменты искусственного интеллекта позволяют с высокой степенью точности воссоздавать внешность, мимику и голос конкретного человека. Таким образом, злоумышленники могут создавать убедительные видеообращения от имени известных лиц или даже близких.

Одним из распространённых сценариев использования таких технологий является отправка видео от имени известных личностей, которое побуждает пользователей перейти по ссылке и ввести личные данные. Рассчитано это на то, что изображение и голос кажутся совершенно достоверными, что является новой формой социальной инженерии, усиленной техническими средствами.

Антон Немкин, комментируя способы распознавания дипфейков, отметил, что хотя идентифицировать подделку всё же возможно, пользователи должны проявлять повышенное внимание. Для этого, например, в режиме живого видеозвонка рекомендуется задавать простые вопросы или просить выполнить легкие действия, такие как поднятие руки или поворот головы, которые нейросеть пока неспособна воспроизвести в реальном времени.

Немкин также советовал не доверять ссылкам и видео, призывающим к срочным действиям, а проверять информацию, повышая уровень цифровой грамотности, что поможет снизить риски. Ранее Life.ru сообщал о случаях, когда мошенники, якобы от лица военкомата, с помощью реестра электронных повесток получали доступ к аккаунтам пользователей на портале «Госуслуги».