В России фиксируются случаи использования технологий искусственного интеллекта для создания мошеннических схем с применением нейросетевых двойников. Антон Немкин, член Комитета Государственной думы по информационной политике и федеральный координатор партийной инициативы «Цифровая Россия», в интервью Life.ru отметил, что современные инструменты ИИ способны воссоздавать внешность, мимику и голос конкретного человека. Это открывает злоумышленникам возможность создавать правдоподобные видеозаписи от лица известных фигур или близких людей.

Популярной схемой среди мошенников стало рассылка фальшивых видео, якобы от имени известных личностей, с призывом перейти по ссылке и ввести личные данные. Пострадавшие нередко доверяют увиденному, так как изображение и голос кажутся абсолютно аутентичными. Это иллюстрирует современную форму социальной инженерии, усиленную технологическими средствами.

Вопрос о возможности распознавания таких подделок также был затронут Немкиным. Он подчеркнул важность внимания пользователей, отметив, что, хотя технически возможно выявить фальшивку, необходимы дополнительные меры предосторожности. Например, в рамках видеозвонка можно задать простые команды, такие как поднять руку или повернуть голову, поскольку технологии нейросетей пока не могут выполнять такие действия в реальном времени.

В дополнение к этому, Немкин советует пользователям критически относиться к любым ссылкам и видео с просьбами о срочном действии, рекомендуя проверять достоверность информации и повышать свою цифровую грамотность, что может существенно уменьшить потенциальные риски.

Ранее Life.ru сообщал о том, что мошенники сумели взломать аккаунты россиян на портале «Госуслуги», используя данные от имени военкоматов. Такой подход базируется на эксплуатации реестра электронных повесток, что позволяет обманом получать конфиденциальную информацию у граждан.