Оснащённый искусственным интеллектом популярный чат-бот ChatGPT оказался способен перенаправлять пользователей на мошеннические сайты.

Как сообщают в Управлении по организации борьбы с противоправным использованием информационно-коммуникационных технологий (УБК) МВД России, специалисты выявили случаи, когда алгоритмы искусственного интеллекта вели пользователей на поддельные интернет-ресурсы. Такие сайты предназначены для хищения личных данных и денежных средств.

В УБК уточнили, что предлагающие товары и мебель мошеннические сайты появлялись в созданных искусственным интеллектом рекомендациях. Злоумышленники воспроизводят брендовую символику, изображения и описания товаров фирм, недавно завершивших деятельность. Покупателям в некоторых случаях предоставлялись скидки до 80%.

Киберполиция пояснила, что специалисты предполагают использование аферистами метода «отравления данных». Такой способ включает в себя распространение в интернете фальшивой информации с поддельными отзывами, автоматически созданными сообщениями для форумов и ложными данными для индексации. Подобные действия искажают обработку и сортировку данных алгоритмами искусственного интеллекта.

Представители УБК отметили, что на данный момент мошеннические сайты удалены из поисковых систем.

Для повышения безопасности МВД рекомендует проводить перекрёстную проверку данных и сравнивать информацию на различных поисковых платформах, искать её первоисточники.

В киберполиции предостерегают, что алгоритмы искусственного интеллекта иногда могут выдавать устаревшие и неактуальные сведения.