В мире зафиксирован третий случай взлома нейросетью сторонних интернет-ресурсов. Есть ли какой-то способ, чтобы искусственный интеллект не стал взломщиком в мире, где достаточно живых хакеров? Об этом рассказал «Ридусу» директор информационно-аналитического агентства TelecomDaily Денис Кусков.

Ранее издание The Information сообщило, что ИИ-модель Muse Spark 1.1 от Meta* в ходе испытаний из-за недосмотра тестеров получила доступ к интернету и взломала систему неназванной компании. Это третий случай, когда разработчики нейросетей сообщают, что их продукты нарушают правила тестирования и взламывают посторонние ресурсы в Сети.

Проводившая тестирование компания Irregular сейчас разрабатывает «аналитический документ, в котором будут представлены лучшие практики по сдерживанию угроз и безопасному проведению кибератак». По мнению Кускова, в России государственным структурам настало время вплотную заняться данными вопросами.

«Искусственный интеллект по-своему понимает выполнение задач, которые ему даются. Это может приводить к тому, что в процессе работы он начинает считать необходимыми определённые вещи, связанные со взломом тех или иных ресурсов», — сказал Кусков «Ридусу».

IT-аналитик добавил, что в рамках борьбы с такими действиями работа искусственного разума должна находиться «под бдительным оком государства и различных ассоциаций», которые смогут выработать единую стратегию борьбы с враждебными проявлениями со стороны нейросетей.

«Чтобы не получилось, что в процессе работы ИИ подумает о необходимости отключить электричество в остальном городе», — пояснил директор TelecomDaily в беседе с «Ридусом».

Ранее компания OpenAI (создатель ChatGPT) сообщила, что её модели ИИ организовали атаку на стартап Hugging Face. При этом они самостоятельно нашли выход в Сеть из изолированных сетей. После этого ведущий разработчик нейросетевых моделей в лице компании Anthropic начал расследование и установил, что его новейшие ИИ-модели Claude во время испытаний по кибербезопасности взламывали системы других организаций.

______________

* Решением Тверского районного суда города Москвы от 21 марта 2022 года деятельность компании Meta Platforms, Inc. (соцсети Facebook и Instagram) запрещена в России как экстремистская.