Специалист в области информационной и экологической безопасности Илья Рыбальченко отметил, что автономное принятие решения ИИ-агентом удалять файлы с компьютера является нежелательным. В разговоре с РИАМО он уточнил, что изначально агент должен представить перечень файлов, предназначенных для удаления, и провести их предварительный анализ.

Рыбальченко также рекомендует избегать окончательного уничтожения данных, предлагая вместо этого перемещать их в корзину. При этом применение технологий искусственного интеллекта для очистки диска поднимает вопросы о конфиденциальности, поскольку агенту может понадобиться доступ к содержимому файлов для их анализа. Рыбальченко подчеркнул, что наличие такого доступа и обучение на собранных данных — это разные процессы.

Будет ли информация оставаться на компьютере, передаваться на удаленные серверы, храниться или использоваться для улучшения алгоритмов, зависит от конкретной архитектуры сервиса, его настроек и политики обработки информации, добавил специалист.

Ранее инженер в области робототехники и предприниматель Владимир Белый в беседе с НСН отметил, что стандартные методы проверки на человеческую сущность утрачивают свою эффективность в связи с прогрессом разработок в области искусственного интеллекта, из-за чего требуется пересмотр подходов к процессу верификации.