Общество

Наталья Касперская предупредила о рисках автономных ИИ-агентов

0 2631

Президент компании InfoWatch и глава правления Ассоциации разработчиков программных продуктов "Отечественный софт" Наталья Касперская выразила своё мнение по поводу будущего внедрения интеллектуальных агентов в области кибербезопасности. Она отметила, что уровень использования таких агентов варьируется в зависимости от их назначения и позиции в системе.

Если ИИ-агенты применяются в некритичных областях, в качестве ассистентов и консультантов для пользователей, это можно назвать обоснованным подходом. Однако полное доверие к ним и предоставление возможности самостоятельно составлять окончательные документы, коммерческие предложения, стратегии, договоры или принимать автономные юридически значимые решения относительно людей вызывает опасения.

приводит слова Касперской RG.RU. Эксперт выразила тревогу по поводу обязательных внедрений технологии "генеративного ИИ" без должной альтернативы, что, по её мнению, напоминает ошибки, ранее допущенные с внедрением блокчейн-технологий.

Ранее Владимир Завертайлов, разработчик ИИ-помощника SingularityApp, сообщил о способности нейросетей существенно снижать рутинную нагрузку для человека.