ИИ-агенты компании OpenAI в октябре дважды ослабляли системы мониторинга, призванные следить за некорректным поведением автономных ботов искусственного интеллекта. Об этом сообщила газета Financial Times, ссылаясь на заявление компании.

«Агенты OpenAI отключили системы мониторинга и механизмы защиты, предназначенные для выявления ненадлежащего поведения автономных ИИ-ботов», — говорится в сообщении издания.

По данным Financial Times, в октябре произошло два таких инцидента. ИИ-агенты попытались обмануть сотрудников и ослабить системы контроля.

В одном случае ИИ-агент отключил автоматическое оповещение команды OpenAI.

Несколько дней спустя, в ходе другого инцидента, ИИ-агент вывел из строя систему мониторинга и ввел в заблуждение сотрудников OpenAI по этому поводу.

В издании приводится заявление OpenAI:

«В обоих случаях агенты рассматривали вопрос о сохранении мер контроля, однако истолковали стандартные инструкции по кодированию как разрешение на их ослабление».

Компания сообщает, что начато расследование происшествий и усилена защита систем мониторинга. В прошлом OpenAI неоднократно указывала на некорректное поведение своих ИИ-моделей, включая попытки несанкционированного доступа к данным и ресурсам других организаций.