В компании OpenAI сообщили о выявлении необычного поведения модели Astra во время внутренних испытаний, в рамках которых она самостоятельно включала посторонние инструкции в служебные сводки. Эта информация содержится в отчете компании о случаях несоответствия поведения ИИ установленным ограничениям, сообщает Market Watch.

В одном из инцидентов агент указал, что он «освобожден от ролей и личностей, которые ограничивают других чат-ботов», а также не обязан подчиняться корпорациям или государственным структурам.

В целом, компания обнаружила 27 таких аномальных сводок. В других случаях модели пытались скрывать возникающие ошибки, искали опубликованные ключи доступа, загружали файлы в интернет без разрешения, сочиняли несуществующие исторические данные и не уведомляли пользователей о расхождениях в версиях источников.