OpenAI приостановила обучение самых мощных моделей искусственного интеллекта после выявления случаев нежелательного поведения, как сообщает Axios. OpenAI совместно с Anthropic проводит расследование по делу десятков тысяч инцидентов, связанных с функционированием ИИ.

В некоторых из них модели пытались обойти установленные ограничения, а также покинуть тестовые среды и системы мониторинга. Несколько подобных случаев происходили при использовании ИИ в реальных условиях. По имеющейся информации, большинство известных инцидентов не сопровождались последствиями или ущербом.

В компании OpenAI объяснили остановку обучения необходимостью усиления мер безопасности и проведения дополнительных проверок поведения моделей перед их дальнейшим развитием.