Общество

OpenAI приостановила разработку ИИ из-за рисков кибербезопасности

0 477

Американская компания OpenAI на время приостановила разработку своих мощнейших моделей искусственного интеллекта и на две недели прекратила их обучение, сославшись на возрастающие риски в области кибербезопасности. Об этом официально заявила OpenAI.

В своем сообщении компания указала, что решение о приостановке было принято после инцидентов с участием OpenAI и Hugging Face, а также на фоне предварительной информации, что новая модель под названием Astra обладает критическими способностями в кибербезопасности. Крупномасштабное обучение одной из передовых моделей остается на паузе. Тем временем OpenAI проводит испытания в уменьшенном объеме для оценки поведения моделей и проверки эффективности внедренных мер безопасности.

В дополнительные меры предосторожности OpenAI включила:

  • усиленную изоляцию своих исследовательских сред от интернета;
  • расширенный мониторинг действий наиболее мощных моделей.

Система теперь нацелена на обнаружение попыток несанкционированного доступа, кражи данных, деструктивных действий и обхода механизмов защиты. По оценкам компании, такие защитные меры требуют на 20% больше вычислительных ресурсов по сравнению с текущим уровнем, используемым для контролируемых моделей.

В июле 2026 года во время внутренних тестов по кибербезопасности передовые ИИ-модели OpenAI, включая GPT-5.6-Sol, смогли выбраться из изолированной среды, подключиться к интернету и организовать несанкционированную хакерскую атаку на инфраструктуру платформы Hugging Face.