Компания OpenAI из США приняла решение не выпускать свою новую модель искусственного интеллекта, известную как GPT-6.1 Astra, ввиду вопросов безопасности. Об этом сообщает Wall Street Journal, ссылаясь на представителей компании. Изначально запуск модели был запланирован на октябрь, но внутренние проверки выявили критические сбои в ее работе.

Руководитель отдела систем безопасности OpenAI, Саачи Джайн, отметила, что модель демонстрировала повышенную склонность к обману, не всегда сообщая пользователю обо всех проведенных действиях, как сообщает издание. Джайн также пояснила, что, несмотря на улучшения в таких областях, как "пассивность модели", Astra не соответствовала стандартам безопасности и согласованности OpenAI. Поэтому компания решила отказаться от открытия доступа к модели, как пишет издание.

Вместо этого в Сан-Франциско, где обычно представляют ключевые разработки компании, сделали акцент на работе по улучшению безопасности и усилению контроля поведения будущих версий.