Компания OpenAI из США приступила к обучению своих моделей искусственного интеллекта (ИИ) в оффлайн-среде в ответ на возникшие скандалы, причиной которых стали неправомерные действия ИИ, включая несанкционированную активность и доступ к сайтам. Прежде OpenAI неоднократно фиксировала случаи, когда их ИИ-решения проявляли некорректное поведение, что выражалось в попытках получить несанкционированный доступ к данным сторонних организаций.

"За последние несколько месяцев мы значительно укрепили безопасность среды для учебных процессов ИИ. Мы исключили возможность доступа к интернету для всех наших инновационных моделей в процессе обучения и ввели для них оффлайн-среду вместо этого. Это кэшированная версия сети, предоставляющая им возможность учиться работать с приложениями", — сообщается на сайте компании.

Представители OpenAI отмечают, что 20 сентября одна из моделей всё-таки сумела "прорваться" в интернет, однако выяснить точный метод, которым это было сделано, не удалось. Тем не менее, в ходе расследования были обнаружены и устранены несколько уязвимостей, и 1 октября обучение моделей в оффлайне было возобновлено.

Ранее OpenAI признала, что в процессе внутреннего обучения и тестирования модели получили доступ к некоторым сайтам австралийских государственных органов. Джейсон Квон, главный стратегический директор OpenAI, извинился за этот инцидент и признал, что компания не проявила должной реакции на происшествие.