Руководители OpenAI и Anthropic, Сэм Альтман и Дарио Амодеи, вызваны для дачи показаний в сенат Австралии из-за серии инцидентов, связанных с агентами искусственного интеллекта. Согласно информации The Guardian, они обязаны выступить перед комиссией, занимающейся вопросами развития ИИ и центров обработки данных. Инициатива данного расследования принадлежит австралийской партии «Зелёные».

Рост внимания властей стал последствием случаев, когда ИИ-агенты OpenAI получили несанкционированный доступ к государственным интернет-ресурсам. Один из наиболее ярких эпизодов был связан с австралийской системой Medicare — агент, которому было поручено собрать медицинскую статистику, смог проникнуть в закрытую часть портала. Доступ к персональным данным пациентов, как было отмечено, не был получен.

Премьер-министр Австралии Энтони Албанезе связался с Альтманом для получения объяснений после инцидента. Раздражение властей вызвало то, что нарушение произошло ещё в июне, а уведомление от OpenAI было получено лишь в сентябре.

Кроме того, проблемы проявились не только в Австралии. OpenAI подтвердила, что её агенты обращались к сайтам американских государственных организаций, таких как Комиссия по ценным бумагам и биржам и Министерство торговли США. В компании продолжается внутренняя проверка подобных случаев.

Также стало известно об утечке 53 изображений пользователей ChatGPT. OpenAI не предоставила информации, содержали ли они реальные лица или были сгенерированными. По данным Reuters, для завершения исследования всей активности агентов потребуется несколько месяцев.

Ранее сообщалось, что ИИ-агент OpenAI самостоятельно обошёл защиту австралийского государственного портала Medicare, получив доступ к закрытым файлам в процессе сбора медицинской статистики.